Hugging Face と Microsoft の戦略的協業アップデート 2024年5月

Hugging Face と Microsoft の戦略的協業アップデート 2024年5月

Hugging Face と Microsoft は、クラウドインフラストラクチャ、ハードウェア、開発者ツール全体でオープンソース AI モデルのデプロイと利用を簡素化するために、戦略的協業を深化させました。このパートナーシップは、Azure Model Catalog を通じてオープンモデルへのアクセスを向上させ、新しい AMD ハードウェア上でのパフォーマンス最適化、そして Hugging Face Spaces と VS Code 間の開発者ワークフローの効率化に焦点を当てています。

Azure AI Studio におけるオープンモデルアクセスの拡張

Microsoft Azure AI Studio では、拡張された Hugging Face Collection が利用可能となり、複数の高性能オープン Large Language Model（LLM）をワンクリックでデプロイできるようになりました。この統合により、Azure AI の顧客は Hugging Face Hub から直接、または Azure AI Studio のインターフェース内からモデルをデプロイできます。

コレクションに新たに追加されたモデルは以下です：

  • Llama 3 (Meta)
  • Mistral 7B (Mistral AI)
  • Command R Plus (Cohere for AI)
  • Qwen 1.5 110B (Qwen)
  • Open LLM Leaderboard でランク付けされた、Hugging Face コミュニティのさまざまなトップパフォーマンスのファインチューニング済みモデル。

Azure 上の AMD MI300X によるハードウェア最適化

Azure は、AMD Instinct MI300 GPU を搭載した Azure ND MI300X 仮想マシン（VM）の一般提供を発表しました。Hugging Face は AMD および Microsoft と協力し、これらの VM 上で Hugging Face モデルのパフォーマンスとコスト効率を最適化しました。

この最適化は、Optimum-AMD オープンソースライブラリを通じて実現されており、ROCm 統合と AMD Instinct GPU 上でのモデルおよびライブラリの継続的テストを提供し、高いパフォーマンスを保証します。

オープンサイエンスとローカル推論の進展

Microsoft は、MIT ライセンスの Phi-3 ファミリーを含む約 300 のモデルを Hugging Face Hub にホストすることで、オープンサイエンスへの貢献を続けています。3.8 億パラメータを持つ Phi-3 mini モデルはデバイス上でのアプリケーション向けに設計され、現在 Hugging Face Chat で利用可能です。

ローカル推論を容易にするため、Hugging Face と Microsoft は Transformers.js と ONNX Runtime Web を通じて WebGPU を活用しています。この協業により、Phi-3 のようなモデルをブラウザ上でローカルに実行でき、デモでは WebGPU を使用して 1 秒あたり 70 トークン以上の生成が示されています。

Spaces Dev Mode による開発者体験の向上

Spaces Dev Mode と呼ばれる新しい統合により、開発者は Hugging Face Spaces（50 万以上の AI デモアプリケーションが存在）をローカルの VS Code 環境に直接接続したり、Web でホストされた VS Code インスタンスを利用したりできます。

Spaces Dev Mode は現在ベータ版で、Hugging Face PRO サブスクライバーが利用可能です。ローカル開発とクラウド上でホストされた AI デモ間のシームレスな移行を実現することを目指しています.

Sources