Azure Machine Learning 上の Hugging Face モデル カタログ

Hugging Face と Microsoft は、Hugging Face Hub モデル カタログを Azure Machine Learning Studio に直接統合しました。このコラボレーションにより、ユーザーは管理エンドポイントを使用して、わずか数クリックで Hugging Face Hub から数千の人気のある Transformers モデルをセキュアでスケーラブルな Azure インフラストラクチャにデプロイできるようになります。

エンタープライズ デプロイのためのネイティブ統合

Hugging Face モデル カタログは、現在 Azure Machine Learning Studio の体験の一部としてネイティブに組み込まれました。この統合は、以前の Azure Marketplace マネージド アプリ ソリューションに取って代わります。Hugging Face はこれを有望な最初の一歩と説明していますが、ネイティブ統合によってのみ解決できる制限がありました。

このネイティブ体験へのシフトは、厳格なセキュリティ、コンプライアンス、プライバシー要件を満たすためにインフラストラクチャへの管理者権限が必要なエンタープライズ顧客の特定のニーズに対応するように設計されています。自分のセキュアな Azure 環境内にモデルをデプロイすることで、組織はデータとデータフローに対する必要なガバナンスを維持しながら、オープンソース モデルを活用できます。

本番推論の課題への対応

Transformers を本番環境にデプロイする際には、通常、シンプルさと制御の間でトレードオフが発生します。この統合は、以下の 3 つの主要な課題に対応します:

  • モデル選択の制限: クラウドベースの AI サービスはしばしば限定されたモデル セットを提供し、特定のタスク タイプをサポートしないか、深いカスタマイズを許可しないことがあります。
  • 運用の複雑さ: 社内プラットフォームまたは一般的なクラウド ML サービスは完全な制御を提供しますが、本番グレードの推論 API のデプロイとスケーリングに関連する時間、複雑さ、コストを増加させることがよくあります。
  • セキュリティとコンプライアンス: 多くの組織は、モデルを直接管理下のインフラストラクチャにデプロイすることを義務付ける規制により、サードパーティの AI サービスを使用できません。

Azure Machine Learning におけるデプロイ ワークフロー

Hugging Face Hub から Azure Machine Learning へのモデル デプロイ プロセスは、いくつかの手順に合理化されています:

  1. レジストリへのアクセス: Azure Machine Learning Studio 内の Hugging Face レジストリを開きます。
  2. カタログの参照: Hugging Face モデル カタログにアクセスし、タスクまたはライセンスでモデルをフィルタリングします。
  3. モデルの選択: 特定のモデル タイルを選択し、詳細ページを開きます。
  4. デプロイの構成: リアルタイム デプロイ オプションを選択します。
  5. インフラストラクチャのプロビジョニング: Azure インスタンスタイプを選択し、デプロイを開始します。

デプロイ後、モデルは数分でアプリケーションに統合できる推論 API として利用可能になります。

可用性

Azure Machine Learning 上の Hugging Face モデル カタログは、Azure Machine Learning が現在利用可能なすべての Azure リージョンでパブリック プレビューとして利用できます。

Sources