Hugging Face Model Catalog 在 Azure Machine Learning 上
Hugging Face 與 Microsoft 已將 Hugging Face Hub Model Catalog 直接整合到 Azure Machine Learning Studio。此合作使使用者能夠僅需幾次點擊，透過受管理的端點將數千個來自 Hugging Face Hub 的熱門 Transformers 模型部署到安全且可擴充的 Azure 基礎設施。
企業部署的原生整合
Hugging Face Model Catalog 現在已成為 Azure Machine Learning Studio 體驗的一部分。此整合取代了先前的 Azure Marketplace 受管理應用程式解決方案，Hugging Face 說明這是一個有前景的初步步驟，但其限制僅能透過原生整合來解決。
此轉向原生體驗旨在滿足企業客戶的特定需求，他們需要對基礎設施擁有管理控制權，以符合嚴格的安全、合規與隱私需求。透過在其自身安全的 Azure 環境中部署模型，組織可以利用開放原始碼模型，同時保持對其資料與資料流的必要治理。
解決生產推理挑戰
將 Transformers 部署到生產環境通常涉及簡易性與控制權之間的權衡。此整合解決了三項主要挑戰：
- 模型選擇有限： 基於雲端的 AI 服務通常僅提供有限的模型集合，可能不支援特定任務類型或不允許深度自訂。
- 操作複雜度： 雖然內部平台或一般雲端 ML 服務提供完整控制，但它們常會增加部署及擴展生產級推理 API 所需的時間、複雜度與成本。
- 安全與合規： 許多組織因法規要求模型必須部署在其直接管理控制之下的基礎設施上，而無法使用第三方 AI 服務。
在 Azure Machine Learning 中的部署工作流程
從 Hugging Face Hub 部署模型到 Azure Machine Learning 的流程已簡化為幾個步驟：
- 存取註冊表： 在 Azure Machine Learning Studio 內開啟 Hugging Face 註冊表。
- 瀏覽目錄： 存取 Hugging Face Model Catalog 並依任務或授權過濾模型。
- 選取模型： 選擇特定模型磁貼以開啟其詳細頁面。
- 設定部署： 選擇即時部署選項。
- 佈建基礎設施： 選擇 Azure 執行個體類型並啟動部署。
部署完成後，模型將以推理 API 的形式提供，可在幾分鐘內整合到應用程式中。
可用性
Hugging Face Model Catalog 在 Azure Machine Learning 上目前於所有 Azure Machine Learning 可用的 Azure 區域內提供公開預覽。