Hugging Face 在 Azure Machine Learning 上的模型目录
Hugging Face 和 Microsoft 已将 Hugging Face Hub 模型目录直接集成到 Azure Machine Learning Studio。此合作使用户能够通过托管终结点，只需几次点击即可将来自 Hugging Face Hub 的数千种流行 Transformers 模型部署到安全且可扩展的 Azure 基础设施上。
企业部署的原生集成
Hugging Face 模型目录现在是 Azure Machine Learning Studio 体验的原生部分。此集成取代了之前的 Azure Marketplace 托管应用解决方案，Hugging Face 将其描述为一个有前景的初步步骤，但存在只能通过原生集成解决的限制。
这种向原生体验的转变旨在满足企业客户的特定需求，这些客户需要对其基础设施具有管理控制权，以满足严格的安全、合规和隐私要求。通过在其自身安全的 Azure 环境中部署模型，组织可以利用开源模型，同时保持对其数据和数据流的必要治理。
解决生产推理挑战
将 Transformers 部署到生产环境通常涉及简单性与控制之间的权衡。该集成解决了三个主要挑战：
- 模型选择受限： 基于云的 AI 服务通常仅提供有限的模型集合，这些模型可能不支持特定任务类型或不允许深度自定义。
- 运营复杂性： 虽然内部平台或通用云 ML 服务提供完全控制，但它们通常会增加部署和扩展生产级推理 API 所需的时间、复杂性和成本。
- 安全与合规： 许多组织由于强制要求模型必须部署在他们直接管理控制下的基础设施上，因而无法使用第三方 AI 服务。
在 Azure Machine Learning 中的部署工作流程
从 Hugging Face Hub 部署模型到 Azure Machine Learning 的过程已被简化为以下几个步骤：
- 访问注册表： 在 Azure Machine Learning Studio 内打开 Hugging Face 注册表。
- 浏览目录： 访问 Hugging Face 模型目录，并按任务或许可证过滤模型。
- 选择模型： 选择特定的模型磁贴以打开其详细页面。
- 配置部署： 选择实时部署选项。
- 预配基础设施： 选择 Azure 实例类型并启动部署。
部署后，模型可作为推理 API 使用，可在几分钟内集成到应用程序中。
可用性
Azure Machine Learning 上的 Hugging Face 模型目录目前在所有 Azure Machine Learning 可用的 Azure 区域中以公开预览版提供。