Hugging Face 与 Google Cloud Vertex AI 模型花园集成

Hugging Face 和 Google Cloud 推出了 “Deploy on Google Cloud”，这项新集成允许开发者在自己的 Google Cloud 账户中将数千个开源基础模型部署为 API 端点。该集成通过使用 Vertex AI 或 Google Kubernetes Engine（GKE），简化了从模型发现到生产部署的过程。

通过 Vertex AI 和 GKE 简化部署

开发者现在可以将开源模型部署到生产就绪的端点，而无需管理底层基础设施或服务器。这通过两个主要入口实现：

从 Hugging Face Hub 部署

对于标记为 “text-generation-inference” 的模型，用户可以在模型卡片上选择 “Deploy” 菜单并选择 “Google Cloud”。此操作会将用户重定向到 Google Cloud Console，用户可以一键将模型部署到 Vertex AI，或使用清单模板部署到 GKE Kubernetes 集群。

从 Vertex Model Garden 部署

Google Cloud 用户可以在 Google Cloud 控制台中直接使用 Vertex Model Garden 中的 “Deploy From Hugging Face” 选项来发现并部署模型。此功能允许用户搜索模型 ID，访问数百个流行的开源 LLM，并提供预先测试的硬件配置，同时为 Vertex AI 或 GKE 预填所需的部署设置。

技术基础设施与兼容性

该集成利用 Hugging Face 的生产解决方案 Text Generation Inference（TGI）为最流行的开源模型提供推理能力。为确保安全和授权，部署受限模型的用户必须提供其 Hugging Face 访问令牌，以授权模型下载。

AI 构建者的战略目标

该合作旨在降低安全可靠地部署开源生成式 AI 模型所需的时间和资源。通过在 Vertex AI 生态系统中提供针对 Hugging Face 模型的专用配置和资产，该集成帮助开发生成式 AI 应用的开发者摆脱基础设施管理的负担。

SUMMARY: Hugging Face 推出了 “Deploy on Google Cloud”，使用户能够通过 Hugging Face Hub 或 Vertex Model Garden 将数千个开源基础模型部署到 Vertex AI 或 Google Kubernetes Engine（GKE）。

TITLE: Hugging Face 与 Google Cloud Vertex AI 模型花园集成