Hugging Face 与 Amazon SageMaker Studio 集成
Hugging Face 与 Amazon SageMaker Studio 集成
Hugging Face 与 Amazon SageMaker AI 已推出深度链接集成，使开发者能够通过一次选择，从 Hugging Face 的模型发现直接跳转到 SageMaker Studio 进行动手实验。该集成消除了配置域、IAM 权限和 GPU 配额的手动摩擦，创建了一条从开源模型发现到企业部署的直接通道。
通过深度链接简化工作流
开发者现在可以在受支持的 Hugging Face 模型页面上使用操作按钮，直接启动特定的 SageMaker Studio 工作流，无需在进入 AWS 环境后再次搜索模型。这些深度链接在平台之间保留模型上下文：
- 在 SageMaker AI 上自定义：直接打开 Studio 中的模型自定义页面，所选模型已预加载，可进行微调。
- 在 SageMaker AI 上部署：直接打开 Studio 中的部署页面，模型已预配置，可用于端点部署。
自动化环境和权限设置
为消除手动配置，新创建的 SageMaker Studio 环境会自动配置一个带有预设权限的域。
托管权限策略
一个名为 AmazonSageMakerModelCustomizationCoreAccess 的新托管策略会自动附加到该环境。该策略提供服务器无状态模型自定义作业所需的权限，包括：
- 监督式微调（SFT）
- 直接偏好优化（DPO）
- 可验证奖励的强化学习（RLVR）
- 来自 AI 反馈的强化学习（RLAIF）
这些作业可以部署到 SageMaker AI 或 Amazon Bedrock 端点。对于已有 Studio 环境的用户，系统会提供可操作的消息和文档链接，帮助手动添加这些权限。
集成的 GPU 配额可视化
SageMaker Studio 现在在实例选择列表中直接显示 GPU 配额可用性，无需跳转到单独的 Service Quotas 页面。用户可以立即看到其账户限制下 G5 和 G6 GPU 实例类型的可用性。如果需要提升配额，界面会直接跳转到对应实例类型的 Service Quotas 页面。
实现步骤演练
从 Hugging Face 到可用 SageMaker 端点的过程包括四个主要步骤：
- 发现并选择：在受支持的 Hugging Face 模型页面上，用户选择 “Deploy on SageMaker AI” 或 “Customize on SageMaker AI”。
- 登录：用户通过 AWS Management Console 进行身份验证。如果已有活跃会话，则跳过此步骤。
- 进入 Studio：用户抵达 SageMaker Studio 中预配置的模型自定义或部署页面，模型已预先选中。
- 测试：端点部署完成或模型自定义完成后，可直接使用 Studio 的端点测试界面进行推理测试。
“只需一次点击，就能从 Hugging Face 的开源模型直接进入 SageMaker Studio，然后在自己的 AWS 环境中进行微调或部署，无需任何额外配置，这正是开源模型一直缺失的体验，” Arcee AI 创始人兼 CEO Mark McQuade 说道。