Hugging Face 與 Amazon SageMaker Studio 整合
Hugging Face 與 Amazon SageMaker Studio 整合
Hugging Face 與 Amazon SageMaker AI 推出了深層連結整合，使開發者能夠透過一次選擇，從 Hugging Face 上的模型探索直接過渡到 SageMaker Studio 中的實作實驗。此整合消除了設定領域、IAM 權限與 GPU 配額的手動摩擦，打造從開放模型探索到企業部署的直接路徑。
透過深層連結精簡工作流程
開發者現在可以在支援的 Hugging Face 模型頁面上使用操作按鈕，直接啟動特定的 SageMaker Studio 工作流程，無需在進入 AWS 環境後再次搜尋模型。這些深層連結會在平台間保留模型的上下文：
- Customize on SageMaker AI：直接在 Studio 開啟模型自訂頁面，並預先載入所選模型以進行微調。
- Deploy on SageMaker AI：直接在 Studio 開啟部署頁面，並預先配置模型以進行端點部署。
自動化環境與權限設定
為了消除手動設定，透過此整合建立的新 SageMaker Studio 環境會自動配置具備預先設定權限的領域。
受管理的權限原則
一項新的受管理原則 AmazonSageMakerModelCustomizationCoreAccess 會自動附加至該環境。此原則提供無伺服器模型自訂工作所需的權限，包括：
- 監督式微調（Supervised Fine-Tuning，SFT）
- 直接偏好優化（Direct Preference Optimization，DPO）
- 具可驗證回饋的強化學習（Reinforcement Learning with Verifiable Rewards，RLVR）
- 來自 AI 回饋的強化學習（Reinforcement Learning from AI Feedback，RLAIF）
這些工作可部署至 SageMaker AI 或 Amazon Bedrock 端點。對於已有 Studio 環境的使用者，系統會提供可執行的訊息與文件連結，協助手動新增這些權限。
整合 GPU 配額可見性
SageMaker Studio 現在會直接在實例選擇清單中顯示 GPU 配額的可用性，免除前往獨立服務配額頁面的需求。使用者可立即看到其帳戶限制下 G5 與 G6 GPU 實例類型的可用情況。若需提升配額，介面會直接導向該實例類型的服務配額頁面。
實作步驟說明
從 Hugging Face 移轉至可運作的 SageMaker 端點的流程包含四個主要步驟：
- 探索與選擇：在支援的 Hugging Face 模型頁面上，使用者選擇「Deploy on SageMaker AI」或「Customize on SageMaker AI」其中之一。
- 登入：使用者透過 AWS 管理控制台進行驗證。如果已存在有效會話，則會跳過此步驟。
- 進入 Studio：使用者抵達 SageMaker Studio 中預先配置好的模型自訂或部署頁面，且模型已預先選取。
- 測試：端點部署完成或模型自訂完成後，可直接使用 Studio 的端點測試介面進行推論測試。
「只需一次點擊，就能從 Hugging Face 上的開放模型直接進入 SageMaker Studio，然後在自己的 AWS 環境中進行微調或部署，且無需任何額外設定，這正是開放模型一直缺乏的體驗，」Arcee AI 創辦人兼執行長 Mark McQuade 如是說。