aws/sagemaker-python-sdk

解決的問題

Amazon SageMaker Python SDK 提供了在 AWS 上訓練和部署機器學習模型的統一介面。它消除了管理底層基礎設施的複雜性，讓開發者可以使用流行的框架（如 PyTorch 和 Apache MXNet）或自訂 Docker 容器，以可擴展的方式建構和托管模型。

工作原理

SDK 提供了用於管理 ML 生命周期的高階 Python 類別。在 3.x 版本中，它採用模組化架構，核心、訓練和推理功能由獨立的套件管理。主要組件包括：

• ModelTrainer：統一的類別，取代特定框架的估計器，用於處理模型訓練。
• ModelBuilder：用於部署模型和管理推論端點的統一類別。
• 微調訓練器：專門用於使用 LoRA 等技術自訂基礎模型的類別（SFTTrainer、DPOTrainer、RLAIFTrainer、RLVRTrainer）。

適用對象

在生產環境中使用 Amazon SageMaker 進行機器學習模型訓練、調校和部署的資料科學家與 ML 工程師。

主要亮點

• 統一 API：以單一、直覺的類別取代多個框架特定的類別，用於訓練與推論。
• 基礎模型自訂：內建支援監督式微調（SFT）、直接偏好最佳化（DPO）與 AI 反饋的強化學習（RLAIF）。
• 彈性訓練：支援自訂 Docker 容器、Amazon 的內建演算法與分散式訓練。
• MLOps 整合：包含超參數調校、模型註冊表與處理作業的工具。
• 部署選項：可將模型部署至 SageMaker 或 Amazon Bedrock。