aws/sagemaker-training-toolkit

Train machine learning models within a 🐳 Docker container using 🧠 Amazon SageMaker.

解决的问题

该工具包提供了一种方法,使任何 Docker 容器都能与 Amazon SageMaker 兼容,用于训练机器学习模型。它消除了使用自定义训练容器时,为处理环境设置、数据路径和超参数而编写复杂样板代码的需要。

工作原理

该工具包作为 Python 库安装在 Docker 镜像中。它管理由 SAGEMAKER_PROGRAM 环境变量定义的训练脚本入口点,并处理 SageMaker 服务与训练脚本之间的通信。它提供了一个 Environment 对象,可程序化地访问 SageMaker 提供的超参数、文件系统路径和环境变量(如输入数据通道)。

适用人群

使用自定义 Docker 容器在 Amazon SageMaker 上训练模型,并希望以标准化方式将训练脚本与 SageMaker 平台集成的数据科学家和机器学习工程师。

主要亮点

  • 易于集成:只需通过 pip 安装该库,并在 Dockerfile 中定义入口点脚本。
  • 超参数处理:自动将超参数作为脚本参数传递给训练入口点。
  • 环境访问:提供容器环境的只读快照,包括输入数据通道路径和模型目录。
  • 执行管理:包含一个实用工具,用于执行入口点,并通过特定输出文件向 SageMaker 平台发送成功或失败信号。

相关

  • 项目
  • 项目
  • 项目
  • 项目