clearml/clearml-agent

ClearML Agent - MLOps/LLMOps made easy. MLOps/LLMOps scheduler & orchestration solution

它解决了什么问题

ClearML Agent 是一个作业调度和编排解决方案，旨在消除机器学习/深度学习研究中的 DevOps 负担。它让研究人员能够在任何本地或云端资源上运行实验，而无需手动配置环境、管理容器或处理复杂的 YAML/JSON 模板。

它如何工作

Agent 充当一个工作者，监听作业队列。当实验通过 ClearML UI 入队时，Agent 会拉取该作业并自动处理以下步骤：

  1. 环境设置：创建虚拟环境或启动指定的 Docker 容器。
  2. 代码获取：从 Git 仓库克隆所需代码。
  3. 依赖安装：安装所需的 Python 包，自动根据机器的 CUDA 版本选择正确的 PyTorch 版本。
  4. 执行与监控：运行代码并将所有输出（stdout/stderr）回传至 ClearML UI，以便远程调试。

它支持裸金属、虚拟机和 Kubernetes 部署，包括 Kubernetes 的 “Glue mode”，可将 ClearML 作业直接映射为 K8s 作业。

适用对象

需要在多个 GPU、云实例或本地集群上扩展实验的机器学习工程师和研究人员，且不具备深度 DevOps 专业知识。

亮点

  • 零配置：即开即用的执行方式，无需手动模板配置。
  • 灵活资源管理：可组合云端和本地硬件的 GPU 资源。
  • 快速启动支持：提供 Python、Git 和 Agent 的预编译二进制文件，以加速冷启动并支持极小容器镜像。
  • 多平台：支持 Linux、macOS 和 Windows。
  • 编排能力：支持优先队列、云自动扩缩以及创建复杂的实验流水线。