cube-studio: 一个具有可视化流水线编排和异构计算调度功能的云原生一站式 ML 平台

它解决了什么问题

CubeStudio 是一个云原生的、一站式机器学习平台，旨在简化整个 ML 生命周期。它消除了管理基础设施、环境配置和资源调度的摩擦，允许 AI 开发人员在无需手动配置服务器或 Kubernetes 集群的情况下，从数据标注、交互式开发转向分布式训练和模型部署。

它是如何工作的

该平台构建在 Kubernetes 之上，可在多个集群和资源组之间编排计算资源（CPU、GPU、NPU）。它提供了一个基于 Web 的界面，用于：

• 在线开发：集成 JupyterLab 和 VS Code 等 IDE 进行交互式编码。
• 流水线编排：一个拖拽式的可视化编辑器，用于构建 ML 工作流（数据导入 $\rightarrow$ 预处理 $\rightarrow$ 训练 $\rightarrow$ 评估 $\rightarrow$ 部署）。
• 资源管理：异构硬件（NVIDIA、Huawei Ascend 等）的自动化调度，并支持用于高速分布式训练的 RDMA。
• 推理服务：一个“零代码”部署系统，用于提供模型服务，支持金丝雀发布、自动扩缩容和流量切分。

适用人群

• AI 研究员和工程师：需要可扩展的分布式训练和快速原型设计环境的人员。
• MLOps 团队：希望标准化 ML 流水线、管理多租户资源配额并监控 GPU 利用率的人员。
• 企业 AI 团队：需要支持多种硬件架构（ARM、x86）和各种 AI 加速器的集中式平台的人员。

亮点

• 异构计算支持：兼容多种 GPU/NPU（T4、V100、A100、Ascend、DCU）和 ARM 架构。
• 可视化流水线编辑器：通过内置的特征处理和模型训练算子进行拖拽式工作流编排。
• 集成标注：一个内置的数据标注平台，支持图像、文本、音频和多模态数据，包括 LLM 辅助的自动标注。
• LLM 生态系统：专门支持大模型微调（通过 Llama-Factory）、分布式推理（vLLM）和包含 400 多个预训练模型的模型中心（AIHub）。
• 企业级管理：包括 SSO、RBAC、多租户资源隔离以及针对计算使用的详细计费/计量。