tencentmusic/cube-studio

cube studio开源云原生一站式机器学习/深度学习/大模型AI平台，mlops算法链路全流程，算力租赁平台，notebook在线开发，拖拉拽任务流pipeline编排，多机多卡分布式训练，超参搜索，推理服务VGPU虚拟化，边缘计算，标注平台自动化标注，deepseek等大模型sft微调/奖励模型/强化学习训练，vllm/ollama/mindie大模型多机推理，私有知识库，AI模型市场，支持国产cpu/gpu/npu 昇腾生态，支持RDMA，支持pytorch/tf/mxnet/deepspeed/paddle/colossalai/horovod/ray/volcano等分布式

What it solves

Cube Studio 是一个开源、云原生的机器学习平台，旨在为整个 ML 生命周期提供一站式服务。它解决了在大规模环境中管理 AI 开发、训练与部署所需的资源、用户与基础设施的复杂性。

How it works

它作为云原生平台运行，整合各种基础设施能力。平台管理计算资源（CPU、GPU 与专用 AI 芯片）、存储（NFS、S3 等）以及网络配置。提供集中式管理界面，让项目组、用户角色（RBAC）以及跨多个 Kubernetes 集群的资源分配得以统一管理，亦支持边缘集群与无服务器模式（Tencent Cloud 与 Alibaba Cloud）。

Who it’s for

此平台适用于需要可扩展、企业级 ML 平台，以在多样化硬件与云端环境中管理 AI 工作负载的组织与团队。

Highlights

Broad Hardware Support: 支持广泛的 GPU（T4、V100、A100）与国产 AI 芯片（DCU、NPU、MLU），同时支持 RDMA 与 vGPU。
Enterprise Management: 内建 RBAC、SSO（LDAP、OID）以及开发、训练与推理的详细资源计量与计费功能。
Flexible Infrastructure: 支持多个 Kubernetes 集群、containerd 与多种分布式存储方案（S3、MinIO、CephFS 等）。
Cloud-Native Integration: 为主要云服务提供商提供无服务器集群模式，并支持边缘集群的训练与推理部署。