tencentmusic/cube-studio

cube studio开源云原生一站式机器学习/深度学习/大模型AI平台，mlops算法链路全流程，算力租赁平台，notebook在线开发，拖拉拽任务流pipeline编排，多机多卡分布式训练，超参搜索，推理服务VGPU虚拟化，边缘计算，标注平台自动化标注，deepseek等大模型sft微调/奖励模型/强化学习训练，vllm/ollama/mindie大模型多机推理，私有知识库，AI模型市场，支持国产cpu/gpu/npu 昇腾生态，支持RDMA，支持pytorch/tf/mxnet/deepspeed/paddle/colossalai/horovod/ray/volcano等分布式

What it solves

Cube Studio 是一個開源、雲原生的機器學習平台，旨在為整個 ML 生命周期提供一站式服務。它解決了在大規模環境中管理 AI 開發、訓練與部署所需的資源、使用者與基礎設施的複雜性。

How it works

它作為雲原生平台運行，整合各種基礎設施能力。平台管理計算資源（CPU、GPU 與專用 AI 晶片）、儲存（NFS、S3 等）以及網路配置。提供集中式管理介面，讓專案群組、使用者角色（RBAC）以及跨多個 Kubernetes 叢集的資源分配得以統一管理，亦支援邊緣叢集與無伺服器模式（Tencent Cloud 與 Alibaba Cloud）。

Who it’s for

此平台適用於需要可擴展、企業級 ML 平台，以在多樣化硬體與雲端環境中管理 AI 工作負載的組織與團隊。

Highlights

Broad Hardware Support: 支援廣泛的 GPU（T4、V100、A100）與國產 AI 晶片（DCU、NPU、MLU），同時支援 RDMA 與 vGPU。
Enterprise Management: 內建 RBAC、SSO（LDAP、OID）以及開發、訓練與推論的詳細資源計量與計費功能。
Flexible Infrastructure: 支援多個 Kubernetes 叢集、containerd 與多種分散式儲存方案（S3、MinIO、CephFS 等）。
Cloud-Native Integration: 為主要雲服務提供商提供無伺服器叢集模式，並支援邊緣叢集的訓練與推論部署。