tencentmusic/cube-studio

cube studio开源云原生一站式机器学习/深度学习/大模型AI平台，mlops算法链路全流程，算力租赁平台，notebook在线开发，拖拉拽任务流pipeline编排，多机多卡分布式训练，超参搜索，推理服务VGPU虚拟化，边缘计算，标注平台自动化标注，deepseek等大模型sft微调/奖励模型/强化学习训练，vllm/ollama/mindie大模型多机推理，私有知识库，AI模型市场，支持国产cpu/gpu/npu 昇腾生态，支持RDMA，支持pytorch/tf/mxnet/deepspeed/paddle/colossalai/horovod/ray/volcano等分布式

What it solves

Cube Studio はオープンソースかつクラウドネイティブな機械学習プラットフォームで、ML ライフサイクル全体をワンストップで提供するよう設計されています。大規模環境における AI 開発、トレーニング、デプロイのためのリソース、ユーザー、インフラ管理の複雑さを解消します。

How it works

クラウドネイティブプラットフォームとして動作し、さまざまなインフラ機能を統合します。コンピュートリソース（CPU、GPU、専用 AI チップ）、ストレージ（NFS、S3 など）、ネットワーク設定を管理します。プロジェクトグループ、ユーザーロール（RBAC）および複数の Kubernetes クラスタ間でのリソース割り当てを一元管理できるインターフェースを提供し、エッジクラスタやサーバーレスモード（Tencent Cloud、Alibaba Cloud）もサポートします。

Who it’s for

多様なハードウェアとクラウド環境で AI ワークロードを管理したい組織やチーム向けに、スケーラブルでエンタープライズ向けの ML プラットフォームとして設計されています。

Highlights

  • Broad Hardware Support: GPU（T4、V100、A100）や国内製 AI チップ（DCU、NPU、MLU）に加え、RDMA と vGPU もサポート。
  • Enterprise Management: 組み込みの RBAC、SSO（LDAP、OID）と、開発・トレーニング・推論の詳細なリソース計測・課金機能を提供。
  • Flexible Infrastructure: 複数の Kubernetes クラスタ、containerd、さまざまな分散ストレージ（S3、MinIO、CephFS など）に対応。
  • Cloud-Native Integration: 主要クラウドプロバイダー向けのサーバーレスクラスタモードを提供し、エッジクラスタでのトレーニング・推論デプロイもサポート。