tencentmusic/cube-studio

cube studio开源云原生一站式机器学习/深度学习/大模型AI平台，mlops算法链路全流程，算力租赁平台，notebook在线开发，拖拉拽任务流pipeline编排，多机多卡分布式训练，超参搜索，推理服务VGPU虚拟化，边缘计算，标注平台自动化标注，deepseek等大模型sft微调/奖励模型/强化学习训练，vllm/ollama/mindie大模型多机推理，私有知识库，AI模型市场，支持国产cpu/gpu/npu 昇腾生态，支持RDMA，支持pytorch/tf/mxnet/deepspeed/paddle/colossalai/horovod/ray/volcano等分布式

What it solves

Cube Studio는 오픈소스이며 클라우드 네이티브인 머신러닝 플랫폼으로, 전체 ML 라이프사이클을 위한 원스톱 샵을 제공하도록 설계되었습니다. 대규모 환경에서 AI 개발, 학습 및 배포를 위한 리소스, 사용자, 인프라 관리의 복잡성을 해결합니다.

How it works

클라우드 네이티브 플랫폼으로 동작하며 다양한 인프라 기능을 통합합니다. 컴퓨트 리소스(CPU, GPU, 전용 AI 칩), 스토리지(NFS, S3 등), 네트워크 구성을 관리합니다. 프로젝트 그룹, 사용자 역할(RBAC) 및 다중 Kubernetes 클러스터 간 리소스 할당을 중앙 집중식 인터페이스로 제공하며, 엣지 클러스터와 서버리스 모드(Tencent Cloud 및 Alibaba Cloud)도 지원합니다.

Who it’s for

다양한 하드웨어와 클라우드 환경에서 AI 워크로드를 관리해야 하는 조직 및 팀을 위해 설계된 확장 가능하고 엔터프라이즈급 ML 플랫폼입니다.

Highlights

  • Broad Hardware Support: GPU(T4, V100, A100)와 국내 AI 칩(DCU, NPU, MLU)을 포함해 RDMA 및 vGPU를 지원합니다.
  • Enterprise Management: 내장 RBAC, SSO(LDAP, OID)와 개발, 학습, 추론을 위한 상세 리소스 측정 및 청구 기능을 제공합니다.
  • Flexible Infrastructure: 다중 Kubernetes 클러스터, containerd 및 다양한 분산 스토리지 옵션(S3, MinIO, CephFS 등)을 지원합니다.
  • Cloud-Native Integration: 주요 클라우드 제공업체를 위한 서버리스 클러스터 모드를 제공하고, 엣지 클러스터에서의 학습 및 추론 배포를 지원합니다.