data-infra/cube-studio

CubeStudio – 一款国产云原生 AI 平台

简介 – CubeStudio 是一个开源、MIT 授权的 AI/MLOps 平台，专为需要私有化、端到端解决方案以覆盖从数据到模型全生命周期的企业而构建。它整合了数据摄取、标注、笔记本开发、工作流编排、分布式训练（包括大模型微调）、推理服务、资源市场以及监控功能，全部运行在 Kubernetes 之上。

核心功能

领域	功能说明
用户与访问	SSO (LDAP, OIDC, remote-user)、多租户项目组、带审计日志的 RBAC、按项目资源配额。
计算调度	多集群、多资源组 GPU/CPU/NPU/vGPU 调度；支持 NVIDIA, AMD, Ascend, Cambricon, Hygon, Moore-Thread, Metax 等；RDMA (IB/ RoCE)；基于 Token 的计算市场；用户、项目或任务级别的细粒度限制；内置计费与使用仪表板。
存储	Web UI 挂载 NFS, CephFS, OSS, S3/MinIO, GlusterFS 等；自动挂载用户专属 PVC。
数据与标注	用于交互式查询的 SQLLab (MySQL, PostgreSQL, ClickHouse, Hive, Presto 等)；图像/音频/文本数据集管理器；支持图像、视频、音频、文本及多模态标注的全栈标注 UI；通过内置模型（目标检测、OCR、语音转文字、NER、摘要等）实现自动标注。
在线开发	基于浏览器的 JupyterLab / VS-Code IDE (中文界面)，支持多种 Python 版本、R、Julia、Spark 等；自定义镜像构建器；笔记本 GPU/CPU/vGPU 分配；SSH 远程连接；TensorBoard 集成。
工作流与训练	拖放式工作流编辑器；支持单任务与 DAG 工作流；支持 PyTorch, TensorFlow, MindSpore, DeepSpeed, Horovod, Ray, Spark, Paddle 等分布式训练；自动超参数搜索 (NNI/auto-search)；特征工程算子（连接、缩放、编码、PCA、采样等）。
大模型支持	使用 vLLM, Ollama, Xinference 进行多节点、多 GPU 推理；针对 Llama-3, Qwen-2, DeepSeek, ChatGLM-4 等模型的训练/微调 (LoRA, SFT, RLHF)；模型量化、剪枝、评估 (OpenCompass)；拥有 400 多个预训练视觉、音频、NLP、多模态模型的模型市场 (AIHub)。
推理服务	零代码模型部署；版本化模型注册表；GPU/CPU/vGPU 自动扩缩容；流量路由、限流、JWT 认证、健康检查；支持 ONNX, TensorRT, TorchServe 等；可暴露兼容 OpenAI 的 API 端点。
监控与告警	集群级 CPU/GPU/内存/网络/IO 仪表板；Pod 级指标；推理 QPS/延迟；IB 流量；NPU 监控；通过微信、钉钉、飞书、Webhook 发送告警。
基础设施	运行于任何 Kubernetes 发行版 (Rancher, KubeSphere, K3s, TKEStack 等)；支持 ARM64 和 x86、边缘集群及私有云部署；整合现有数据中心硬件与国产加速器。

价值所在 – 许多中国企业出于安全与合规考虑，需要能够在国产芯片上运行的本地或私有云 AI 平台。CubeStudio 为数据科学家、ML 工程师和运维团队提供了一个统一的视图，消除了通常用于连接不同笔记本、调度器和服务堆栈的“胶水代码”。

快速入门 – 仓库链接至包含部署指南的 Wiki，平台可通过 Helm charts 安装到 Kubernetes 集群中。UI 包含可视化工作流构建器，即使没有深厚 DevOps 经验的用户也能轻松上手。

---

以上所有细节均直接摘自该项目的 README。