data-infra/cube-studio
cubestudio开源云原生一站式机器学习/深度学习/大模型AI平台/MaaS/mlops/人工智能平台/训推平台,算法全链路流程,多租户,算力租赁平台,token中转,拖拉拽任务流pipeline编排,多机多卡分布式训练,超参搜索,推理服务,VGPU虚拟化,云边端协同,边缘计算,自动化标注平台,deepseek等大模型sft微调/奖励模型/强化学习训练,vllm/ollama/mindie大模型多机推理,私有知识库llmops智能体,AI模型市场,支持国产异构算力调度,昇腾/寒武纪/海光/摩尔/沐曦等,支持ib/roce/RDMA,信创支持
CubeStudio – 中国製のクラウドネイティブAIプラットフォーム
概要 – CubeStudioは、データからモデルまでのライフサイクル全体をカバーするプライベートなエンドツーエンドのソリューションを必要とする企業向けに構築された、オープンソース(MITライセンス)のAI/MLOpsプラットフォームです。データ取り込み、アノテーション、ノートブック開発、パイプラインオーケストレーション、分散トレーニング(大規模モデルの微調整を含む)、推論サービング、リソースマーケットプレイス、モニタリングをすべてKubernetes上で統合しています。
主な機能
| エリア | 提供内容 |
|---|---|
| ユーザーとアクセス | SSO (LDAP, OIDC, remote-user)、マルチテナントプロジェクトグループ、監査ログ付きRBAC、プロジェクトごとのリソースクォータ。 |
| コンピューティングスケジューリング | マルチクラスター、マルチリソースグループのGPU/CPU/NPU/vGPUスケジューリング。NVIDIA, AMD, Ascend, Cambricon, Hygon, Moore-Thread, Metaxなどをサポート。RDMA (IB/ RoCE)、トークンベースのコンピューティングマーケットプレイス、ユーザー/プロジェクト/タスクごとの詳細な制限、組み込みの課金および使用状況ダッシュボード。 |
| ストレージ | NFS, CephFS, OSS, S3/MinIO, GlusterFSなどをマウントするためのWeb UI。ユーザーごとのPVCが自動的にマウントされます。 |
| データとアノテーション | インタラクティブクエリ用SQLLab (MySQL, PostgreSQL, ClickHouse, Hive, Prestoなど)。画像/音声/テキスト用データセットマネージャー。画像、動画、音声、テキスト、マルチモーダルラベリングをサポートするフルスタックアノテーションUI。組み込みモデル(物体検出、OCR、音声認識、NER、要約など)による自動ラベリング。 |
| オンライン開発 | ブラウザベースのJupyterLab / VS-Code IDE (中国語UI)。多数のPythonバージョン、R、Julia、Sparkなどをサポート。カスタムイメージビルダー、ノートブックのGPU/CPU/vGPU割り当て、SSHリモートリンク、TensorBoard統合。 |
| パイプラインとトレーニング | ドラッグ&ドロップ式のワークフローエディタ。単一タスクおよびDAGパイプラインをサポート。PyTorch, TensorFlow, MindSpore, DeepSpeed, Horovod, Ray, Spark, Paddleなどでの分散トレーニング。自動ハイパーパラメータ検索 (NNI/auto-search)。特徴量エンジニアリング演算子(結合、スケーリング、エンコーディング、PCA、サンプリングなど)。 |
| 大規模モデルサポート | vLLM, Ollama, Xinferenceによるマルチノード/マルチGPU推論。Llama-3, Qwen-2, DeepSeek, ChatGLM-4などのモデルのトレーニング/微調整 (LoRA, SFT, RLHF)。モデルの量子化、枝刈り、評価 (OpenCompass)。400以上の事前学習済みビジョン、音声、NLP、マルチモーダルモデルを備えたモデルマーケットプレイス (AIHub)。 |
| サービング | ゼロコードモデルデプロイメント。バージョン管理されたモデルレジストリ。GPU/CPU/vGPUのオートスケーリング。トラフィックルーティング、レート制限、JWT認証、ヘルスチェック。ONNX, TensorRT, TorchServeなどをサポート。OpenAI互換のエンドポイントを公開可能。 |
| モニタリングとアラート | クラスター全体のCPU/GPU/メモリ/ネットワーク/IOダッシュボード。Podレベルのメトリクス。推論QPS/レイテンシ。IBトラフィック。NPUモニタリング。WeChat, DingTalk, Feishu, Webhook経由のアラート。 |
| インフラストラクチャ | あらゆるKubernetesディストリビューション (Rancher, KubeSphere, K3s, TKEStackなど) で動作。ARM64およびx86、エッジクラスター、プライベートクラウドデプロイメントをサポート。既存のデータセンターハードウェアおよび中国製アクセラレータと統合。 |
重要性 – 多くの中国企業は、セキュリティや規制上の理由から、国内チップ上で動作可能なオンプレミスまたはプライベートクラウドのAIプラットフォームを必要としています。CubeStudioは、データサイエンティスト、MLエンジニア、運用チームに単一の管理画面を提供し、通常は個別のノートブック、スケジューラ、サービングスタックを繋ぎ合わせるために必要な「グルーコード」を排除します。
はじめに – リポジトリにはデプロイガイドへのWikiリンクがあり、プラットフォームはHelmチャートを使用してKubernetesクラスターにインストールできます。UIには視覚的なパイプラインビルダーが含まれており、DevOpsの深い専門知識がないユーザーでも利用しやすくなっています。
上記の詳細はすべて、プロジェクトのREADMEから直接引用しています。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト