data-infra/cube-studio

CubeStudio – 중국산 클라우드 네이티브 AI 플랫폼

소개 – CubeStudio는 데이터에서 모델까지의 전체 라이프사이클을 다루는 프라이빗한 엔드 투 엔드 솔루션이 필요한 기업을 위해 구축된 오픈 소스(MIT 라이선스) AI/MLOps 플랫폼입니다. 데이터 수집, 주석, 노트북 개발, 파이프라인 오케스트레이션, 분산 학습(대규모 모델 미세 조정 포함), 추론 서빙, 리소스 마켓플레이스, 모니터링 기능을 모두 Kubernetes 위에서 통합합니다.

주요 기능

영역	제공 내용
사용자 및 액세스	SSO (LDAP, OIDC, remote-user), 멀티 테넌트 프로젝트 그룹, 감사 로그가 포함된 RBAC, 프로젝트별 리소스 할당량.
컴퓨팅 스케줄링	멀티 클러스터, 멀티 리소스 그룹 GPU/CPU/NPU/vGPU 스케줄링. NVIDIA, AMD, Ascend, Cambricon, Hygon, Moore-Thread, Metax 등 지원. RDMA (IB/ RoCE), 토큰 기반 컴퓨팅 마켓플레이스, 사용자/프로젝트/작업별 세밀한 제한, 내장된 과금 및 사용량 대시보드.
스토리지	NFS, CephFS, OSS, S3/MinIO, GlusterFS 등을 마운트하기 위한 Web UI. 사용자별 PVC 자동 마운트.
데이터 및 주석	대화형 쿼리를 위한 SQLLab (MySQL, PostgreSQL, ClickHouse, Hive, Presto 등). 이미지/오디오/텍스트 데이터셋 관리자. 이미지, 비디오, 오디오, 텍스트 및 멀티모달 라벨링을 지원하는 풀스택 주석 UI. 내장 모델(객체 탐지, OCR, 음성 인식, NER, 요약 등)을 통한 자동 라벨링.
온라인 개발	브라우저 기반 JupyterLab / VS-Code IDE (중국어 UI). 다양한 Python 버전, R, Julia, Spark 등 지원. 사용자 정의 이미지 빌더, 노트북 GPU/CPU/vGPU 할당, SSH 원격 연결, TensorBoard 통합.
파이프라인 및 학습	드래그 앤 드롭 워크플로우 편집기. 단일 작업 및 DAG 파이프라인 지원. PyTorch, TensorFlow, MindSpore, DeepSpeed, Horovod, Ray, Spark, Paddle 등을 이용한 분산 학습. 자동 하이퍼파라미터 검색 (NNI/auto-search). 특성 공학 연산자(결합, 스케일링, 인코딩, PCA, 샘플링 등).
대규모 모델 지원	vLLM, Ollama, Xinference를 이용한 멀티 노드/멀티 GPU 추론. Llama-3, Qwen-2, DeepSeek, ChatGLM-4 등 모델의 학습/미세 조정 (LoRA, SFT, RLHF). 모델 양자화, 가지치기, 평가 (OpenCompass). 400개 이상의 사전 학습된 비전, 오디오, NLP, 멀티모달 모델을 갖춘 모델 마켓플레이스 (AIHub).
서빙	제로 코드 모델 배포. 버전 관리 모델 레지스트리. GPU/CPU/vGPU 자동 확장. 트래픽 라우팅, 속도 제한, JWT 인증, 상태 확인. ONNX, TensorRT, TorchServe 등 지원. OpenAI 호환 엔드포인트 노출 가능.
모니터링 및 알림	클러스터 전체 CPU/GPU/메모리/네트워크/IO 대시보드. Pod 수준 메트릭. 추론 QPS/지연 시간. IB 트래픽. NPU 모니터링. WeChat, DingTalk, Feishu, Webhook을 통한 알림.
인프라	모든 Kubernetes 배포판 (Rancher, KubeSphere, K3s, TKEStack 등)에서 실행. ARM64 및 x86, 엣지 클러스터, 프라이빗 클라우드 배포 지원. 기존 데이터 센터 하드웨어 및 중국산 가속기와 통합.

중요성 – 많은 중국 기업은 보안 및 규제상의 이유로 국내 칩에서 실행 가능한 온프레미스 또는 프라이빗 클라우드 AI 플랫폼을 필요로 합니다. CubeStudio는 데이터 과학자, ML 엔지니어, 운영 팀에게 단일 관리 화면을 제공하여, 일반적으로 개별 노트북, 스케줄러, 서빙 스택을 연결하는 데 필요한 「글루 코드(glue code)」를 제거합니다.

시작하기 – 저장소에는 배포 가이드가 포함된 Wiki 링크가 있으며, 플랫폼은 Helm 차트를 사용하여 Kubernetes 클러스터에 설치할 수 있습니다. UI에는 시각적 파이프라인 빌더가 포함되어 있어 DevOps 전문 지식이 부족한 사용자도 쉽게 사용할 수 있습니다.

---

위의 모든 세부 정보는 프로젝트의 README에서 직접 가져온 것입니다.