oumi-ai/oumi

Oumi – 기반 모델의 전체 수명 주기를 위한 오픈소스 플랫폼

정의 – Oumi는 Python 기반의 완전 오픈소스 툴킷으로, 대규모 언어 모델(LLM)과 비전-언어 모델의 데이터 준비, 훈련, 미세 조정, 평가, 배포를 가능하게 합니다. 노트북에서의 10M 파라미터 실험부터 GPU 클러스터에서의 400B 파라미터 실행까지를 대상으로 하며, 텍스트 전용 및 멀티모달 모델을 모두 지원합니다.

핵심 기능

• 훈련 및 미세 조정 – SFT, LoRA, QLoRA, DPO, GRPO 및 기타 최신 방법. FSDP, DeepSpeed, DDP를 통한 분산 훈련, PyTorch 2.9+ 지원.
• 에이전트/도구 사용 모델 – 내장된 도구 호출 SFT, 실행 가능한 도구 환경(데이터베이스, HTTP, 조회, 시뮬레이션), verl GRPO 알고리즘을 사용한 강화 학습.
• 멀티모달 지원 – Llama, Gemma, Qwen, DeepSeek, GLM, Phi 및 많은 비전-언어 계열(Qwen-VL, InternVL 등)과 호환.
• 데이터 합성 및 판정 – LLM-as-a-judge 파이프라인, 다중 턴 도구 사용 대화 생성, 품질 관리를 위한 루브릭 기반 RubricJudge.
• 추론 및 배포 – vLLM 또는 SGLang을 통한 빠른 로컬 추론, 클라우드 제공업체(Fireworks, Parasail, Lambda, Modal 등)에서 전용 엔드포인트를 시작할 수 있는 oumi deploy CLI.
• 원격 작업 오케스트레이션 – oumi launch는 AWS, Azure, GCP, Lambda 등의 클라우드를 추상화하여 리소스 프로비저닝 및 모니터링을 처리합니다.
• 방대한 레시피 라이브러리 – 수십 개 모델(Qwen 3, Gemma 4, Llama 4, Falcon-H1/E 등)을 위한 즉시 실행 가능한 YAML 구성으로 훈련, 추론, 평가를 다룹니다.

시작하기

# 핵심 패키지 설치(CPU 전용)
uv pip install oumi
# GPU 지원 설치
uv pip install 'oumi[gpu]'
# 또는 공식 Docker 이미지 가져오기
docker pull ghcr.io/oumi-ai/oumi:latest

설치 후 CLI를 실행할 수 있습니다:

# 135M 모델 훈련(퀵스타트 구성)
oumi train -c configs/recipes/smollm/sft/135m/quickstart_train.yaml
# 동일 모델 평가
oumi evaluate -c configs/recipes/smollm/evaluation/135m/quickstart_eval.yaml
# 대화형 추론
oumi infer -c configs/recipes/smollm/inference/135m_infer.yaml --interactive

클라우드 실행의 경우 train을 launch up으로 바꾸고 --resources.cloud aws|azure|gcp|lambda를 추가하세요.

Oumi를 선택해야 하는 이유

• 보일러플레이트 없음 – 레시피로 몇 분 안에 작동하는 파이프라인을 얻을 수 있습니다.
• 엔터프라이즈급 신뢰성 – 대규모 모델을 훈련하는 팀이 사용합니다. 강력한 로깅, 체크포인트 처리, 내결함성 작업 관리를 포함합니다.
• 연구 유연성 – 각 단계(데이터, 모델, 보상, 평가)가 모듈식이므로 코드를 다시 작성하지 않고 구성 요소를 교체할 수 있습니다.
• 광범위한 생태계 – 오픈소스 모델, 상용 API(OpenAI, Anthropic, Together 등), 다양한 추론 백엔드와 통합됩니다.
• 활발한 커뮤니티 – Apache 2.0 라이선스, Discord, 블로그, 빈번한 릴리스(2026년 9월 기준 v0.9).

문서 및 학습 리소스

• 전체 문서: https://oumi.ai/docs
• 훈련, 증류, 평가, 비전-언어 미세 조정, GRPO 강화 학습을 위한 퀵스타트 노트북(Colab 링크).
• 텍스트-투-SQL 미세 조정 및 주장 검증 모델과 같은 사용 사례를 다루는 블로그 게시물 및 웨비나.

라이선스 – Apache 2.0(허용적, 상업적으로 친화적).

상태 – 적극적으로 유지 관리됨. 베타 라벨은 빠른 개발을 나타내지만 핵심 기능(훈련, 평가, 추론)은 안정적입니다.

---

위의 모든 정보는 저장소의 README에서 직접 가져온 것입니다.