oumi-ai/oumi

Oumi – 파운데이션 모델의 전체 라이프사이클을 위한 오픈소스 플랫폼

무엇인가요 – Oumi는 데이터 준비, 학습, 평가, 그리고 대규모 언어 모델(LLM) 및 멀티모달 모델을 배포할 수 있게 해주는 Python 기반의 완전한 오픈소스 툴킷입니다. 이 툴킷은 명령줄 인터페이스(oumi)와 분산 학습, LoRA/QLoRA 미세 조정, LLM 판사(judge)를 활용한 데이터 합성, 그리고 vLLM 또는 SGLang과 같은 엔진을 사용한 추론의 번거로운 작업을 추상화하는 라이브러리를 제공합니다.

주요 기능

• 학습 및 미세 조정 – SFT, LoRA, QLoRA, GRPO 및 기타 최신 방법론을 지원하며, 10M에서 405B 파라미터 규모의 모델을 지원합니다. 분산 학습 백엔드는 FSDP, DeepSpeed, DDP를 포함합니다.
• 멀티모달 지원 – 텍스트 전용 및 비전-언어 모델(Llama, Qwen, DeepSeek, Phi, InternVL 등)과 함께 작동합니다.
• 데이터 합성 및 큐레이션 – 내장된 "LLM-as-a-Judge" 파이프라인을 통해 학습 데이터를 자동으로 필터링하고 생성할 수 있습니다.
• 추론 – oumi deploy CLI를 통해 인기 있는 추론 서버(vLLM, SGLang) 및 클라우드 엔드포인트(Fireworks, Together, Parasail 등)로 원클릭 배포가 가능합니다.
• 평가 – 표준 LLM 평가 및 비전-언어 테스트를 실행할 수 있는 통합 벤치마크 제품군을 제공합니다.
• 클라우드 네이티브 작업 관리 – oumi launch를 통해 AWS, Azure, GCP, Lambda 또는 기타 클러스터에 작업을 제출할 수 있으며, 리소스 프로비저닝 및 모니터링을 처리합니다.
• 레시피(Recipes) – 학습, 추론, 평가를 아우르는 수십 가지 모델(Qwen-3, Llama 4, DeepSeek R1 등)을 위한 준비된 YAML 설정 파일 모음이 지속적으로 확장되고 있습니다.

사용해야 하는 이유

• 보일러플레이트 없음 – 레시피를 선택하여 몇 번 분 만에 전체 학습/평가/배포 파이프라인을 시작할 수 있습니다.
• 연구용으로 적합 – 재현 가능한 실험, 구성 요소의 쉬운 교체, 최신 기술 지원을 제공합니다.
• 기업용 수준 – 대규모 실행을 통해 검증되었으며, 프로덕션 수준의 신뢰성과 CI 테스트를 제공합니다.
• 오픈소스 및 커뮤니티 중심 – Apache-2.0 라이선스이며, pip로 설치 가능하고, 활발한 Discord 서버와 블로그를 통해 지원됩니다.

시작하기

# Install (CPU only)
uv pip install oumi
# Install with GPU support
uv pip install 'oumi[gpu]'

# Quick training example
oumi train -c configs/recipes/smollm/sft/135m/quickstart_train.yaml

# Evaluate the same model
oumi evaluate -c configs/recipes/smollm/evaluation/135m/quickstart_eval.yaml

# Deploy an inference endpoint
oumi deploy -c configs/recipes/smollm/inference/135m_infer.yaml

당신은 또한 공식 Docker 이미지 내에서 CLI를 실행하거나 원라인 설치 스크립트(curl … | bash)를 사용할 수 있습니다. 투어, LoRA 미세 조정, 모델 증류, 평가, 원격 클라우드 학습, 그리고 LLM-as-a-Judge를 위한 상세한 노트북이 제공됩니다.

문서 및 커뮤니티 – 전체 문서는 https://oumi.ai/docs에서 확인할 수 있으며, 릴리스 공지사항이 담긴 블로그, Discord 서버, 그리고 공개 PyPI 패키지(oumi)가 제공됩니다.

---

위의 모든 정보는 저장소의 README에서 직접 가져온 것이며, 추가적인 기능은 추론되지 않았습니다.