oumi-ai/oumi

What it solves

Oumi는 파운데이션 모델의 전체 라이프사이클과 관련된 복잡성과 보일러플레이트 코드를 제거하기 위해 설계된 오픈소스 플랫폼입니다. 통합 API와 즉시 사용 가능한 레시피(recipes)를 제공하여 데이터 준비, 학습, 평가, 배포를를 처리할 수 있어, 개발자가 커스텀 학습 루프나 데이터 파이프라인을 작성하지 않고도 연구에서 프로덕션으로 전환할 수 있게 해줍니다.

How it works

Oumi는 일련의 CLI 도구와 설정을 통해 모델 개발 프로세스를 간소화합니다. 사용자는 oumi train, oumi evaluate, 및 oumi infer 명령어를 oumi 명령어와 YAML 설정 파일(recipes)을 조합하여 실행할 수 있습니다. SFT, LoRA, QLoRA, GRPO 등 다양한 학습 기술을 지원하며 vLLM 및 SGLang와 같은 인기 있는 추론 엔진과 통합됩니다. 또한, oumi launch 명령어를 통해 AWS, Azure, GCP, 및 Lambda와 같은 클라우드 플랫폼에서 학습 및 추론 작업을 원격으로 배포할 수 있습니다.

Who it’s for

ML 연구자 및 엔터프라이즈 팀을 위해 구축되었습니다. 로컬 노트북부터 대규모 클라우드 클러스터까지 다양한 환경에서 최첨단 파운데이션 모델(10M에서 405B 파라미터 규모)을 구축, 미세 조정, 배포포할 수 있습니다.

Highlights

• End-to-End Lifecycle: LLM-as-a-Judge를 사용한 데이터 합성 및 큐레이션부터 최종 배포까지 모든 과정을 커합니다입니다.

• Zero Boilerplate: Llama, Qwen, 및 DeepSeek와 같은 인기 있는 모델 제품군 제품군을 위해 사전 설정된 레시피(recipes)를 제공합니다.

• Multi-Cloud Support: AWS, Azure, GCP, 및 Lambda에서 작업을 실행하는 네이티브 기능을 제공합니다.

• Broad Model Support: 텍스트 전용 모델과 멀티모달 모델 모두 호환됩니다.

• SOTA Training Techniques: 분산 학습(FSDP, DeepSpeed, DDP) 및 GRPO와 같은 고급 미세 조정 방법을 네이티브 지원합니다.