oumi-ai/oumi

Easily fine-tune, evaluate and deploy Gemma 4, Qwen3.5, Qwen3.6, gpt-oss, DeepSeek-R1, or any open source LLM / VLM!

What it solves

Oumi 是一个开源平台，旨在消除与基础模型的整个生命周期相关的复杂性与样板代码。它提供统一的 API 与即插即用的配方（recipes），用于处理数据准备、训练、评估与部署，让开发者无需编写自定义的训练循环或数据流水线即可从研究转向生产。

How it works

Oumi 通过一组 CLI 工具与配置来简化模型开发流程。用户可以使用 oumi train、oumi evaluate 和 oumi infer 命令，结合 YAML 配置文件（recipes）来执行特定的工作流。它支持广泛的训练技术（SFT, LoRA, QLoRA, GRPO）并与 vLLM 和 SGLang 等热门的推理引擎集成。It supports a wide range of training techniques (SFT, LoRA, QLoRA, GRPO) and integrates with popular inference engines like vLLM and SGLang. Additionally, it includes a a oumi launch command to deploy training and inference jobs remotely on cloud platforms such as

Who it’s for

它是为 ML 研究人员与企业团队设计的，这些团队需要在各种环境（从本地笔记本电脑到大规模云端集群）中构建、微调与部署最先进的基础模型（参数规模从 10M 到 405B）。

Highlights

  • End-to-End Lifecycle: 覆盖从使用 LLM-as-a-Judge 进行数据合成与策划到最终部署的所有环节。
  • Zero Boilerplate: 为 Llama, Qwen, and DeepSeek 等热门模型系列提供预配置的配方（recipes）。
  • Multi-Cloud Support: 原生支持在 AWS, Azure, GCP, and Lambda 上启动任务。
  • Broad Model Support: 兼容于纯文本与多模态模型。
  • SOTA Training Techniques: 原生支持分布式训练 (FSDP, DeepSpeed, DDP) 以及如 GR强化-P0 (GRPO) 等先进的微调方法。