oumi-ai/oumi

Easily fine-tune (SFT/RL), evaluate, and deploy Qwen, Gemma, or any open agentic LLM/VLM!

Oumi – 基盤モデルのライフサイクル全体のためのオープンソースプラットフォーム

概要 – Oumi は、Python ベースの完全オープンソースツールキットで、大規模言語モデル(LLM)と視覚言語モデルのデータ準備、トレーニング、ファインチューニング、評価、デプロイが可能です。ラップトップでの 10M パラメータの実験から GPU クラスターでの 400B パラメータの実行までを対象とし、テキストのみのモデルとマルチモーダルモデルの両方をサポートします。

主な機能

  • トレーニングとファインチューニング – SFT、LoRA、QLoRA、DPO、GRPO などの最先端の手法。FSDP、DeepSpeed、DDP による分散トレーニング、PyTorch 2.9+ のサポート。
  • エージェント/ツール使用モデル – 組み込みのツール呼び出し SFT、実行可能なツール環境(データベース、HTTP、ルックアップ、シミュレーション)、verl GRPO アルゴリズムによる強化学習。
  • マルチモーダルサポート – Llama、Gemma、Qwen、DeepSeek、GLM、Phi、および多くの視覚言語ファミリー(Qwen-VL、InternVL など)に対応。
  • データ合成と評価 – LLM をジャッジとするパイプライン、マルチターンのツール使用会話生成、品質管理のためのルーブリックベースの RubricJudge。
  • 推論とデプロイ – vLLM または SGLang による高速ローカル推論、およびクラウドプロバイダー(Fireworks、Parasail、Lambda、Modal など)で専用エンドポイントを起動できる oumi deploy CLI。
  • リモートジョブオーケストレーション – oumi launch は AWS、Azure、GCP、Lambda などのクラウドを抽象化し、リソースプロビジョニングと監視を処理します。
  • 豊富なレシピライブラリ – 数十のモデル(Qwen 3、Gemma 4、Llama 4、Falcon-H1/E など)向けのすぐに実行可能な YAML 設定で、トレーニング、推論、評価をカバー。

始め方

# コアパッケージのインストール(CPU のみ)
uv pip install oumi
# GPU 対応インストール
uv pip install 'oumi[gpu]'
# または公式 Docker イメージを取得
docker pull ghcr.io/oumi-ai/oumi:latest

インストール後、CLI を実行できます:

# 135M モデルのトレーニング(クイックスタート設定)
oumi train -c configs/recipes/smollm/sft/135m/quickstart_train.yaml
# 同じモデルの評価
oumi evaluate -c configs/recipes/smollm/evaluation/135m/quickstart_eval.yaml
# 対話型推論
oumi infer -c configs/recipes/smollm/inference/135m_infer.yaml --interactive

クラウド実行の場合は、train を launch up に置き換え、--resources.cloud aws|azure|gcp|lambda を追加します。

Oumi を選ぶ理由

  • ボイラープレート不要 – レシピにより数分で動作するパイプラインを構築できます。
  • エンタープライズグレードの信頼性 – 大規模なモデルをトレーニングするチームが使用。堅牢なロギング、チェックポイント処理、フォールトトレラントなジョブ管理を備えています。
  • 研究の柔軟性 – 各段階(データ、モデル、報酬、評価)がモジュール化されており、コードを書き直すことなくコンポーネントを交換できます。
  • 広範なエコシステム – オープンソースモデル、商用 API(OpenAI、Anthropic、Together など)、さまざまな推論バックエンドと統合。
  • 活発なコミュニティ – Apache 2.0 ライセンス、Discord、ブログ、頻繁なリリース(2026 年 9 月時点で v0.9)。

ドキュメントと学習リソース

  • 完全なドキュメント:https://oumi.ai/docs
  • トレーニング、蒸留、評価、視覚言語ファインチューニング、GRPO 強化学習のためのクイックスタートノートブック(Colab リンク)。
  • テキストから SQL へのファインチューニングや主張検証モデルなどのユースケースをカバーするブログ記事とウェビナー。

ライセンス – Apache 2.0(寛容、商用利用に適しています)。

ステータス – 積極的にメンテナンスされています。ベータラベルは急速な開発を示しますが、コア機能(トレーニング、評価、推論)は安定しています。


上記のすべての情報は、リポジトリの README から直接取得されています。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト