oumi-ai/oumi
Easily fine-tune (SFT/RL), evaluate, and deploy Qwen, Gemma, or any open agentic LLM/VLM!
Oumi – 基盤モデルのライフサイクル全体のためのオープンソースプラットフォーム
概要 – Oumi は、Python ベースの完全オープンソースツールキットで、大規模言語モデル(LLM)と視覚言語モデルのデータ準備、トレーニング、ファインチューニング、評価、デプロイが可能です。ラップトップでの 10M パラメータの実験から GPU クラスターでの 400B パラメータの実行までを対象とし、テキストのみのモデルとマルチモーダルモデルの両方をサポートします。
主な機能
- トレーニングとファインチューニング – SFT、LoRA、QLoRA、DPO、GRPO などの最先端の手法。FSDP、DeepSpeed、DDP による分散トレーニング、PyTorch 2.9+ のサポート。
- エージェント/ツール使用モデル – 組み込みのツール呼び出し SFT、実行可能なツール環境(データベース、HTTP、ルックアップ、シミュレーション)、
verlGRPO アルゴリズムによる強化学習。 - マルチモーダルサポート – Llama、Gemma、Qwen、DeepSeek、GLM、Phi、および多くの視覚言語ファミリー(Qwen-VL、InternVL など)に対応。
- データ合成と評価 – LLM をジャッジとするパイプライン、マルチターンのツール使用会話生成、品質管理のためのルーブリックベースの
RubricJudge。 - 推論とデプロイ – vLLM または SGLang による高速ローカル推論、およびクラウドプロバイダー(Fireworks、Parasail、Lambda、Modal など)で専用エンドポイントを起動できる
oumi deployCLI。 - リモートジョブオーケストレーション –
oumi launchは AWS、Azure、GCP、Lambda などのクラウドを抽象化し、リソースプロビジョニングと監視を処理します。 - 豊富なレシピライブラリ – 数十のモデル(Qwen 3、Gemma 4、Llama 4、Falcon-H1/E など)向けのすぐに実行可能な YAML 設定で、トレーニング、推論、評価をカバー。
始め方
# コアパッケージのインストール(CPU のみ)
uv pip install oumi
# GPU 対応インストール
uv pip install 'oumi[gpu]'
# または公式 Docker イメージを取得
docker pull ghcr.io/oumi-ai/oumi:latest
インストール後、CLI を実行できます:
# 135M モデルのトレーニング(クイックスタート設定)
oumi train -c configs/recipes/smollm/sft/135m/quickstart_train.yaml
# 同じモデルの評価
oumi evaluate -c configs/recipes/smollm/evaluation/135m/quickstart_eval.yaml
# 対話型推論
oumi infer -c configs/recipes/smollm/inference/135m_infer.yaml --interactive
クラウド実行の場合は、train を launch up に置き換え、--resources.cloud aws|azure|gcp|lambda を追加します。
Oumi を選ぶ理由
- ボイラープレート不要 – レシピにより数分で動作するパイプラインを構築できます。
- エンタープライズグレードの信頼性 – 大規模なモデルをトレーニングするチームが使用。堅牢なロギング、チェックポイント処理、フォールトトレラントなジョブ管理を備えています。
- 研究の柔軟性 – 各段階(データ、モデル、報酬、評価)がモジュール化されており、コードを書き直すことなくコンポーネントを交換できます。
- 広範なエコシステム – オープンソースモデル、商用 API(OpenAI、Anthropic、Together など)、さまざまな推論バックエンドと統合。
- 活発なコミュニティ – Apache 2.0 ライセンス、Discord、ブログ、頻繁なリリース(2026 年 9 月時点で v0.9)。
ドキュメントと学習リソース
- 完全なドキュメント:https://oumi.ai/docs
- トレーニング、蒸留、評価、視覚言語ファインチューニング、GRPO 強化学習のためのクイックスタートノートブック(Colab リンク)。
- テキストから SQL へのファインチューニングや主張検証モデルなどのユースケースをカバーするブログ記事とウェビナー。
ライセンス – Apache 2.0(寛容、商用利用に適しています)。
ステータス – 積極的にメンテナンスされています。ベータラベルは急速な開発を示しますが、コア機能(トレーニング、評価、推論)は安定しています。
上記のすべての情報は、リポジトリの README から直接取得されています。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト