oumi-ai/oumi

Easily fine-tune, evaluate and deploy Qwen, Gemma, or any open weight LLM!

Oumi – 基盤モデルのライフサイクル全体をカバーするオープンソース・プラットフォーム

概要 – Oumiは、Pythonベースの完全なオープンソース・ツールキットであり、大規模言語モデル(LLM)やマルチモーダル・モデルのデータ準備、学習、評価、およびデプロイを可能にします。コマンドラインインターフェース(oumi)と、分散学習、LoRA/QLoRAファインチューニング、LLMジャッジによるデータ合成、およびvLLMやSGLangなどのエンジンを使用した推論のボイラープレート(定型的なコード)を抽象化するライブラリを提供します。

主な機能

  • 学習 & ファインチューニング – 10Mから405Bパラメータのモデルをサポートし、SFT、LoRA、QLoRA、GRPO、およびその他の最先端の手法をサポートします。分散学習バックエンドには、FSDP、DeepSpeed、およびDDPが含まれます。
  • マルチモーダル対応 – テキストのみのモデルおよび視覚言語モデル(Llama、Qwen、DeepSeek、Phi、InternVLなど)に対応しています。
  • データの合成 & キュレーション – 内蔵の「LLM-as-a-Judge」パイプラインにより、学習データのフィルタリングと自動生成が可能です。
  • 推論oumi deploy CLIを介して、人気の推論サーバー(vLLM、SGLang)やクラウド・エンドポイント(Fireworks、Together、Parasailなど)へワンクリックでデプロイできます。
  • 評価 – 標準的なLLM評価および視覚言語テストを実行できる統合ベンチマーク・スイートを提供します。
  • クラウドネイティブなジョブ管理oumi launchを使用することで、AWS、Azure、GCP、Lambda、またはその他のクラスターにジョブを提出し、リソースのプロビジョニングとモニタリングを管理できます。
  • レシピ – 学習、推論、および評価をカバーする、数十種類のモデル(Qwen-3、Llama 4、DeepSeek R1など)向けの準備済みのYAML設定ファイル(レシピ)のコレクションが拡充されています。

使用するメリット

  • ボイラープレート・ゼロ – レシピを選択するだけで、数分以内に完全な学習/評価/デプロイ・パイプラインを開始できます。
  • 研究用途に最適 – 再現可能な実験、コンポーネントの容易な入れ替え、および最先端技術への対応が可能です。
  • エンタープライズ級 – 大規模な実行で検証済みであり、本番環境レベルの信頼性とCIテストを備えています。
  • オープン & コミュニティ主導 – Apache-2.0ライセンス、pipでインストール可能、および活発なDiscordとブログによるサポートがあります。

はじめに

# Install (CPU only)
uv pip install oumi
# Install with GPU support
uv pip install 'oumi[gpu]'

# Quick training example
oumi train -c configs/recipes/smollm/sft/135m/quickstart_train.yaml

# Evaluate the same model
oumi evaluate -c configs/recipes/smollm/evaluation/135m/quickstart_eval.yaml

# Deploy an inference endpoint
oumi deploy -c configs/recipes/smollm/inference/135m_infer.yaml

公式のDockerイメージ内でCLIを実行するか、ワンライン・インストーラー・スクリプト(curl … | bash)を使用することもできます。詳細なノートブックが、ツアー、LoRAファインチューニング、モデル蒸留、評価、リモートクラウド学習、およびLLM-as-a-Judge用に提供されています。

ドキュメント & コミュニティ – 詳細なドキュメントは https://oumi.ai/docs で、リリース告知はブログ、Discordサーバー、および公開PyPIパッケージ(oumi)で確認できます。


上記の情報はリポジトリのREADMEから直接引用されたものです。追加の機能については推測されていません。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト