oumi-ai/oumi
Easily fine-tune, evaluate and deploy Qwen, Gemma, or any open weight LLM!
Oumi – 基盤モデルのライフサイクル全体をカバーするオープンソース・プラットフォーム
概要 – Oumiは、Pythonベースの完全なオープンソース・ツールキットであり、大規模言語モデル(LLM)やマルチモーダル・モデルのデータ準備、学習、評価、およびデプロイを可能にします。コマンドラインインターフェース(oumi)と、分散学習、LoRA/QLoRAファインチューニング、LLMジャッジによるデータ合成、およびvLLMやSGLangなどのエンジンを使用した推論のボイラープレート(定型的なコード)を抽象化するライブラリを提供します。
主な機能
- 学習 & ファインチューニング – 10Mから405Bパラメータのモデルをサポートし、SFT、LoRA、QLoRA、GRPO、およびその他の最先端の手法をサポートします。分散学習バックエンドには、FSDP、DeepSpeed、およびDDPが含まれます。
- マルチモーダル対応 – テキストのみのモデルおよび視覚言語モデル(Llama、Qwen、DeepSeek、Phi、InternVLなど)に対応しています。
- データの合成 & キュレーション – 内蔵の「LLM-as-a-Judge」パイプラインにより、学習データのフィルタリングと自動生成が可能です。
- 推論 –
oumi deployCLIを介して、人気の推論サーバー(vLLM、SGLang)やクラウド・エンドポイント(Fireworks、Together、Parasailなど)へワンクリックでデプロイできます。 - 評価 – 標準的なLLM評価および視覚言語テストを実行できる統合ベンチマーク・スイートを提供します。
- クラウドネイティブなジョブ管理 –
oumi launchを使用することで、AWS、Azure、GCP、Lambda、またはその他のクラスターにジョブを提出し、リソースのプロビジョニングとモニタリングを管理できます。 - レシピ – 学習、推論、および評価をカバーする、数十種類のモデル(Qwen-3、Llama 4、DeepSeek R1など)向けの準備済みのYAML設定ファイル(レシピ)のコレクションが拡充されています。
使用するメリット
- ボイラープレート・ゼロ – レシピを選択するだけで、数分以内に完全な学習/評価/デプロイ・パイプラインを開始できます。
- 研究用途に最適 – 再現可能な実験、コンポーネントの容易な入れ替え、および最先端技術への対応が可能です。
- エンタープライズ級 – 大規模な実行で検証済みであり、本番環境レベルの信頼性とCIテストを備えています。
- オープン & コミュニティ主導 – Apache-2.0ライセンス、pipでインストール可能、および活発なDiscordとブログによるサポートがあります。
はじめに
# Install (CPU only)
uv pip install oumi
# Install with GPU support
uv pip install 'oumi[gpu]'
# Quick training example
oumi train -c configs/recipes/smollm/sft/135m/quickstart_train.yaml
# Evaluate the same model
oumi evaluate -c configs/recipes/smollm/evaluation/135m/quickstart_eval.yaml
# Deploy an inference endpoint
oumi deploy -c configs/recipes/smollm/inference/135m_infer.yaml
公式のDockerイメージ内でCLIを実行するか、ワンライン・インストーラー・スクリプト(curl … | bash)を使用することもできます。詳細なノートブックが、ツアー、LoRAファインチューニング、モデル蒸留、評価、リモートクラウド学習、およびLLM-as-a-Judge用に提供されています。
ドキュメント & コミュニティ – 詳細なドキュメントは https://oumi.ai/docs で、リリース告知はブログ、Discordサーバー、および公開PyPIパッケージ(oumi)で確認できます。
上記の情報はリポジトリのREADMEから直接引用されたものです。追加の機能については推測されていません。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト