MakazhanAlpamys/Soup

解決する問題

Soup は、大規模言語モデル（LLM）のファインチューニングとポストトレーニングの複雑なプロセスを簡素化します。手動のインフラストラクチャ管理、GPU サーバーへの SSH アクセス、複雑な設定ファイルの必要性を排除し、ユーザーは単一のコマンドでトレーニングを開始できます。

仕組み

Soup は、トレーニングスタック（PyTorch、Transformers、PEFT、TRL）を抽象化するコマンドラインインターフェース（CLI）と Web UI を提供します。単一の YAML 設定ファイルを使用して、ベースモデル、タスク（例：SFT、DPO、GRPO）、およびトレーニングパラメータを定義します。

主な技術機能は次のとおりです。

• レイヤーストリーミング：デコーダーレイヤーを一度に 1 つずつ GPU に供給することで、コンシューマー向け GPU で大規模モデル（8B モデルなど）をわずか 4 GB の VRAM でファインチューニングできるベータ機能。
• 複数のバックエンド：標準の transformers、Unsloth（高速トレーニング用）、MLX（Apple Silicon 用）をサポート。
• 包括的なツール：データ検査、バッチ推論、モデルマージ、Ollama 用の GGUF などの形式へのエクスポートのための統合コマンド。

対象ユーザー

インフラストラクチャに苦労せずに LLM をファインチューニングしたい開発者や ML エンジニア、およびハードウェアリソースが限られている（例：ラップトップ GPU）が QLoRA やレイヤーストリーミングなどの技術を活用したいユーザー。

ハイライト

• ワンコマンドワークフロー：soup init で初期化し、soup train でトレーニング。
• 低 VRAM 要件：レイヤーストリーミングにより、4 GB VRAM で 8B モデルをトレーニング可能。
• 幅広いタスクサポート：SFT、DPO、GRPO、PPO、KTO、ORPO、SimPO、IPO、BCO などをサポート。
• 豊富なエクスポートオプション：GGUF、ONNX、TensorRT、AWQ、GPTQ にモデルをエクスポート。
• 統合 Web UI：実験追跡、データセット探索、モデルチャット用のローカルダッシュボード。