h2oai/h2o-llmstudio

H2O LLM Studio – 大規模言語モデルのノーコード微調整

何であるか – H2O Wave を基盤とするグラフィカルなウェブUIを備えたPythonベースのフレームワーク。LLMのトレーニング、評価、エクスポートを可能にします。Hugging Face互換モデルをコードを書かずに微調整でき、LoRA、8ビットトレーニング、DeepSpeedシャーディング、DPO/IPO/KTOなどの最新の好みベース最適化手法をサポートします。

主な機能

• ゼロコードUI – データセットをアップロード、モデルを選択、ハイパーパラメータを設定、トレーニングを開始し、ライブログ/メトリクスを監視。
• 高度な微調整テクニック – LoRA、8ビット量子化、DeepSpeedシャーディング、DPO/IPO/KTO（実験的RLHF代替）。
• 評価と比較 – 組み込みメトリクス、視覚的な実験比較、オプションのWeights & Biases統合。
• インタラクティブチャット – トレーニング後、チャットウィンドウを起動してモデルを即座にテスト。
• エクスポート – 1クリックまたはCLIコマンドで結果のチェックポイントをHugging Face Hubにプッシュ。
• CLIモード – UIのすべての操作はYAML駆動のコマンドラインインターフェースで再現可能。スクリプトやヘッドレスサーバー向け。

一般的なワークフロー

1. インストール（Python 3.10でuv推奨）し、make llmstudioでWaveサーバーを起動。
2. Chromeで http://localhost:10101/ を開く。
3. 実験を作成：ベースとなるLLMを選択、データをアップロード（ドキュメントに記載の形式のCSV/JSONL）、問題タイプ（例：因果分類、回帰、DPO）を選択し、ハイパーパラメータを設定。
4. トレーニングを開始 – UIはGPU使用率、損失曲線、評価スコアを表示。
5. トレーニング終了後、組み込みチャットでモデルと対話するか、他の実行結果と比較。
6. モデルをHugging Faceにエクスポートするか、ローカルにチェックポイントをダウンロード。

インストールのハイライト

• システム要件 – NVIDIA GPU（CUDA 13、ドライバ ≥ 580）を搭載したUbuntu 16.04+。大規模モデルには24 GBのGPUメモリを推奨。
• クイックスタート – make setupでuv仮想環境を作成し、依存関係をインストール。
• Docker代替 – h2oairelease/h2oai-llmstudio-app:latestをプルし、--runtime=nvidiaで実行。UIは同じlocalhostアドレスで利用可能。

CLIの実行方法

uv run python llm_studio/train.py -Y path/to/config.yaml   # 単一GPU
bash distributed_train.sh 4 -Y path/to/config.yaml          # 多GPU DDP
uv run python llm_studio/prompt.py -e my_experiment        # トレーニング済みモデルとチャット
uv run python llm_studio/publish_to_hugging_face.py -p my_experiment -a <HF_KEY>

ドキュメントとコミュニティ

• 完全なドキュメント: https://docs.h2o.ai/h2o-llmstudio/
• サポートと議論用のDiscord。
• Kaggle、Colabでの例のノートブック、RunPodクラウドテンプレート（ワンクリックGPUインスタンス）。

ライセンス – Apache 2.0。

---

結論 – H2O LLM Studioは、初心者にも使いやすく、プロダクション環境でも利用可能な、最先端のLLMを微調整するための環境を提供。データインジェストからモデルエクスポートまでを処理し、パワーユーザー向けにオプションの低レベルCLI制御も備えています。