h2oai/h2o-llmstudio

What it solves

H2O LLM Studio は、プログラミング経験の有無にかかわらず、大規模言語モデル (LLM) の微調整を誰でも行えるように設計されています。コード不要のグラフィカルユーザーインターフェース (GUI) と、実験管理のための柔軟なフレームワークを提供することで、LLM のカスタマイズにおける技術的な障壁を低くしています。

How it works

このプロジェクトは、微調整プロセスを管理するための GUI とコマンドラインインターフェース (CLI) を提供します。ユーザーはデータセットをアップロード、ハイパーパラメータを構成、そして Low-Rank Adaptation (LoRA) や 8-bit 訓練によるメモリ要件の削減が可能になります。また、DPO、IPO、および KTO による偏好最適化、ならびに Causal Regression と Classification modeling をサポートしています。より大規模なモデルについては、DeepSpeed を統合しており、マルチ GPU 環境での分散（sharded）トレーニングが可能です。

Who it's for

コードを書かずに LLM を微調整したい開発者や AI 研究者、および自動化された実験のために CLI ベースのワークフローを好むユーザーを対象としています。

Highlights

• No-Code GUI: 微調整実験の設定と実行のための専用インターフェース。
• Memory Efficiency: GPU メモリ使用量を抑えるための LoRA と 8-bit 訓練のサポート。
• Advanced Optimization: RLHF の代替として DPO、IPO、および KTO を含みます。
• Experiment Tracking: 実験を追跡、比較、Weights & Biases (W&B) との連携が可能です。
• Model Export: Hugging Face Hub への直接エクスポート機能。
• Multi-GPU Support: 複数の GPU でより大きなモデルを訓練するための DeepSpeed との統合。