axolotl-ai-cloud/axolotl
Go ahead and axolotl questions
解決する課題
Axolotlは、大規模言語モデル（LLM）のポストトレーニングとファインチューニングの複雑なプロセスを簡素化します。統一されたフレームワークを提供することで、異なるモデルや手法に対してカスタムトレーニングスクリプトを記述する必要がなくなり、ユーザーは単一の設定ファイルを使用して、データセットのプリプロセッシングから推論までを行うことができます。
仕組み
ユーザーは、モデル、データセット、ファインチューニング手法などのトレーニングパラメータをYAML設定ファイルに定義します。Axolotlは、さまざまなパフォーマンスカーネルと分散トレーニングライブラリを統合して、単一または複数のGPUおよびノードにわたるトレーニング実行を処理する基盤となるオーケストレーションを担います。
対象者
トレーニングループやハードウェアの最適化といった低レベルのボイラープレートを管理することなく、最先端のLLMや視覚言語モデル（VLM）をファインチューニングしたいAI研究者や開発者向けに設計されています。
ハイライト
- 幅広いモデルサポート: LLaMA, Mistral, Mixtral, Qwen、およびHugging Face Hubのその他多くのモデルと互換性があります。
- 多様なトレーニング手法: Full fine-tuning, LoRA, QLoRA, Preference Tuning (DPO, ORPO), RL (GRPO), および Reward Modelling をサポートしています。
- マルチモーダル機能: 視覚言語モデル（VLM）および音声モデルのファインチューニングが可能です。
- 高度な最適化: Flash Attention 2/3/4, Sequence Parallelism、およびマルチGPU/マルチノードスケーリングのための FSDP と DeepSpeed のサポートが含まれています。
- 柔軟なデータロード: ローカルストレージ、Hugging Face、および各種クラウドプロバイダー（S3, Azure, GCP, OCI）からのデータセットをサポートしています。