axolotl-ai-cloud/axolotl

解決的問題

Axolotl 簡化了大型語言模型 (LLM) 訓練後處理與微調的複雜過程。它提供了一個統一的框架，無需為不同的模型或技術編寫自定義訓練腳本，使用戶能夠透過單一設定檔完成從資料集預處理到推論的全過程。

工作原理

使用者在 YAML 設定檔中定義訓練參數——例如模型、資料集與微調方法。Axolotl 負責底層的編排工作，透過整合各種效能核心與分散式訓練函式庫，在單個或多個 GPU 與節點上執行訓練任務。

適用對象

專為 AI 研究人員與開發人員設計，他們希望在無需管理訓練迴圈與硬體優化等底層樣板程式碼的情況下，微調最先進的 LLM 與視覺語言模型 (VLM)。

亮點

• 廣泛的模型支援：相容 LLaMA, Mistral, Mixtral, Qwen 以及 Hugging Face Hub 上的許多其他模型。
• 多樣化的訓練方法：支援 full fine-tuning, LoRA, QLoRA, Preference Tuning (DPO, ORPO), RL (GRPO) 與 Reward Modelling。
• 多模態能力：能夠微調視覺語言模型 (VLM) 與音訊模型。
• 進階優化：包括 Flash Attention 2/3/4, Sequence Parallelism，以及用於多 GPU/多節點擴展的 FSDP 與 DeepSpeed 支援。
• 靈活的資料載入：支援來自本地儲存、Hugging Face 與各種雲端供應商 (S3, Azure, GCP, OCI) 的資料集。