axolotl-ai-cloud/axolotl

解決的問題

Axolotl 簡化了大型語言模型（LLM）後訓練與微調的複雜過程。它提供了一個統一的框架，無需為每個新模型或技術撰寫自訂訓練程式碼，使用者可透過單一 YAML 檔案配置整個流程——從資料集預處理到量化。

工作原理

Axolotl 作為多種訓練庫與最佳化技術的封裝器與協調器。它支援廣泛的模型（如 Llama、Mistral 和 Qwen）與模態（文字、視覺、音訊）。使用者在設定檔中定義訓練參數，Axolotl 負責底層技術執行，包括 Flash Attention 等記憶體最佳化，以及使用 FSDP 和 DeepSpeed 在多個 GPU 或節點之間進行分散式訓練。

適用對象

專為希望在自訂資料集上對開源 LLM 進行微調，而又無需管理不同訓練框架相關樣板程式碼的 AI 研究人員、開發者與組織設計。

主要亮點

• 廣泛模型支援：相容 Hugging Face Hub 上的大量模型，包括多模態視覺-語言與音訊模型。
• 整合多種技術：支援全量微調、LoRA、QLoRA、偏好微調（DPO、ORPO）、強化學習（GRPO）與獎勵建模。
• 高階最佳化：整合 Flash Attention 2/3/4、序列平行、多種量化方法（FP8、NVFP4），降低顯存使用並提升速度。
• 配置驅動：使用單一 YAML 檔案管理整個流程，使實驗可重現且易於分享。
• 支援 AI 編碼代理：內建專為 Cursor 和 Claude Code 等 AI 編碼代理優化之文件。