LlamaFactory: 它是什麼、解決了什麼問題以及為什麼受到關注

解決了什麼問題

LLaMA Factory 是一個統一的框架，旨在簡化大型語言模型 (LLMs) 的微調過程。它透過提供一個零代碼介面來訓練和部署超過 100 種不同的模型，從而消除了對大量編碼的需求。

如何運作

該專案提供了一個全面的工具包，整合了各種訓練方法、優化算法和硬體加速。使用者可以透過命令列介面 (CLI) 或名為 LLaMA Board (由 Gradio 提供支援) 的圖形化使用者介面進行互動。它支援廣泛的微調技術，從全參數微調到像 LoRA 和 QLoRA 這樣節省記憶體的技術，並與 vLLM 和 SGLang 等推理後端整合，以實現更快的部署。

對象是誰

它旨在服務於想要針對特定任務（例如多輪對話、工具使用、圖像理解和音訊識別）微調 LLMs 的開發者和 AI 研究人員，而無需從頭開始編寫複雜的訓練腳本。

重點亮點

• 廣泛的模型支援：相容於 LLaMA, Mistral, Qwen, DeepSeek, Gemma 以及許多其他模型。
• 多樣化的訓練方法：支援監督式微調 (SFT), 獎勵模型建模, PPO, DPO, KTO, 和 ORPO。
• 資源效率：提供 16-bit 全參數微調以及 2- 到 8-bit QLoRA 以降低硬體需求。
• 先進的優化器：整合了 GaLore, BAdam, 和 Muon 等尖端算法。
• 零代碼介面：具備 Web UI (LLaMA Board) 以進行輕鬆的配置和訓練管理。
• 多模態能力：支援圖像、影片和音訊理解任務的微調。