unslothai/unsloth-zoo

解決的問題

Unsloth Zoo 提供工具，可大幅加快大型語言模型（LLMs）微調的速度並提升記憶體效率。它解決了微調前沿模型（如 Llama、Mistral 和 Qwen）時常見的高 VRAM 需求與訓練速度緩慢的問題。

如何運作

此專案使用 OpenAI 的 Triton 語言撰寫的自訂核心，以及手動反向傳播引擎來優化訓練過程。支援多種訓練模式，包括完整微調、4 位元、8 位元和 16 位元訓練，且不犧牲準確性。專案設計用於 NVIDIA GPU（2018 年以後型號），並與 Hugging Face 的 TRL 和 Trainer 庫整合。

適用對象

專為希望在有限硬體（如消費級 GPU）上微調 LLM、視覺模型或語音合成（TTS）模型的開發人員與 AI 研究人員設計，或需要加速訓練流程的使用者。

主要特色

• 顯著的效能提升：訓練速度最快可提升 2.2 倍，VRAM 使用量最多可減少 80%。
• 廣泛的模型支援：相容 Llama 3.1/3.2/4、Mistral、Qwen3、Gemma 3、Phi-4 等多種模型，包含視覺與 TTS 模型。
• 零準確度損失：使用精確計算，而非近似方法。
• 彈性匯出功能：支援將微調後的模型匯出至 GGUF、Ollama、vLLM 或 Hugging Face 格式。
• 進階強化學習支援：內建記憶體效率高的強化學習（RL）與 GRPO，適用於推理模型訓練。