unslothai/unsloth-zoo

它解决了什么问题

Unsloth Zoo 提供了实用工具，可显著加快大型语言模型（LLMs）的微调速度并提高内存效率。它解决了微调前沿模型（如 Llama、Mistral 和 Qwen）时通常面临的高显存（VRAM）需求和训练速度慢的问题。

它如何工作

该项目使用 OpenAI 的 Triton 语言编写的自定义内核和手动反向传播引擎来优化训练。它支持多种训练模式，包括全量微调、4 位、8 位和 16 位训练，且不会牺牲准确性。它专为 NVIDIA GPU（2018 年及以后型号）设计，并与 Hugging Face 的 TRL 和 Trainer 库集成。

适合谁使用

适用于希望在有限硬件（如消费级 GPU）上微调 LLM、视觉模型或文本转语音（TTS）模型的开发者和 AI 研究人员，或需要加速其训练流程的用户。

主要亮点

• 显著的性能提升：训练速度最高提升 2.2 倍，显存使用量最多减少 80%。
• 广泛的模型支持：兼容 Llama 3.1/3.2/4、Mistral、Qwen3、Gemma 3、Phi-4 等模型，还包括视觉模型和 TTS 模型。
• 零精度损失：使用精确计算，而非近似方法。
• 灵活的导出选项：支持将微调后的模型导出为 GGUF、Ollama、vLLM 或 Hugging Face 格式。
• 高级强化学习支持：内置内存高效的强化学习（RL）和 GRPO，适用于推理模型的训练。