axolotl-ai-cloud/axolotl

解决的问题

Axolotl 简化了大型语言模型（LLM）后训练和微调的复杂过程。它提供了一个统一的框架，无需为每个新模型或技术编写自定义训练脚本，用户可以通过一个 YAML 文件配置整个流程——从数据集预处理到量化。

工作原理

Axolotl 作为多种训练库和优化技术的封装器和编排器。它支持广泛的模型（如 Llama、Mistral 和 Qwen）和模态（文本、视觉、音频）。用户在配置文件中定义训练参数，Axolotl 负责底层技术执行，包括 Flash Attention 等内存优化，以及使用 FSDP 和 DeepSpeed 在多个 GPU 或节点之间进行分布式训练。

适用人群

专为希望在自定义数据集上对开源 LLM 进行微调，而又无需管理不同训练框架相关样板代码的 AI 研究人员、开发者和组织设计。

主要亮点

• 广泛模型支持：兼容 Hugging Face Hub 上的大量模型，包括多模态视觉-语言和音频模型。
• 融合多种技术：支持全量微调、LoRA、QLoRA、偏好微调（DPO、ORPO）、强化学习（GRPO）和奖励建模。
• 高级优化：集成 Flash Attention 2/3/4、序列并行、多种量化方法（FP8、NVFP4），降低显存占用并提升速度。
• 配置驱动：使用单一 YAML 文件管理整个流程，使实验可复现且易于共享。
• 支持 AI 编码代理：内置专为 Cursor 和 Claude Code 等 AI 编码代理优化的文档。