MakazhanAlpamys/Soup

解决的问题

Soup 简化了大型语言模型（LLM）微调和后期训练的复杂过程。它消除了手动基础设施管理、SSH 访问 GPU 服务器以及复杂配置文件的需求，让用户只需一个命令即可开始训练。

运作方式

Soup 提供命令行界面（CLI）和 Web UI，抽象化了训练堆栈（PyTorch、Transformers、PEFT、TRL）。它使用单个 YAML 配置文件来定义基础模型、任务（例如 SFT、DPO、GRPO）和训练参数。

关键技术功能包括：

• 层流：一项测试版功能，通过一次将解码器层馈送到 GPU，允许在消费级 GPU 上微调大型模型（如 8B 模型），VRAM 最低仅需 4 GB。
• 多种后端：支持标准 transformers、Unsloth（用于更快的训练）和 MLX（用于 Apple Silicon）。
• 全面工具：集成了数据检查、批量推理、模型合并以及导出为 GGUF 等格式（供 Ollama 使用）的命令。

适用对象

希望微调 LLM 而无需对抗基础设施的开发人员和 ML 工程师，以及硬件资源有限（例如笔记本电脑 GPU）且希望利用 QLoRA 和层流等技术的用户。

亮点

• 单命令工作流：使用 soup init 初始化，并使用 soup train 训练。
• 低 VRAM 需求：通过层流，能够在 4 GB VRAM 上训练 8B 模型。
• 广泛任务支持：支持 SFT、DPO、GRPO、PPO、KTO、ORPO、SimPO、IPO、BCO 等。
• 多种导出选项：将模型导出为 GGUF、ONNX、TensorRT、AWQ 和 GPTQ。
• 集成 Web UI：用于实验跟踪、数据集探索和模型聊天的本地仪表板。