thinking-machines-lab/tinker-cookbook

解决的问题

Tinker Cookbook 提供了一组高阶抽象和实用示例，旨在简化自定义和微调大型语言模型 (LLM) 的过程。它利用 Tinker API 消除了分布式训练的复杂性，使开发者能够专注于训练配方而非基础设施。

运作方式

该库构建于 tinker SDK 之上，由其处理分布式训练后端。Tinker Cookbook 提供了一系列“配方”（预配置的训练环境）以及多种实用工具，用于将 Token 序列渲染为聊天消息、管理 LoRA 训练的超参数，以及评估模型。

目标对象

专为希望执行高级后训练技术（如监督微调 (SFT)、强化学习 (RL) 和蒸馏）且无需自行管理训练集群的研究人员和开发者设计。

特色亮点

• 多样化的训练配方：包含 Chat SFT、数学和代码 RL（带沙盒执行）、偏好学习 (DPO/RLHF)、知识蒸馏以及多智能体 RL 的实现。
• 多模态支持：针对 Inkling 模型系列，支持音频和图像输入的 SFT 和 RL。
• 集成评估：实验性的基准测试框架，支持 12+ 种基准测试（如 GSM8K、MMLU-Pro、GPQA）以验证模型性能。
• Claude Code 集成：内置专用技能，帮助 AI 助手自动化规划和调试训练实验。