fscdc/Awesome-Efficient-Reasoning-Models

它解决了什么问题

大型推理模型（在回答前逐步思考的LLM）功能强大但速度慢且成本高。它们通常生成很长的思维链，这会消耗计算资源和时间。该项目收集并整理了关于如何在降低成本的同时保持推理准确性的最新研究——例如通过缩短思维链、使用更小的模型或使解码过程更高效。

它的工作原理

这个仓库是一个活体的、基于论文的综述。它将数百篇研究论文分为清晰的类别：

• 使长思维链变短 — 通过微调、强化学习或提示技巧来压缩或缩短推理模型生成的思维链（CoT）的方法。
• 构建具有强推理能力的小语言模型 — 将强大的推理能力蒸馏到小语言模型（SLM）中，或通过量化和剪枝来减小模型大小的方法。
• 让解码更高效 — 加速实际令牌生成步骤的技术，如高效的测试时扩展或更好的解码策略。
• 高效多模态推理 — 降低模型处理图像或其他模态时的成本。
• 高效智能体推理 — 使类似智能体的多步推理更高效。
• 评估与基准 — 帮助衡量效率提升的基准和测试。

每篇论文条目包括一张图、简短介绍、GitHub仓库和arXiv论文的链接。分类图和快速链接列表帮助读者导航。维护者会积极更新列表，并接受拉取请求以添加新论文。

适用人群

从事大型语言模型工作的研究人员、工程师和学生——尤其是那些对使推理模型更快、更便宜或更易于部署感兴趣的人。它也对任何想要全面了解高效推理研究现状的人有用，以及那些想要将自己的论文贡献给一个公开、可引用的集合的人。

亮点

• 同时涵盖训练时方法（SFT、RL）和推理时技巧（解码、剪枝）。
• 结构清晰，带有视觉分类，便于按方法浏览。
• 包含许多带有GitHub链接和说明性图表的论文，便于快速评估和复现。
• 积极维护——随着时间的推移会添加新部分（如高效智能体推理），并欢迎通过拉取请求进行社区贡献。