mbzuai-oryx/Awesome-LLM-Post-training

解决的问题

本仓库解决了在快速发展的LLM后训练领域中导航复杂性的问题。它提供了一个结构化的、精选的研究和方法论集合，旨在帮助开发者和研究人员理解如何在初始训练阶段后改进LLM的推理、决策和对齐。

工作原理

该项目作为一个中心知识枢纽。它将学术论文、基准测试和技术资源组织成一个清晰的分类体系。这包括强化学习（RL）技术、过程奖励模型、树搜索算法和策略优化等类别，使用户能够探索特定的后训练策略，如微调或测试时扩展。

适用对象

本资源面向对LLM技术进展感兴趣的人工智能研究人员、机器学习工程师和学生。对于那些希望实现或研究高级推理能力（如现代“推理模型”中的能力）的人尤其有用。

亮点

• 一个全面的后训练方法分类体系，包括微调、RL和测试时扩展。
• 关于推理、决策和多智能体系统的有影响力的论文精选列表。
• 用于评估和实现LLM-RL框架的基准测试和库的链接。
• 定期更新最新研究，包括一篇被IEEE TPAMI接受的综述论文。