HaiPenglai/Treasure-Questions

宝藏问题:汇总了大模型的重要资源,整理了宝藏问题手稿,宝藏论文参考文献

What it solves

这个项目解决的是深度学习和大型语言模型(LLM)学习者面对大量零散概念时“不知道问什么、也找不到系统答案”的问题。它把众多常见但容易混淆的技术问题(例如 FlashAttention 和线性注意力有何不同、PPO 的 KL 约束在防什么、MoE 的 dispatch 和 combine 是什么)整理成一个个具体的“宝藏问题”,每个问题都配有讲解视频和可选论文参考,让学习者能按顺序逐一攻克难点。

How it works

项目以 GitHub 仓库形式组织,按编号(从 247 往上递减)列出每天的“宝藏问题”。每个条目包含一个问题标题、对应的 B 站视频链接(以 BV 号标识)以及一张封面图片。你点击视频链接即可观看讲解,点击封面图片也能跳转到视频。另外仓库内还有“宝藏论文链接大全”文件夹,集中存放相关论文的参考文献。下载方式很简单:点击仓库右上角的 <>code 按钮选择 Download Zip,或者直接用 git clone 克隆到本地。目前项目已收录 247 个问题手稿和 194 篇论文参考。

Who it's for

这个项目适合正在学习深度学习、特别是对 Transformer 架构、注意力机制、大模型训练与推理、强化学习(PPO/GRPO)等主题有好奇心的学生、研究人员或开发者。如果你喜欢通过短视频快速理解一个技术点,同时希望获得论文进一步深挖,这里就是一个按天更新的知识清单。作者(B站“海安雨”)在持续更新,内容从基础的可视化到进阶的工程实现都有涉及。

Highlights

  • 已整理 247 个宝藏问题手稿和 194 篇论文参考文献。
  • 每个问题配有 B 站视频链接,点击即可观看,封面图也带跳转。
  • 话题覆盖 Transformer、注意力可视化、KV Cache、MoE、PPO、分布式推理等热点。
  • 答疑形式直观,适合碎片化学习。

相关

  • 项目
  • 项目
  • 项目
  • 项目