gpu-mode/lectures

Material for gpu-mode lectures

该仓库托管了 GPU MODE 讲座系列的支持文件,这是一个社区运营的 GPU 计算讲座系列。该项目本身只是一个材料文件夹:每个讲座都有自己的子文件夹或外部链接,包含幻灯片、Jupyter 笔记本、代码或 PDF。

涵盖内容: 实用且技术性的 GPU 主题,重点关注 CUDA 和 PyTorch 集成。指定的配套文本是《大规模并行处理器编程》(PMPP) 一书。主题涵盖从初学者 CUDA 基础和性能分析,到 Flash Attention、量化、Triton 内部原理、集合通信 (NCCL),甚至 ARM CPU 上的 GPU 内核等高级主题。

适合谁: 已经具备一些 Python 或 PyTorch 背景,并希望更深入了解 GPU 编程的人。讲座录制在 YouTube 频道上,并且有一个 Discord 社区(链接在 README 中)供讨论。

格式: 这里没有主代码库或库——该仓库是一个组织良好的链接和文件集合,每个讲座对应一个条目。每个条目通常列出演讲者(附有社交媒体或 GitHub 链接),以及本地文件路径(例如,笔记本的 lecture_003/)或 Google Drive、Dropbox 或 Colab 上幻灯片的外部链接。有些讲座提供可以在 Google Colab 中直接运行的实践笔记本。

关于组织方式的实用说明: 讲座编号不是连续的——列表从 43 跳到 57,然后是 67、78 等——因此编号反映了实际的讲座顺序,而不是完整的课程体系。一些条目的元数据不完整(例如,第 43 讲没有演讲者姓名,只有幻灯片)。

简而言之: 如果你想向实际从业者学习 GPU 编程,这个仓库是一个索引良好的课程大纲,所有原始教学材料(幻灯片、笔记本、代码)都集中在一个地方。

相关

  • 项目
  • 项目
  • 项目
  • 项目