Nicolepcx/transformers-the-definitive-guide

This is the official repository for the book Transformers - The Definitive Guide

解决的问题

从书本学习 Transformer 可能很抽象,运行示例通常需要繁琐的设置。本仓库通过提供与《Transformers - 权威指南》各章节匹配的即用型 Jupyter 笔记本解决了这个问题。您无需从头编写代码或与环境搏斗,可以直接在 Google Colab(支持 GPU)中打开任何笔记本并跟随操作。它还捆绑了实用函数和每章的要求,让您可以专注于概念而不是样板代码。

工作原理

仓库按 CH01 到 CH12 的文件夹组织,每个文件夹对应一本书的章节。每个文件夹包含命名模式如 ch01_attention_mechanism_variations.ipynb 的笔记本——章节号加简短描述。笔记本设计为在支持 GPU 的云服务上运行(推荐使用 Colab)。每个笔记本都包含一个单元格,用于将仓库克隆到 Colab 环境并设置所需的实用程序,因此所有支持代码和资源都可访问。还提供了一个 bash 脚本 create_env.sh 用于创建本地虚拟环境(conda 或 pipenv),但 README 指出这是可选的,因为笔记本是为云使用设计的。

章节涵盖广泛的主题:从基础(注意力、嵌入)到时间序列、视觉(图像分类、分割)、图像生成、视频生成、音频任务(转录、音乐生成)、强化学习、规划/推理/编码、AI 智能体、优化(如 LoRA 微调)和部署(性能评估)。

适用人群

这主要面向 O'Reilly 图书《Transformers - 权威指南》的读者——学生、开发人员或研究人员,他们希望动手实践示例。由于笔记本在支持 GPU 的 Colab 上运行,它们也适用于任何想要无需本地设置即可获得现代 Transformer 技术实用、自包含演示的人。内容相当高级,因此建议具备基本的机器学习和 Python 知识。

亮点

  • 与图书直接对应:每个笔记本都映射到特定的章节和主题。
  • 一键 Colab 集成:每个笔记本都有徽章,可在 Google Colab 中打开并运行(需要 GPU)。
  • 广泛覆盖:涵盖时间序列、视觉、图像生成、视频、音频、强化学习、智能体、微调和部署。
  • 自包含:笔记本自动克隆仓库,拉入自定义实用程序和每章依赖项。

相关

  • 项目
  • 项目
  • 项目
  • 项目