HandsOnLLM/Hands-On-Large-Language-Models

这个项目是什么？

这个仓库是 Jay Alammar 和 Maarten Grootendorst 所著《动手学大语言模型》一书的官方配套代码。作者戏称其为“图解 LLM 书”，因为它大量依赖视觉元素——近 300 幅定制插图——来教授大语言模型（LLM）的工作原理及使用方法。

这本书本身是 O'Reilly 出版的 400 页指南，这个 GitHub 仓库包含书中所有代码示例，按 12 章组织。

它包含什么？

每章都有一个 Jupyter 笔记本（交互式编码文档），引导你完成一个动手示例。章节从基础到高级主题逐步推进：

语言模型简介 — 什么是 LLM 以及它们如何融入 AI 领域
分词和嵌入 — 文本如何被拆分成片段并转换为数字
深入 Transformer LLM 内部 — 驱动现代 LLM 的内部架构
文本分类 — 教模型将文本分类到不同类别
文本聚类和主题建模 — 对相似文本进行分组并发现主题
提示工程 — 设计指令以获得更好的 LLM 响应
高级文本生成技术与工具 — 更复杂的文本生成方法
语义搜索与检索增强生成 — 按含义搜索并将检索与生成结合
多模态大语言模型 — 处理图像、音频及其他数据类型（不仅是文本）的模型
创建文本嵌入模型 — 构建你自己的将文本转换为向量的模型
微调表示模型用于分类 — 调整预训练模型以用于分类任务
微调生成模型 — 调整预训练模型以用于文本生成

如何使用？

README 强烈建议通过 Google Colab 运行笔记本，这是一个免费的云服务，提供 16GB VRAM 的 T4 GPU。所有示例都在 Colab 上构建和测试，因此它是最稳定的环境。其他云提供商也应该可以，但结果可能因操作系统、Python 版本和依赖项而略有不同。

对于喜欢在本地运行的人，有一个 .setup 文件夹，包含安装所有包的快速入门指南，以及一个 .setup/conda 文件夹，包含完整的环境设置指南，包括 conda 和 PyTorch 安装。

额外内容

作者还维护了一套额外视觉指南，深入探讨书中未涵盖的主题。这些包括图解指南：

Mamba（一种序列模型）
量化（压缩模型以加快运行速度）
Stable Diffusion（图像生成）
专家混合（一种模型架构技术）
推理 LLM（逐步思考的模型）
DeepSeek-R1（一个特定的推理模型）

这些指南从仓库链接，可免费阅读。

适合谁？

根据 README 中引用的评论，这本书面向希望深入且实际理解 LLM 的人——从初学者到想要微调自己模型的人。评论者包括 Andrew Ng（DeepLearning.AI 创始人）、Nils Reimers（sentence-transformers 创建者）、Josh Starmer（StatQuest）、Luis Serrano 和 Leland McInnes（UMAP 和 HDBSCAN 创建者）。

关键事实

作者：Jay Alammar 和 Maarten Grootendorst，都是知名的 AI 教育者
出版社：O'Reilly（2024）
ISBN：978-1098150969
购买渠道：Amazon、O'Reilly、Kindle、Barnes and Noble、Shroff Publishers（印度）、Goodreads
格式：12 个 Jupyter 笔记本，每章一个，每个都有“在 Colab 中打开”的一键按钮
成本：代码在 GitHub 上免费；书本身是付费产品

简而言之：如果你想通过动手学习 LLM——配有清晰的插图和可运行的代码——这个仓库为你提供了这本广受好评的书中的所有示例，可直接在浏览器中运行。