AI by Hand: 通过数学和算法可视化进行技术教育

AI by Hand 通过第一性原理的方法来理解 AI

AI by Hand 是 By Hand Research 的研究出版物，由 Prof. Tom Yeh 创立。该平台专注于模型的可解释性和可解释性，通过将复杂的 AI 架构、算法和数学分解为“手动”练习。这种方法旨在超越黑盒框架的使用，允许学习者通过手动计算和可视化来理解前沿 AI 的底层机制。

教育框架与内容支柱

该平台将其技术内容组织为两个主要轨道：Foundation（基础）和 Frontier（前沿）。

Foundation: 核心 AI 数学

Foundation 轨道专注于深度学习的基本构建模块。关键资源包括：

• Interactive Workbooks：Deep Learning Math Workbook 的数字版本，包括矩阵乘法 (Matmul) 和线性层 (Linear Layers) 的特定模块。
• Attention Mechanisms：一系列包含 11 个交互式图表的全面系列，涵盖了 Single vs. Multi-Head Attention 和 Self vs. Cross Attention。
• Activation Functions：一个专门的章节，包含 12 个关于神经元如何在网络中被激活的交互式课程。
• Visualization Tools：专门的工具，如 "Matmul Flow" 和 "Self-Attention Flow"，旨在可视化数据的移动和转换。

Frontier: 高级架构与算法

Frontier 轨道分析了大规模 AI 模型和硬件的最新进展。值得注意的主题包括：

• Model Analysis：关于 Qwen 3.6 和 Gemma 4 等模型的技术研讨会和录音。
• Optimization Algorithms：对强化学习和对齐技术的深入研究，特别是从 PPO (Proximal Policy Optimization) 到 DPO (Direct Preference Optimization)、GRPO 以及 Rubrics 的使用。
• Hardware Architecture：对 Google Ironwood TPU 的分析，追踪从 bits 到 High Bandwidth Memory (HBM) 的数据路径。
• Specialized Components：对 SwiGLU 激活函数和 PPO Clipped Policy Loss 算法的技术分解。

社区观点与替代资源

虽然一些用户称赞“手动”方法因其严谨性而具有优势，但技术社区中的其他成员也指出了关于平台可访问性的挑战。

可访问性批评

一些用户指出，平台的 UX 可以成为一种障碍，有几条评论提到很大一部分内容被锁定在订阅墙后，或者在访问链接之前需要导航到订阅页面。

互补的“从零开始”资源

社区成员为那些寻求从头开始构建 LLM 的人建议了几个替代或互补的资源：

• Code-Based Implementations：诸如 llm-from-scratch 和 ml-by-hand（受 micrograd 启发）的项目，强调了微积分与代码之间的联系。
• Structured Courses：Sebastian Raschka 的 Build a Large Language Model (From Scratch) 被引用为与讲解视频的极佳搭配。
• Academic Primers：No Starch Press 出版的 Deep Learning: A Visual Approach 一书被推荐为基础入门书。
• Theoretical Papers：论文 Foundations of Large Language Models (arXiv:2501.09223v2) 被建议用于理论基础。