AI by Hand: 透過數學與演算法視覺化進行技術教育

AI by Hand 提供從第一原理出發理解 AI 的方法

AI by Hand 是 By Hand Research 的研究出版物，由 Prof. Tom Yeh 創立。該平台專注於模型的可解釋性與可說明性，透過將複雜的 AI 架構、演算法與數學拆解為「手算」練習。這種方法旨在超越黑盒框架的使用，讓學習者能透過手動計算與視覺化，理解前沿 AI 的底層機制。

教育框架與內容支柱

該平台將其技術內容分為兩個主要軌道：Foundation 與 Frontier。

Foundation: 核心 AI 數學

Foundation 軌道專注於深度學習的基本構建塊。關鍵資源包括：

• Interactive Workbooks: Deep Learning Math Workbook 的數位版本，包含矩陣乘法 (Matmul) 與線性層 (Linear Layers) 的特定模組。
• Attention Mechanisms: 一系列包含 11 個互動式圖表的全面系列，涵蓋 Single vs. Multi-Head Attention 以及 Self vs. Cross Attention。
• Activation Functions: 一個專門章節，包含 12 個關於神經元如何在網路中被激活的互動式課程。
• Visualization Tools: 專門的工具，如 "Matmul Flow" 與 "Self-Attention Flow"，旨在視覺化數據的移動與轉換。

Frontier: 進階架構與演算法

Frontier 軌道分析大型 AI 模型與硬體的最新發展。值得注意的主題包括：

• Model Analysis: 關於 Qwen 3.6 與 Gemma 4 等模型的技術研討會與錄影。
• Optimization Algorithms: 深入探討強化學習與對齊技術，特別是從 PPO (Proximal Policy Optimization) 到 DPO (Direct Preference Optimization)、GRPO 以及 Rubrics 的演進。
• Hardware Architecture: 分析 Google Ironwood TPU，追蹤從 bits 到 High Bandwidth Memory (HBM) 的數據路徑。
• Specialized Components: SwiGLU 激活函數與 PPO Clipped Policy Loss 演算法的技術拆解。

社群觀點與替代資源

雖然有些用戶稱讚「手算」方法的嚴謹性，但技術社群中的其他人也指出了關於平台易用性與用戶體驗的挑戰。

易用性批判

一些用戶指出平台的 UX 可能會成為障礙，多個評論提到很大一部分內容被鎖在訂閱牆後，或者在訪問連結之前需要導航至訂閱頁面。

互補的「從零開始」資源

社群成員建議了幾個替代或互補的資源，適合那些尋求從頭開始構建 LLM 的人：

• Code-Based Implementations: 如 llm-from-scratch 與 ml-by-hand (受 micrograd 啟發) 的專案，強調微積分與程式碼之間的聯繫。
• Structured Courses: Sebastian Raschka 的 Build a Large Language Model (From Scratch) 被引用為與解說影片搭配使用的價值資源。
• Academic Primers: No Starch Press 出版的書籍 Deep Learning: A Visual Approach 被推薦為基礎入門教材。
• Theoretical Papers: 論文 Foundations of Large Language Models (arXiv:2501.09223v2) 被建議用於理論基礎。