harvard-edge/cs249r_book

它解决了什么问题

大多数资源教你如何训练模型，但不教你如何构建围绕模型的系统——跨集群扩展、在延迟约束下提供服务、在边缘设备上部署、编排代理或控制机器人。本项目通过将“AI工程”定义为类似于软件或计算机工程的规范实践来弥补这一差距：它教你设计、构建和评估完整的智能系统，使其在现实条件下高效、可靠、安全且稳健。

它是如何工作的

该仓库是一个单一的综合课程，而不仅仅是一本书。它包含四卷本教科书系列，每卷处理不同的系统边界：

• 第一卷涵盖基础：如何让智能在单个节点上高效执行——数据、训练、推理、部署和评估。
• 第二卷（预览）涵盖跨分布式集群和数据中心的扩展——加速器、内存、通信、并行性、服务和可靠性。
• 第三卷（开发中）涵盖代理系统——推理循环、记忆、工具、规划、编排和多代理设置。
• 第四卷（开发中）涵盖物理AI——机器人技术、传感、实时控制和安全。

除了教科书，还有配套工具供你边做边学。TinyTorch 引导你通过20个模块从零构建一个小型机器学习框架。实验是交互式笔记本，你可以调整参数并看到权衡，由 MLSys·im 提供支持，这是一个模拟器，模拟你无法物理访问的基础设施（如GPU集群）。硬件套件将机器学习部署到Arduino、Raspberry Pi及类似设备上，以面对真实的内存和延迟限制。StaffML 提供面试风格的问题和练习，用于求职准备。对于教育工作者，有 教师中心 提供教学大纲、讲座幻灯片（多种主题）和 新闻通讯 用于更新。所有内容都设计为一个学习循环：阅读、探索、构建、建模、部署、实践、教学。该项目是开源的，拥有活跃的贡献者社区；教科书计划于2026年由MIT Press出版纸质版。

适合谁

该课程面向学生、自学者和教育工作者，他们希望获得一条全面、动手的路径来理解机器学习系统——不仅仅是模型训练。它也服务于准备机器学习系统面试的在职工程师，以及希望改进章节、实验或工具的贡献者。入门点各不相同：你可以作为学生从第一卷和实验00开始，如果你是教师可以跳到教师中心，或者选择一个组件进行贡献。

亮点

• 开源的四卷本教科书系列，涵盖基础、扩展、代理系统和物理AI。
• 交互式实验和模拟器（MLSys·im），无需拥有集群即可探索权衡。
• 使用TinyTorch通过20个渐进模块从零构建一个真实的机器学习框架。
• 适用于Arduino、Raspberry Pi及类似设备的硬件套件，学习真实部署约束。
• StaffML面试准备，包含基于物理的问题和练习。
• 教师资源：教学大纲、幻灯片和用于课堂采用的新闻通讯。
• 设计为单一综合课程，每个组件相互强化。