harvard-edge/cs249r_book

해결하는 문제

대부분의 리소스는 모델을 훈련하는 방법을 가르치지만, 그 주변의 시스템(클러스터 확장, 지연 시간 제약 하의 서빙, 엣지 디바이스 배포, 에이전트 오케스트레이션, 로봇 제어)을 구축하는 방법은 가르치지 않습니다. 이 프로젝트는 "AI 엔지니어링"을 소프트웨어 공학이나 컴퓨터 공학과 유사한 훈련된 실천으로 정의함으로써 그 격차를 메웁니다. 실제 조건에서 효율적이고 신뢰할 수 있으며 안전하고 견고한 완전한 지능형 시스템을 설계, 구축, 평가하는 방법을 가르칩니다.

작동 방식

이 저장소는 단순한 책이 아니라 단일 통합 커리큘럼입니다. 4권의 교과서 시리즈를 포함하며, 각 권은 다른 시스템 경계를 다룹니다.

• 제1권은 기초를 다룹니다: 단일 노드에서 지능을 효율적으로 실행하는 방법(데이터, 훈련, 추론, 배포, 평가).
• 제2권(미리보기)은 분산 클러스터와 데이터 센터 전반의 확장을 다룹니다: 가속기, 메모리, 통신, 병렬성, 서빙, 신뢰성.
• 제3권(개발 중)은 에이전트 시스템을 다룹니다: 추론 루프, 메모리, 도구, 계획, 오케스트레이션, 다중 에이전트 설정.
• 제4권(개발 중)은 물리적 AI를 다룹니다: 로봇 공학, 센싱, 실시간 제어, 안전.

교과서와 함께, 배우면서 사용할 수 있는 동반 도구가 있습니다. TinyTorch는 20개의 모듈로 처음부터 작은 ML 프레임워크를 구축하는 과정을 안내합니다. 랩은 매개변수를 조정하고 트레이드오프를 확인할 수 있는 대화형 노트북으로, 물리적으로 접근할 수 없는 인프라(GPU 클러스터 등)를 모델링하는 시뮬레이터 MLSys·im이 지원합니다. 하드웨어 키트는 Arduino, Raspberry Pi 및 유사한 장치에 ML을 배포하여 실제 메모리와 지연 시간 제약을 직면하게 합니다. StaffML은 면접 준비를 위한 인터뷰 스타일 질문과 연습 문제를 제공합니다. 교육자를 위해 강의 계획서가 포함된 강사 허브, 여러 테마의 강의 슬라이드, 업데이트를 위한 뉴스레터가 있습니다. 모든 것은 하나의 학습 루프로 설계되었습니다: 읽기, 탐구, 구축, 모델링, 배포, 연습, 가르치기. 이 프로젝트는 오픈소스이며 활발한 기여자 커뮤니티가 있습니다. 교과서는 2026년에 MIT Press에서 종이판으로 출판될 예정입니다.

대상 독자

이 커리큘럼은 기계 학습 시스템(모델 훈련뿐만 아니라)을 포괄적이고 실습적으로 이해하고자 하는 학생, 자기 주도 학습자, 교육자를 대상으로 합니다. 또한 ML 시스템 면접을 준비하는 현직 엔지니어와 장, 랩 또는 도구를 개선하는 데 기여하고자 하는 기여자에게도 유용합니다. 진입점은 다양합니다: 학생으로 제1권과 랩 00부터 시작하거나, 가르치는 경우 강사 허브로 이동하거나, 기여할 구성 요소를 선택할 수 있습니다.

주요 특징

• 기초, 확장, 에이전트 시스템, 물리적 AI를 다루는 오픈소스 4권 교과서 시리즈.
• 클러스터를 소유하지 않고도 트레이드오프를 탐색할 수 있는 대화형 랩과 시뮬레이터(MLSys·im).
• TinyTorch를 사용하여 20개의 점진적 모듈로 처음부터 실제 ML 프레임워크 구축.
• Arduino, Raspberry Pi 및 유사한 장치용 하드웨어 키트로 실제 배포 제약 학습.
• 물리 기반 질문과 연습 드릴을 갖춘 StaffML 면접 준비.
• 강사 리소스: 강의 계획서, 슬라이드, 교실 채택을 위한 뉴스레터.
• 각 구성 요소가 서로를 강화하는 단일 통합 커리큘럼으로 설계.