ZHAOoops/AI-Notes

해결하는 문제

AI 알고리즘을 배울 때 많은 자료는 수학 공식만 있거나 코드만 제공하여, 둘을 연결하는 직관적인 설명이 부족합니다. 이 프로젝트는 저자의 비디오 강좌 슬라이드(PPTX 편집 가능 버전 및 PDF 버전)를 공개하여 학습자가 수학적 원리, 다이어그램, 코드를 대조하며 단계적으로 이해할 수 있게 하고, 그룹 미팅 발표나 교육에 직접 다운로드하여 사용할 수 있습니다.

작동 방식

저장소는 주제별로 폴더를 나누어 슬라이드를 보관하며, 각 슬라이드는 Bilibili 비디오 링크에 대응하고 PPTX와 PDF 두 가지 형식을 제공합니다. 현재 두 가지 주요 분야를 다룹니다:

• 대규모 모델 기초: Attention, RoPE 회전 위치 인코딩, KV Cache, DeepSeek의 희소 어텐션(DSA/NSA), LoRA 파인튜닝(저랭크 근사, 역전파, 초기화 전략), 정보 이론 기초(엔트로피와 KL 발산), 잔차 연결 관련 확장을 포함합니다.
• 강화 학습: Q-Learning부터 시작하여 DQN, Policy Gradient, Actor-Critic, TRPO(켤레 기울기 수학 포함), PPO(SB3 코드 해설 포함), GAE, 마지막으로 RLHF까지 설명합니다.

사용 방법은 간단합니다: 온라인 학습 시 PDF를 직접 봅니다(GitHub는 미리보기 지원), 슬라이드를 수정해야 할 때 PPTX 원본 파일을 다운로드합니다.

대상 독자

• 대규모 모델과 강화 학습을 배우는 학생이나 연구자로, 완전한 수학적 유도와 해당 코드 구현을 보고 싶은 분.
• 그룹 미팅 발표나 교육 자료 제작이 필요한 교사와 엔지니어로, PPTX를 기반으로 2차 수정이 가능한 분.
• 비디오와 슬라이드를 결합하여 배우는 것을 선호하는 분. 비디오는 저자가 Bilibili에서 게시하며, 여기 제공되는 슬라이드와 함께 사용할 수 있습니다.

특징

• 각 주제에 대해 편집 가능한 PPTX와 고해상도 PDF를 동시에 제공하여 수정과 읽기 모두 지원.
• 넓은 범위: Transformer 핵심 구성 요소부터 DeepSeek 최신 기술, 고전 Q-Learning부터 PPO/RLHF까지.
• "수학적 원리 → 코드 실전"의 완전한 체인을 강조하며, 다이어그램과 유도를 함께 제공.
• CC BY-NC 4.0 라이선스를 따르며, 인용 시 출처를 명시하면 사용할 수 있습니다.