ZHAOoops/AI-Notes

解決する課題

AIアルゴリズムを学ぶ際、多くの資料は数式のみかコードのみで、両者を結びつける直感的な説明が不足しています。このプロジェクトは、著者のビデオコースのスライド（PPTX編集版とPDF版）を公開し、学習者が数学的原理、図、コードを照らし合わせて段階的に理解できるようにし、またグループミーティングの報告や教育に直接ダウンロードして使用できます。

仕組み

リポジトリはテーマごとにフォルダ分けされ、各スライドはBilibiliビデオリンクに対応し、PPTXとPDFの2形式を提供します。現在、以下の2つの主要分野をカバーしています：

• 大規模モデル基礎：Attention、RoPE回転位置エンコーディング、KV Cache、DeepSeekのスパースアテンション（DSA/NSA）、LoRAファインチューニング（低ランク近似、逆伝播、初期化戦略）、情報理論の基礎（エントロピーとKLダイバージェンス）、残差接続関連の拡張を含みます。
• 強化学習：Q-Learningから始め、DQN、Policy Gradient、Actor-Critic、TRPO（共役勾配の数学を含む）、PPO（SB3コード解説を含む）、GAE、最後にRLHFまで説明します。

使用方法は簡単です：オンライン学習時はPDFを直接表示（GitHubはプレビュー対応）、スライドを変更する必要がある場合はPPTXソースファイルをダウンロードします。

対象読者

• 大規模モデルと強化学習を学んでいる学生や研究者で、完全な数学的導出と対応するコード実装を見たい方。
• グループミーティングの報告や教材作成が必要な教師やエンジニアで、PPTXを基に二次修正が可能な方。
• ビデオとスライドを組み合わせて学ぶことを好む方。ビデオは著者がBilibiliで公開し、ここで提供されるスライドと併用できます。

特長

• 各テーマで編集可能なPPTXと高解像度PDFを同時に提供し、修正と閲覧の両方に対応。
• 広いカバレッジ：Transformerの主要コンポーネントからDeepSeekの最先端技術、古典的なQ-LearningからPPO/RLHFまで。
• 「数学的原理→コード実践」の完全なチェーンを重視し、図解と導出を併せて提供。
• CC BY-NC 4.0ライセンスに従い、引用時に出典を明記すれば使用可能です。