HenryNdubuaku/maths-cs-ai-compendium

Become a cracked AI/ML researcher/engineer with this unconventional textbook covering maths, computing, and ML with intuition.

概要

数学、コンピューティング、人工知能を基礎から扱う、オープンで型にはまらない教科書です。試験や面接を乗り切るためだけでなく、内容を深く理解したい好奇心旺盛な実践者向けに書かれています。

存在理由

著者はAI/ML分野で長年働き、直感優先の説明、現実世界の文脈、ごまかしのないノートを書き溜めてきました。2025年、数人の友人がこれらのノートを使ってDeepMind、OpenAI、Nvidiaなどでの面接準備をし、全員が採用され、役割で良い成績を収めました。著者もY Combinatorに参加しました。現在、ノートは公開されています。

内容

この大要は18章で構成され、すべて「利用可能」とマークされています:

  1. ベクトル — 空間、大きさ、方向、ノルム、計量、ドット/クロス/アウター積、基底、双対性
  2. 行列 — 性質、特殊な型、演算、線形変換、分解(LU、QR、SVD)
  3. 微積分 — 導関数、積分、多変数微積分、テイラー近似、最適化、勾配降下法
  4. 統計学 — 記述的尺度、サンプリング、中心極限定理、仮説検定、信頼区間
  5. 確率論 — 数え上げ、条件付き確率、分布、ベイズ法、情報理論
  6. 機械学習 — 古典的ML、勾配法、深層学習、強化学習、分散トレーニング
  7. 計算言語学 — 構文、意味論、語用論、NLP、言語モデル、RNN、CNN、アテンション、トランスフォーマー、テキスト拡散、OCR、MoE、SSM、現代のLLMアーキテクチャ、NLP評価
  8. コンピュータビジョン — 画像処理、物体検出、セグメンテーション、ビデオ処理、SLAM、CNN、ビジョントランスフォーマー、拡散、フローマッチング、VR/AR
  9. オーディオと音声 — DSP、ASR、TTS、音声/音響アクティビティ検出、ダイアライゼーション、ソース分離、アクティブノイズキャンセリング、WaveNet、Conformer
  10. マルチモーダル学習 — 融合戦略、対比学習、CLIP、VLM、画像/ビデオトークン化、クロスモーダル生成、統一アーキテクチャ、ワールドモデル
  11. 自律システム — 知覚、ロボット学習、VLA、自動運転車、宇宙ロボット
  12. グラフニューラルネットワーク — 幾何深層学習、グラフ理論、GNN、グラフアテンション、グラフトランスフォーマー、3D等変ネットワーク
  13. コンピューティングとOS — 離散数学、コンピュータアーキテクチャ、オペレーティングシステム、並行性、並列性、プログラミング言語
  14. データ構造とアルゴリズム — ビッグオー、再帰、バックトラッキング、動的計画法、配列、ハッシュ、リンクリスト、スタック、ツリー、グラフ、ソート、二分探索
  15. 本番ソフトウェアエンジニアリング — Linux、Git、コードベース設計、テスト、CI/CD、Docker、モデルサービング、MLOps、モニタリング、コーディングエージェントの使用
  16. SIMDとGPUプログラミング — ML用C++、フレームワークの仕組み、ハードウェアの基礎、ARM NEON/I8MM/SME2、x86 AVX、GPU/CUDA、Triton、TPU、RISC-V、Vulkan、WebGPU
  17. AI推論 — 量子化、効率的なアーキテクチャ、サービングとバッチ処理、エッジ推論、投機的デコード、コスト最適化
  18. MLシステム設計 — システムの基礎、クラウドコンピューティング、分散システム、MLライフサイクル、フィーチャーストア、A/Bテスト、レコメンデーション/検索/広告/不正行為の設計例

MCPサーバー

リポジトリには、任意のAIアシスタント(Claude Code、Cursor、VS Codeなど)が大要を知識ベースとして使用できるMCPサーバーが含まれています。リポジトリのローカルクローンが必要で、教育目的のツールと実装例が付属しています。

学習哲学

序文では、優れたAI研究者やエンジニアは、質の高い知識消費と豊かな経験から生まれると主張しています——良いデータで訓練されたニューラルネットワークのように。Kvashchevの実験を引用し、セルビアの長期研究で、創造的問題解決の集中的な3年間のトレーニングが流動性知能を10〜15 IQポイント大幅に向上させることが示されています。チャールズ・ダーウィンを例に挙げ、彼の教師は彼を平均的と見なし、彼は自分を「遅いプロセッサ」と表現し、データを吸収する時間が必要でした。この大要は「世界のダーウィンたち」のために設計されています——よく接続された知識の流れから恩恵を受ける人々。必要なのは初等数学と基本的なPythonだけです。他のすべては途中で学びます。

学習テクニック

著者は2段階の方法を共有しています:

  • フェーズ1 — 累積読書:授業後、寝る前に各教材を読みます。次の講義では、最初から始めて現在のポイントまで読み、追加の調査で知識のギャップを埋めます。これにより、脳がパターンを接続するのに役立ちます。
  • フェーズ2 — 試験前のシャドウリーディング:各小見出しを読み、本を閉じ、その概念の説明を視覚化して書きます。見逃した部分だけを再読します(機械学習のマスク言語モデリングに似ています)。再読後、コードで概念を実装して筋肉記憶を発達させます。

著者

Henry Ndubuaku。READMEは詳細について彼のGitHubプロフィールを指しています。

引用

本を引用するためのBibTeXエントリが提供されています:

@book{ndubuaku2025compendium,
  title     = {Maths, CS & AI Compendium},
  author    = {Henry Ndubuaku},
  year      = {2026},
  publisher = {GitHub},
  url       = {https://github.com/HenryNdubuaku/maths-cs-ai-compendium}
}

アクセス

henryndubuaku.github.io/maths-cs-ai-compendiumでオンラインで読めます。リポジトリにはTrendshiftバッジ(人気度メトリック)も表示されます。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト