ombharatiya/ai-system-design-guide

AI system design guide for engineers building production AI systems and evals.

AIシステム設計ガイド

概要: 本番環境でAIシステムを設計・構築する人々、およびAIシステム設計の就職面接を準備するエンジニアのための、無料で継続的に更新されるリファレンスです。Om Bharatiya によって維持され、MITライセンスのもとでGitHubにホストされており、誰でも利用し改善に貢献できます。

核となる考え方

このガイドの前提は、AIに関する印刷書籍はすぐに古くなるということです。新しいモデル、価格、エンジニアリングパターンは、書籍が更新されるよりも速く登場します。このプロジェクトは「生きたドキュメント」です。新しいモデルのリリース、プロトコルの変更、新興パターンを追跡し、読者が昨年の情報ではなく最新情報を得られるようにします。

内容

リポジトリは19の番号付きトピックフォルダと、独立したガイドで構成されています。主要な領域は次のとおりです。

  • 基礎 — LLMの内部動作(Transformer、アテンション、埋め込み)
  • モデルランドスケープ — 特定のモデル(Claude、GPT、Gemini、Grok、DeepSeekなど)、それらの選び方、実際の価格データ
  • 検索システム — RAG(検索拡張生成)、チャンキング戦略、ベクトルデータベース、再ランキング
  • エージェントシステム — アクションを実行するAIエージェント、ツール使用、MCPおよびA2Aプロトコル、永続的実行
  • 音声およびオーディオエージェント — リアルタイム音声AI(レイテンシとコストの考慮事項を含む)
  • 評価と可観測性 — AIシステムが実際に機能するかどうかを測定する方法(RAGAS、LangSmith、ベンチマーク)
  • セキュリティ、信頼性、コンプライアンス — アクセス制御、ガードレール、AIガバナンス(EU AI法、NIST)
  • インフラストラクチャとMLOps — GPUクラスタ、AIゲートウェイ、コスト管理(FinOps)
  • ケーススタディ — 図付きの20の実世界アーキテクチャ例。マルチテナントSaaSシステム、不正検出システム、音声ヘルスケアエージェント、コーディングエージェントを含む

さらに、AI評価に関するボーナスの詳細ガイド(各3,000行以上)が2つあり、Phoenix、Langfuse、LangWatchなどのプラットフォームをカバーしています。

面接準備

ガイドの大部分はAIエンジニアリング面接を対象としています。含まれるもの:

  • 147問の面接問題集(音声AIセットを含む実際の質問)
  • 回答フレームワーク(模擬面接の書き起こし付き)
  • 10のホワイトボード演習
  • 求人市場トレンドドキュメント(2026年10月)
  • FAQと用語集(すべての用語を定義)

このガイドが回答を支援する面接質問の例:「競合他社が互いのデータを見られないマルチテナントRAGシステムを設計してください」 および 「あなたのエージェントが3ステップのタスクに15ステップかかります。どうデバッグしますか?」

これではないもの

READMEは境界を明確にしています:

  • Python、PyTorch、または基本MLのチュートリアルではない — 読者はまずコースを受講すべき
  • ベンダーニュートラルではない — 実際のシステムには実際の選択が必要なため、特定のモデル、価格、フレームワークを明示
  • 手を動かす構築の代替ではない — プロジェクトと並行して読むことを意図
  • 研究論文のダイジェストではない — 実践を変える場合にのみ論文を引用

追加情報

著者は有料の1対1模擬面接とメンタリング(EngineBogieおよびTopmate経由)を提供し、ガイドはaidaddy.techでオンライン閲覧可能で、即時検索に対応しています。コース推奨、キャリア転向ガイダンス(バックエンド/QA/PMロールからAIへ)、最先端論文を追跡する研究レーダーなどの補助ドキュメントもあります。

要するに: 本番AIシステムの構築とシニアレベルのAIエンジニアリング面接の準備のための、実用的で、意見があり、最新のリファレンスです。無料で読め、コミュニティの貢献に開かれています。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト