caomaolufei/AIInfraGuide

AI Infra 全栈从0入门学习资料:https://caomaolufei.github.io/AIInfraGuide/

解決する課題

AIInfraGuideは、AIインフラストラクチャを学ぶための体系的で最新の中国語リソースが不足しているという問題に対処します。エンジニアが大規模モデルのトレーニングと推論の急速に進化する状況をナビゲートし、ハードウェア知識とソフトウェア実装の間のギャップを埋めるのに役立ちます。

仕組み

このプロジェクトは、4つのコア学習モジュールで構成された構造化された知識ベースを提供します:前提条件(GPUアーキテクチャやTransformerの基礎など)、CUDAプログラミングとオペレーター最適化、分散トレーニング戦略、推論最適化(vLLM中心)。「まず平易な言葉、次に技術的な詳細」というアプローチに従い、概念がアクセスしやすくかつ厳密であることを保証します。さらに、60社以上の180以上の実践的な質問を含む包括的な面接準備ガイドも含まれています。

対象読者

このガイドは、ハードウェアレベルの最適化から大規模分散トレーニングやモデルデプロイメントまで、AIテクノロジースタックのプロフェッショナルレベルの理解を構築したいソフトウェアエンジニア、学生、研究者向けに設計されています。

ハイライト

  • AIインフラストラクチャスタック全体をカバーする体系的な学習パス。
  • CUDAプログラミングへの深い掘り下げ。GEMMやFlashAttentionなどの古典的なオペレーター実装を含む。
  • 分散トレーニング技術(DDP、FSDP、3D並列処理)の包括的なカバレッジ。
  • vLLMソースコード分析や量子化技術を特徴とする広範な推論最適化リソース。
  • キャリア開発を支援するために企業層別に分類された厳選された面接データベース。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト