caomaolufei/AIInfraGuide

它解决了什么问题

AIInfraGuide解决了学习AI基础设施时缺乏系统性、最新中文资源的问题。它帮助工程师应对大模型训练和推理快速演变的格局，弥合硬件知识与软件实现之间的差距。

它是如何工作的

该项目提供了一个结构化的知识库，分为四个核心学习模块：预备知识（如GPU架构和Transformer基础）、CUDA编程和算子优化、分布式训练策略，以及推理优化（以vLLM为核心）。它遵循“先通俗语言，后技术细节”的方法，确保概念既易于理解又严谨。此外，它还包括一份全面的面试准备指南，包含来自60多家公司的180多个真实问题。

适合谁

本指南面向软件工程师、学生和研究人员，他们希望建立对AI技术栈的专业级理解，涵盖从硬件级优化到大规模分布式训练和模型部署。

亮点

• 系统化的学习路径，覆盖完整的AI基础设施栈。
• 深入探讨CUDA编程，包括经典算子实现，如GEMM和FlashAttention。
• 全面覆盖分布式训练技术（DDP、FSDP、3D并行）。
• 丰富的推理优化资源，包括vLLM源码分析和量化技术。
• 按公司层级分类的精选面试题库，助力职业发展。