ForceInjection/AI-fundamentals

AI 基础知识 - GPU 架构、CUDA 编程、大模型基础及AI Agent 相关知识。

它解决的问题

该仓库为AI基础设施提供了全面、结构化的学习路径。它弥合了底层硬件架构与高层AI应用开发之间的差距,帮助工程师和研究人员理解构建、部署和优化现代AI系统所需的整个技术栈。

工作原理

内容分为八个模块化部分,涵盖从硬件基础(GPU/TPU架构、NVLink和CXL等互连技术)到云原生AI平台(Kubernetes、GPU虚拟化、分布式存储)。它包括对底层编程(CUDA、DPU、NPU)、LLM理论和实际训练流程的深入探讨,并辅以文档、代码示例和精选学习资源。

适用人群

该资源面向AI工程师、系统架构师、GPU程序员、LLM应用开发人员以及希望掌握驱动现代人工智能的底层系统的技术研究人员。

亮点

  • 硬件深入解析:对GPU/TPU架构、PCIe、NVLink和CXL互连技术的详细分析。
  • 云原生AI:基于Kubernetes的AI基础设施指南,包括GPU调度(Kueue/HAMi)和分布式存储(JuiceFS、3FS)。
  • 底层编程:丰富的CUDA、DPU和华为NPU开发资源。
  • LLM工程:关于LLM理论、训练、微调以及使用LangGraph和Spring AI的智能体工作流的实用指南。
  • 动手演示:可运行代码演示的集中索引,用于实际验证。

相关

  • 项目
  • 项目
  • 项目
  • 项目