caomaolufei/AIInfraGuide

해결하는 문제

AIInfraGuide는 AI 인프라를 학습하기 위한 체계적이고 최신의 중국어 리소스 부족 문제를 해결합니다. 엔지니어가 대규모 모델 훈련 및 추론의 빠르게 진화하는 환경을 탐색하고 하드웨어 지식과 소프트웨어 구현 간의 격차를 메우는 데 도움을 줍니다.

작동 방식

이 프로젝트는 네 가지 핵심 학습 모듈로 구성된 구조화된 지식 베이스를 제공합니다: 사전 요구 사항(GPU 아키텍처 및 Transformer 기초), CUDA 프로그래밍 및 연산자 최적화, 분산 훈련 전략, 추론 최적화(vLLM 중심). "쉬운 언어 우선, 기술적 세부 사항은 그 다음" 접근 방식을 따르며 개념이 접근 가능하면서도 엄격함을 보장합니다. 또한 60개 이상의 회사에서 수집한 180개 이상의 실제 질문이 포함된 포괄적인 면접 준비 가이드도 포함합니다.

대상 독자

이 가이드는 하드웨어 수준 최적화부터 대규모 분산 훈련 및 모델 배포에 이르기까지 AI 기술 스택에 대한 전문가 수준의 이해를 구축하려는 소프트웨어 엔지니어, 학생 및 연구자를 위해 설계되었습니다.

주요 특징

• 전체 AI 인프라 스택을 다루는 체계적인 학습 경로.
• GEMM 및 FlashAttention과 같은 고전적인 연산자 구현을 포함한 CUDA 프로그래밍에 대한 심층 분석.
• 분산 훈련 기술(DDP, FSDP, 3D 병렬 처리)에 대한 포괄적인 다루기.
• vLLM 소스 코드 분석 및 양자화 기술을 특징으로 하는 광범위한 추론 최적화 리소스.
• 경력 개발을 돕기 위해 기업 등급별로 분류된 선별된 면접 데이터베이스.