每个人都能看懂的大模型知识分享，LLMs春/秋招大模型面试前必看，让你和面试官侃侃而谈

LLMForEverybody — 대규모 언어 모델 학습을 위한 원스톱 자료 라이브러리

프로젝트 소개

이것은 대규모 언어 모델(LLM) 학습자를 위한 오픈소스 자료 라이브러리이며, 관련 웹사이트는 LearnLLM.AI입니다. 프로젝트의 핵심 슬로건은 "Learning LLM is all you need", 즉 "대규모 언어 모델을 배우려면 여기서 시작하세요"입니다.

포함 내용

1. 엄선된 대규모 언어 모델 면접 문제집

기초부터 최신 기술까지의 실전 문제를 다루며, 취업 면접 준비에 도움이 됩니다.

2. 체계적인 논문 정독

2017년 Transformer 기초 논문에서 시작하여, 지식 체계에 따라 기술 발전을 정리합니다. README에는 30개 이상의 논문이 나열되어 있으며, 각 논문에는 개요, 비디오 해설, 웹사이트 학습 링크가 포함됩니다. 논문 기간은 2017년부터 2025년까지이며, 다음을 포함합니다:

기본 아키텍처: Transformer, GPT-1, BERT, GPT-2, T5, GPT-3
비전 및 멀티모달: ViT, ViLT, CLIP, DALL·E 1, DALL·E 2, LLaVA, Qwen-VL, LVM
코드 및 음성: CodeX, AlphaCode, Whisper
생성 모델: Stable Diffusion
정렬 및 파인튜닝: InstructGPT
오픈소스 모델 시리즈: LLaMA-1/2/3, Mistral 7B, Mixtral 8x7B, Gemma 1/2/3, DeepSeek-V2/V3/R1, ChatGLM, Qwen 1

3. 엄선된 실전 코스

AI Agent, RAG 지식 베이스, 대규모 언어 모델 파인튜닝, LLM 애플리케이션 개발 등의 방향에 초점을 맞춘 중국어 실전 코스를 제공합니다. LangChain, LlamaIndex, Dify, MCP 등 주요 도구 체인을 다루며, 프로젝트 코드와 강사 질의응답이 포함됩니다.

4. "AGI의 길" 체계적인 기사

이것은 프로젝트의 주요 콘텐츠로, 장별로 구성되어 총 11개 장입니다:

장	주제
서문	AGI의 길 (대규모 모델 연간 논문 요약, Scaling Law, 지능의 창발 등 포함)
제1장	대규모 모델의 Pre-Training (아키텍처, 옵티마이저, 활성화 함수, Attention, 위치 인코딩, Tokenizer, 병렬 전략, 훈련 프레임워크)
제2장	대규모 모델의 배포 및 추론
제3장	대규모 모델 파인튜닝
제4장	대규모 모델 양자화
제5장	그래픽 카드 및 대규모 모델 병렬 처리
제6장	Prompt Engineering
제7장	Agent (RAG 포함)
제8장	대규모 모델의 기업 도입
제9장	대규모 모델 평가 지표
제10장	핫 토픽
제11장	수학

각 장에는 여러 구체적인 기사가 포함됩니다. 예를 들어:

옵티마이저 시리즈 (SGD, Momentum, Adam, AdamW 등 12개 기사)
활성화 함수 시리즈 (Sigmoid, ReLU, GELU, SwiGLU 등 6개 기사)
Attention 메커니즘 (FlashAttention, Multi-Query Attention, MLA 등)
위치 인코딩 (RoPE, 오일러 공식 등)
Tokenizer 시리즈 (6개 기사)
병렬 전략 (데이터 병렬, 파이프라인 병렬, 텐서 병렬 등)
훈련 프레임워크 (FSDP, DeepSpeed, Megatron-LM, Accelerate)
추론 프레임워크 (vLLM, TGI, TensorRT-LLM, Ollama)
파인튜닝 방법 (LoRA, QLoRA, AdaLoRA, P-Tuning, Prefix-Tuning 등)

언어 지원

프로젝트는 중국어, 영어, 러시아어의 3개 언어 버전을 제공합니다.

대상 독자

콘텐츠 구조에 따라 다양한 수준의 개발자에게 적합합니다: 대규모 모델의 원리를 처음부터 배우고자 하는 초보자부터, 취업 면접 준비 및 체계적인 실력 향상이 필요한 개발자, 그리고 실전 코스(Agent, RAG, 파인튜닝)가 필요한 실무자까지.

luhengshiwo/LLMForEverybody