HaiPenglai/Treasure-Questions

What it solves

이 프로젝트는 딥러닝 및 대규모 언어 모델(LLM) 학습자가 수많은 파편화된 개념에 직면했을 때 "무엇을 질문해야 할지 모르고, 체계적인 답변을 찾기 어렵다"는 문제를 해결합니다. FlashAttention과 선형 어텐션의 차이, PPO의 KL 제약이 무엇을 방지하는지, MoE의 dispatch와 combine이 무엇인지 등 흔히 혼동하기 쉬운 기술적 질문들을 구체적인 '보물 같은 질문'으로 정리했습니다. 각 질문에는 해설 영상과 참고 논문이 포함되어 있어 학습자가 순서대로 난관을 극복할 수 있습니다.

How it works

이 프로젝트는 GitHub 저장소 형태로 구성되어 있으며, 번호(247부터 내림차순)에 따라 매일의 '보물 같은 질문'을 나열합니다. 각 항목에는 질문 제목, 해당 Bilibili 영상 링크(BV 번호), 그리고 커버 이미지가 포함되어 있습니다. 영상 링크를 클릭하여 해설을 시청하거나 커버 이미지를 클릭하여 영상으로 이동할 수 있습니다. 또한 저장소 내에는 '보물 같은 논문 링크 모음' 폴더가 있어 관련 논문 참고 문헌이 집중적으로 정리되어 있습니다. 다운로드 방법은 간단합니다. 저장소 오른쪽 상단의 <>code 버튼을 눌러 Download Zip을 선택하거나, git clone을 사용하여 로컬로 복제하면 됩니다. 현재 247개의 질문 원고와 194개의 논문 참고 자료가 수록되어 있습니다.

Who it's for

이 프로젝트는 딥러닝, 특히 Transformer 아키텍처, 어텐션 메커니즘, 대규모 모델 학습 및 추론, 강화 학습(PPO/GRPO) 등의 주제에 호기심이 많은 학생, 연구원 또는 개발자에게 적합합니다. 짧은 영상을 통해 기술적 포인트를 빠르게 이해하고, 논문을 통해 더 깊이 파고들고 싶은 분들에게 매일 업데이트되는 지식 목록이 될 것입니다. 저자(Bilibili '海安雨')가 지속적으로 업데이트하고 있으며, 기초적인 시각화부터 고급 엔지니어링 구현까지 폭넓게 다루고 있습니다.

Highlights

• 247개의 질문 원고와 194개의 논문 참고 문헌 정리 완료.
• 각 질문마다 Bilibili 영상 링크가 포함되어 클릭 시 시청 가능하며, 커버 이미지로도 이동 가능.
• Transformer, 어텐션 시각화, KV Cache, MoE, PPO, 분산 추론 등 최신 주제를 포괄.
• 직관적인 Q&A 형식으로 틈틈이 학습하기에 최적화.