HaiPenglai/Treasure-Questions

宝藏问题:汇总了大模型的重要资源,整理了宝藏问题手稿,宝藏论文参考文献

What it solves

このプロジェクトは、ディープラーニングや大規模言語モデル(LLM)の学習者が、膨大な断片的な概念に直面した際に「何を質問すべきか分からず、体系的な答えも見つからない」という問題を解決します。FlashAttentionと線形アテンションの違い、PPOのKL制約が何を防止しているのか、MoEのdispatchとcombineとは何かなど、よくある混同しやすい技術的な質問を具体的な「宝物のような質問」として整理しています。各質問には解説動画とオプションの論文リファレンスが付属しており、学習者は順番に難点を克服していくことができます。

How it works

プロジェクトは GitHub リポジトリとして構成されており、番号(247から降順)に従って毎日の「宝物のような質問」がリストアップされています。各項目には、質問のタイトル、対応する Bilibili 動画リンク(BV番号)、およびカバー画像が含まれています。動画リンクをクリックして解説を視聴したり、カバー画像をクリックして動画にジャンプしたりできます。また、リポジトリ内には「宝物のような論文リンク集」フォルダがあり、関連論文の参考文献がまとめられています。ダウンロード方法は簡単で、リポジトリ右上の <>code ボタンから Download Zip を選択するか、git clone を使用してローカルにクローンしてください。現在、247件の質問原稿と194件の論文リファレンスが収録されています。

Who it's for

このプロジェクトは、ディープラーニング、特に Transformer アーキテクチャ、アテンションメカニズム、大規模モデルの学習と推論、強化学習(PPO/GRPO)などのトピックに興味を持つ学生、研究者、または開発者に適しています。短い動画を通じて技術的なポイントを素早く理解し、さらに論文で深く掘り下げたいと考えている方にとって、これは毎日更新される知識リストとなります。作者(Bilibili「海安雨」)が継続的に更新しており、基本的な可視化から高度なエンジニアリング実装まで幅広くカバーしています。

Highlights

  • 247件の質問原稿と194件の論文参考文献を整理済み。
  • 各質問には Bilibili 動画リンクがあり、クリックで視聴可能。カバー画像からもジャンプ可能。
  • トピックは Transformer、アテンションの可視化、KV Cache、MoE、PPO、分散推論などの注目分野を網羅。
  • 直感的なQ&A形式で、隙間時間の学習に最適。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト