nick7nlp/Awesome-LLM-On-Policy-Distillation

解決する課題

研究者や実務者は、大規模言語モデル（LLM）のオン方策蒸留に関する急速に増加する研究をナビゲートするのに苦労することがよくあります。これは、学生モデルが自身が生成したテキストを使用して教師から学習するトレーニング手法です。このプロジェクトは、362件の関連論文（うち134件はコード付き）を構造化された検索可能なコレクションに整理し、簡潔な要約、トピック別グループ、ガイド付き読書パスを提供することで、適切な論文を見つけ、主要な革新を理解し、実装のためのコードを特定しやすくします。

仕組み

このプロジェクトは、サーベイ「大規模言語モデルのオン方策蒸留に関する調査」（arXivで入手可能）のリーディングコンパニオンとして機能します。論文を「目的と更新ルール」、「監督はどこから来るのか？」、「複数のエージェントはどのように学習するか」などのテーマ別セクションにグループ化します。各エントリには、一言の要点、公開日、カテゴリタグ（例：直接OPD、ハイブリッドOPD）、および利用可能な場合は論文とコードへのリンクが含まれます。このコンパニオンは複数の入り口を提供します：すべてのエントリを閲覧したり、トピックを展開して要約を直接読んだり、基礎論文から高度なバリエーションへと導く厳選された読書パスに従ったりできます。インタラクティブなウェブサイト（OPDHub）は、コレクション全体の検索とフィルタリングもサポートしています。

対象読者

LLM研究者、大学院生、モデル蒸留、アライメント、またはポストトレーニングに取り組むエンジニアを対象としています。最先端を迅速に調査したい、異なる蒸留目的の設計を比較したい、または自分の実験に再利用可能なコードを見つけたい人に特に役立ちます。読書パスは、初心者がニッチなバリエーションに飛び込む前に、コア論文から始めるのにも役立ちます。

ハイライト

• 362件の論文を収録、うち134件はコード付き、2026年10月13日時点で更新
• 論文はテーマ別に整理され、各論文に簡潔な一言要約付き
• 特定の質問に答える厳選された読書パス、例：「学生はどのように学習するか？」や「何が転移し、何が転移しないか？」
• 各エントリはarXiv論文にリンクし、多くは直接コードリンクを含む
• コンパニオンウェブサイトOPDHubで全文検索とフィルタリングが可能