mbzuai-oryx/Awesome-LLM-Post-training

Awesome Reasoning LLM Tutorial/Survey/Guide

解決する課題

このリポジトリは、急速に進化する大規模言語モデル(LLM)のポストトレーニング分野をナビゲートする複雑さに対処します。初期トレーニングフェーズ後にLLMの推論、意思決定、アライメントを改善する方法を理解するのに役立つ、構造化された厳選された研究と方法論のコレクションを提供します。

仕組み

このプロジェクトは中央の知識ハブとして機能します。学術論文、ベンチマーク、技術リソースを明確な分類法に整理します。これには、強化学習(RL)技術、プロセス報酬モデル、ツリー探索アルゴリズム、ポリシー最適化などのカテゴリが含まれ、ユーザーは微調整やテスト時スケーリングなどの特定のポストトレーニング戦略を探索できます。

対象読者

このリソースは、LLMの技術的進歩に興味があるAI研究者、機械学習エンジニア、学生を対象としています。特に、現代の「推論モデル」に見られるような高度な推論能力を実装または研究したい人にとって有用です。

ハイライト

  • 微調整、RL、テスト時スケーリングを含むポストトレーニング方法の包括的な分類法。
  • 推論、意思決定、マルチエージェントシステムに関する影響力のある論文の厳選リスト。
  • LLM-RLフレームワークの評価と実装のためのベンチマークとライブラリへのリンク。
  • IEEE TPAMIに受理されたサーベイ論文を含む最新研究で定期的に更新。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト