zgcagi/Harness-RSI
Harness self-evolution: update targets, theory, evaluation, and reported evidence. Bilingual reading list and project website.
解決する課題
大規模言語モデルは通常、固定されたものとして扱われます。つまり、新しいタスクごとに再学習することはありません。しかし、モデルを取り巻く「ハーネス(harness)」——呼び出し可能なツール、読み込むプロンプト、メモリ、実行制御方法——は更新可能です。本プロジェクトは、ハーネスの自己進化(harness self-evolution)に関する増大する研究を調査・整理するものです。これは、エージェント自身の実行経験を用いてハーネスの状態を修正し、同じベースモデル下で後続の実行パフォーマンスを向上させるシステムです。定義、分類体系、分類された読書リストを提供することで、この急速に発展する分野における統一的な見解の欠如に対処します。
仕組み
ハーネス H は、モデル M が環境 E でどのように動作するかを規定するソフトウェアおよび構成(ツール、コンテキスト構築、メモリ、実行制御を含む)と定義されます。評価器 J が各軌跡をスコアリングし、ハーネスの自己進化は一連の軌跡を利用して後続の実行のための更新されたハーネスを計算します。この更新メカニズム自体もさらなる修正の対象となります。受け入れられた状態は保存され、後で読み込まれます。拒否された候補はハーネスを変更しません。このサーベイでは、ベースモデルは一貫して固定されています。
本リソースは、この分野を2つの主要な更新ターゲットブランチと、評価および理論のための個別のブランチに整理しています:
- 解釈型更新:固定されたホストが読み取る内容を修正します:プロンプトと指示(スカラー値検索、テキスト勾配による批評、自己参照的変異)、メモリと再利用可能な手順(経験マイニング、手順スキルブック、ゲート付き統合)、およびワークフローとトポロジー(固定パイプラインコンパイル、グラフ/トポロジー検索、フィードバック駆動型ワークフロー修正)。
- 実行可能更新:ホストが実際に呼び出す実装を修正します:呼び出し可能なツールの合成および証拠に基づいたコンポーネントパッチ適用。
また、先行研究(例:EURISKO、Gödel Machines)、関連サーベイの一覧、および66ページの完全版レポート、18ページの短縮版論文、分類データ、プロジェクトページなどのコンパニオン資料も掲載しています。
対象読者
エージェントシステム、自己改善型エージェント、プロンプトおよびスキル最適化、LLMアプリケーション開発に取り組む研究者、AIエンジニア、大学院生。本リソースはトピック別にインデックス化されたエントリ(各論文へのリンク付き)を持つ読書ガイドとして構成されているため、自己進化型ハーネスの全体像を把握したい方、関連する先行研究を探している方、あるいは著者自身のサーベイや分類体系を見つけたい方に適しています。
ハイライト
- ハーネスの自己進化を定義し、単なる自己改善(自己改善には評価を通じて確立された有益な変化が必要)と区別しています。
- 更新ターゲットを解釈型(プロンプト、メモリ、ワークフロー)と実行可能型(ツール、コードパッチ)に分け、評価と理論を別ブランチとする分類体系を提供します。
- APEやReflexionからDSPy、Voyagerに至るまで、大規模で分類された文献リストをキュレートしており、各論文へのリンクや、利用可能な場合はコードやプロジェクトへのリンクも提供しています。
- 66ページの完全版サーベイレポート、18ページの短縮版論文、分類データ(JSON)、および方向性を定めるための関連サーベイセットが含まれています。
- この分野の系譜を裏付けるために、EURISKOやGödel Machinesといった歴史的な先行研究を網羅しています。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト