zgcagi/Harness-RSI
Harness self-evolution: update targets, theory, evaluation, and reported evidence. Bilingual reading list and project website.
解决的问题
大型语言模型通常被视为固定的:你不会为每个新任务重新训练它们。但模型周围的“工具链”(harness)——它调用的工具、读取的提示词、记忆以及执行控制方式——是可以更新的。本项目综述并整理了关于工具链自我演化(harness self-evolution)这一日益增长的研究领域:即利用智能体自身的执行经验来修订工具链状态,从而使后续运行在同一基础模型下表现更好。它通过提供定义、分类法和分类阅读列表,解决了这一快速发展领域缺乏统一视角的问题。
工作原理
工具链 H 被定义为管理模型 M 在环境 E 中如何运行的软件和配置——包括工具、上下文构建、记忆和执行控制。评估器 J 对每条轨迹进行评分,工具链自我演化利用一批轨迹来计算后续运行的更新后工具链,其更新机制本身也可进行进一步修订。被接受的状态会被保存并在稍后加载;被拒绝的候选状态则保持工具链不变。该综述在整个过程中保持基础模型不变。
该资源将该领域组织为两个主要的更新目标分支,以及评估和理论的独立分支:
- 解释型更新:修订固定宿主读取的内容:提示词和指令(标量评分搜索、文本梯度批判、自指变异)、记忆和可重用程序(经验挖掘、程序技能书、门控整合)以及工作流和拓扑结构(固定流水线编译、图/拓扑搜索、反馈驱动的工作流修订)。
- 可执行更新:修订宿主实际调用的实现:可调用工具合成和基于证据的组件补丁。
它还列出了先驱研究(例如 EURISKO、Gödel Machines)、一系列相关综述以及配套材料,包括完整的66页报告、18页短论文、分类法数据和一个项目页面。
适用人群
从事智能体系统、自我改进智能体、提示词与技能优化以及 LLM 应用开发的研究人员、AI 工程师和研究生。该资源被构建为带有主题索引条目(每个条目都有论文链接)的阅读指南,因此适合任何想要梳理自我演化工具链领域、寻找相关前期工作或定位作者自身综述和分类法的人。
亮点
- 定义了工具链自我演化,并将其与单纯的自我改进区分开来(自我改进需要通过评估确立有益的改变)。
- 提供了分类法,将更新目标分为解释型(提示词、记忆、工作流)和可执行型(工具、代码补丁)类别,并将评估和理论作为独立分支。
- 整理了庞大的分类文献列表——从 APE 和 Reflexion 到 DSPy、Voyager 等——每个条目都附有论文链接,并在可用时提供代码和项目链接。
- 包含66页的完整综述报告、18页的短论文、分类法数据(JSON)以及一系列用于导向的相关综述。
- 涵盖了诸如 EURISKO 和 Gödel Machines 等历史先驱研究,以确立该领域的传承。
相关
- 项目
- 项目
- 项目
- 项目