lobehub/awesome-rsi

A curated research map of Recursive Self-Improvement (RSI): models, agents, harnesses, embodied systems, automated AI R&D, benchmarks, and safety.

它是什么

一个经过策划、由社区维护的列表(一个“awesome 列表”),收集并组织了关于**递归自我改进(RSI)**的研究论文和资源。RSI 是指人工智能系统不仅能改进自身能力,还能改进它用来产生这些改进的机制——形成一个自我加速的循环。

为什么现在这很重要

该列表认为,RSI 已从纯理论转向活跃的实证研究领域,这得益于以下方面的最新进展:* 自我训练* 智能体记忆* 框架(外部脚手架)优化* 具身自我改进* 自动化 AI 研究* 自我修改的编码智能体* 进化搜索

列表包含什么

它将工作分为多个部分,包括:

  • 基础 — 入门论文和综述
  • 模型级 RSI — 通过自生成数据、反馈或推理来改进 AI 的权重
  • 框架级 RSI — 改进模型周围的提示、记忆、验证和智能体策略
  • 多智能体自我改进 — 多个智能体共同改进或辩论
  • 编码自我改进 — 修改自身代码的智能体
  • 自动化 AI 研发 — 自行进行 AI 研究的系统
  • 具身/物理自我改进 — 物理智能体的改进
  • 进化与开放式 RSI
  • 安全、对齐与理论
  • 内省与自我建模
  • 基准与评估
  • 框架与工具、博客文章、演讲和相关列表

它定义的关键概念

README 引入了有用的精确词汇:

  • 自我精炼 — 改进当前输出,而不对系统进行持久更改
  • 持久自我改进 — 对权重、记忆、技能、提示或代码的更改,这些更改会延续到下一轮
  • 递归自我改进 — 当产生改进的机制本身成为被改进的对象时
  • RSI 基底 — 一个将其自身结构暴露为可修改的系统,而不一定形成自动循环

它还区分了声称的自我改进的三个证据级别:

  • 任务增益 — 更好的输出,无持久更改
  • 保留增益 — 持久更新改善未来性能
  • 改进者增益 — 产生改进的机制本身变得更有效

该列表强调,仅凭自引用架构并不能证明真正的改进——你需要受控比较。

重要注意事项

该列表诚实地指出,并非每个条目都展示了真正的 RSI;有些是受限的自我改进或使能技术。分类法是组织性的,而非严格的——许多系统跨越多个类别。明确欢迎新贡献者。

相关

  • 项目
  • 项目
  • 项目
  • 项目