ViktorAxelsen/MemSkill

[NeurIPS'26] MemSkill: Learning and Evolving Memory Skills for Self-Evolving Agents

解决的问题

MemSkill 解决了长程代理中静态、手动设计记忆操作的局限性。它不再依赖固定的规则来决定记忆内容,而是让代理能够学习并演化“记忆技能”——即根据任务反馈来决定提取什么信息、如何记忆,以及保留或遗忘什么的元记忆策略。

运作方式

MemSkill 实现了一个由控制器、执行器和设计器组成的数据驱动循环:

  • 技能条件化构建:系统使用一组相关的小型技能,在每次交互区间内一次性构建记忆。
  • 技能演化:框架定期从任务失败中挖掘具有挑战性的“困难案例”,以优化现有技能或提出新技能。
  • 可重复使用技能库:维护一个共享的技能库,可在不同的数据集和基础 LLM 模型之间进行迁移。
  • 训练循环:对于像 ALFWorld 这样的交互环境,它使用离线专家轨迹进行可扩展的记忆构建训练,并通过环境展开进行任务级别的奖励反馈,以通过 PPO 优化控制器策略。

适用对象

致力于构建长程 AI 代理的研究人员与开发者,这些代理需要管理大量交互历史,并随着时间推移提高其记忆效率与质量。

特点

  • 元记忆方法:专注于记忆的“技能”而非内容本身。
  • 自我演化:根据效能反馈自动优化记忆策略。
  • 可迁移性:支持可在不同基础模型和数据集之间运作的可重复使用技能库。
  • 可扩展基础设施:包含多 API 密钥轮询与多处理机制,以实现高吞吐量的评估与训练。

相关

  • 项目
  • 项目
  • 项目
  • 项目