Engram CEO Dan Biderman 解释 AI 记忆问题以及为何长上下文并不足够

Engram CEO Dan Biderman 解释 AI 记忆问题以及为何长上下文并不足够

TL;DR

Engram 的 Dan Biderman 表示，单纯增加上下文窗口无法为 AI 系统提供可靠的、长周期的记忆；相反，我们需要将知识压缩进 knowledge cartridges（知识卡槽），并通过高效的持续学习来不断更新模型权重。这种方法有望实现 token 效率高、成本低廉的 AI，使其能够处理万亿级 token 的语料库并实现用户个性化。

1. 为什么长上下文并不足够

  • Context rot（上下文腐烂）：增加更多的 token 会使模型变得越来越困惑；即使是 1000 万 token 的窗口也无法保证整体推理能力。
  • Compaction limits（压缩限制）：目前的压缩方式（剔除不太重要的 token）是有损的，并且会导致遗忘，尤其是在深度对话 session 中。
  • Memory inefficiency（记忆效率低下）：将几 KB 的文章加载到 LLaMA-70B 模型中会消耗约 80 GB 的 GPU HBM，远超模型的 140 GB 参数量。KV-cache 成了系统的瓶颈。
  • Cost explosion（成本爆炸）：在万亿级 token 的语料库上查询前沿模型会产生每查询数千美元的费用，这使得 RAG 在企业规模下变得不切实际。

2. Knowledge Cartridges：将语料库压缩进模型状态

  • Concept（概念）：预先在大型语料库上训练模型，使得生成的脑状态（即 cartridge）以高度压缩的形式编码知识——其体积可能比原始文本小一千倍。
  • Usage（用法）：在推理时将 cartridge 加载到模型中；模型随后可以用极少的 token 进行推理，从而减少困惑并降低成本。
  • Granularity（粒度）：Cartridges 可以是特定任务的（例如，一种技能），也可以是特定语料库的（例如，一家公司的内部文档）。
  • Analogy（类比）：就像一位厨师阅读食谱 并 内化化了直觉；cartridge 捕捉的是超越原始食谱的“直觉”。

3. Continual Learning & Test-Time Training

  • Goal（目标）：在不破坏现有知识的情况下，使用新数据更新模型权重，从而实现 token 效率 并支持更长周期的任务。
  • Method（方法）：在推理过程中执行基于梯度的更新（test-time training），使模型能够即时吸收新信息。
  • Benefit（收益）：允许单个模型同时处理静态知识（存储在 cartridges 中）和动态的、用户特定的更新。

4. Token Efficiency 作为智能的代理指标

  • Premise（前提）：更聪明的 AI 能以更少的计算周期完成更多工作；token 效率直接关系到解决更难问题的能力。
  • Routing（路由）：Engram 计划在可能的情况下将查询路由到最小的、具备能力的模型（例如，廉价的开源 LLM），将大型模型保留给高价值任务。
  • Future vision（未来愿景）：像 Tamagotchi（电子宠物）一样不断进化的个人 AI 智能体——用户通过培育，使智能体在无需人类持续监督的情况下进行适应。

5. 企业级用例

  • Holistic queries（整体性查询）：需要聚合跨越数千个文件的信息（例如，“今年有哪些并购案尚未完成？”）的任务无法通过简单的 RAG 实现；它们需要一个已经 学习 了这些关系的模型。
  • Cost-effective scaling（成本效益高的扩展）：通过将企业知识压缩进 cartridges，并使用 token 效率高的推理，Engram 可以用极低成本实现此类查询，其成本仅为传统 RAG 的一小部分。

6. Open Research Questions

  • What belongs in weights vs. text?（哪些内容属于权重 vs. 文本？）：确定哪些事实应该被内化（权重），哪些应该保持外部（可检索文本），是一个尚未解决的问题，类似于人类记忆研究。
  • Automatic saliency detection（自动显著性检测）：Engram 正在训练模型自主决定存储在 cartridges 中的内容，以避免使用会变成“打地鼠”问题的手动启发式方法。
  • Scalable infrastructure（可扩展的架构）：在设备上部署数百万个个性化的 cartridges 会需要新的 API、存储格式和推理流水线。

7. Team & Culture

  • Engram 的研究团队由来自 Stanford、Berkeley、Cornell 以及行业资深人士组成的 PhD 团队组成。
  • 公司强调产品优先的思维方式：研究必须转化为企业和最终用户个人设备上的可用工具。
  • 招聘重点：性能工程师、研究工程师和基础设施专家，能够构建大规模、成本效益高的 AI 流水线。

8. Closing Thoughts

  • Efficiency $ eq$ cheapness（效率 $ eq$ 廉价）：用更少的东西做更多的事并不意味着牺牲智能；它扩展了可解决问题的边界。
  • Next paradigm（下一个范式）：从“scale-up”（增加 token，增加模型规模）转向“scale-down”（紧凑的表示，持续学习）是实现长期 AI 记忆的关键。
  • Call to action（行动号召）：Engram $ ext{Engram}$ 邀请合作者、投资者和人才加入其使命，构建真正能够记忆和学习的 AI。

Where to learn more: https://engram.com – 联系 Dan at dan@engram.com 获取合作伙伴关系或招聘咨询。

Sources