DrJonaC/Pensieve

Observe how memory shapes an answer. Pensieve is an interactive system for visualizing, interpreting, and managing how Large Language Models (LLMs) “remember” a user. It bridges the gap between model-level mechanisms and user-level understanding, making AI memory observable, explainable, and partially controllable.

解决的问题

AI 系统通常会随着时间的推移构建用户偏好和习惯的“工作记忆”,但这种记忆通常对用户是隐藏的。Pensieve 提供了一种查看、理解和控制这种结构化记忆的方法,使用户能够管理 AI 记住了什么以及为什么会出现某些信息。

工作原理

Pensieve 作为一个与宿主无关的仪表板,连接到 AI 记忆提供者。它读取结构化记忆记录——其中包含优先级评分、风险级别和激活计数等元数据——并将其呈现在面向用户的控制界面中。用户可以应用治理操作,例如固定 (pinning)、软化 (softening,降低显著性) 或隐藏记忆。这些决策随后被编译成治理报告 (Markdown) 和机器可读的清单 (JSON),提供者将其应用于记忆存储以更新 AI 未来的上下文。

适用对象

希望对 AI 智能体和基于 LLM 的系统的长期记忆拥有透明度和自主权的个人用户和开发人员。

亮点

  • 治理循环:一个完整的观察、用户决策以及通过收据验证记忆变更应用的循环。
  • 宿主无关架构:使用提供者和适配器的模块化设计,使其能够与不同的 AI 宿主(例如 Codex、Claude Code)协同工作。
  • 可逆控制:内存管理工具允许用户对记录进行 pinsoftenhiderestore,而不仅仅是删除它们。
  • 安全模型:包括针对敏感信息的受保护显示层,以及确保更改确实已应用的验证系统。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目