sopaco/cortex-mem

解决的问题

Cortex Memory 是一个为 AI 代理和 LLM 应用程序设计的高性能、持久的长期记忆框架。它解决了 AI 的「无状态」特性，使代理能够在多个会话中记住用户的偏好、历史记录和具体事实，避免用户重复输入信息，从而提供更个性化的体验。

工作原理

该系统基于 Rust 构建，采用混合存储架构，结合使用虚拟文件系统（通过 cortex:// URI 方案实现持久性）和 Qdrant 进行基于向量的语义搜索。它采用三层次记忆架构，以优化 LLM 的上下文窗口使用：

• L0（抽象）： 粗粒度筛选（约 100 个 token）。
• L1（概要）： 结构化摘要和关键实体（约 500–2000 个 token）。
• L2（细节）： 完整的对话内容（可变 token 数）。

自动化流水线利用 LLM 从对话中提取结构化记忆，通过嵌入向量进行索引，并通过事件驱动系统进行管理，包含基于艾宾浩斯遗忘曲线的「遗忘机制」，用于清理低强度记忆。

适用人群

• 开发 LLM 驱动的聊天机器人和代理的开发者。
• 构建个性化 AI 助手的团队。
• 需要持久记忆核心的开源项目。

主要亮点

• 三层次架构： 通过渐进式披露（L0 → L1 → L2）优化 token 使用。
• 虚拟文件系统： 将记忆存储为 Markdown 文件，便于移植和与版本控制兼容。
• 语义搜索： 支持跨用户、代理和会话维度的元数据过滤的高性能相似性搜索。
• 多模态访问： 支持 REST API、CLI、MCP 协议以及直接的 Rust 库集成。
• 资源高效： 包含 LLM 结果缓存，可减少 50–75% 的重复 API 调用。
• 可观测性： 提供基于 Svelte 5 的 Web 仪表板，用于租户管理和记忆可视化。