LycheeMem/LycheeMem

Lightweight Long-Term Memory for LLM Agents.

What it solves

LycheeMemory 提供一套輕量級的長期記憶基礎設施，解決了上下文窗口限制以及跨會話資訊遺失的問題。它讓代理能夠持續保存關於使用者、偏好與過往事件的知識，而不必完全依賴龐大的上下文窗口或簡單的平面向量儲存。

How it works

LycheeMemory 將記憶分為四個專門的儲存區：

Working Memory: 使用雙門檻 token 預算管理當前對話。當預算接近滿額時會觸發背景壓縮（摘要），以保持上下文精簡。
Semantic Memory: 以層級記憶樹（SQLite + LanceDB）儲存類型化記錄（事實、偏好、事件、限制等）。透過「Record Fusion Engine」將相似記憶合併為更密集的複合記錄，並使用 transformer‑based reranker 提升檢索精度。
Procedural Memory: 儲存可重用的技能與方法，利用 HyDE（Hypothetical Document Embeddings）進行檢索。
Visual Memory: 多模態儲存，使用 VLM 進行影像理解，並以雙嵌入（說明文字 + CLIP）實現跨模態檢索，結合艾賓浩斯遺忘曲線管理資料。

系統可透過 Python API、HTTP MCP（Model Context Protocol）伺服器，或 OpenClaw、Claude Code、Hermes 等代理執行環境的原生插件整合。

Who it’s for

此框架適合開發需要持久長期記憶、能自動回憶使用者偏好，且能在多次會話中從過去的失敗與成功中學習的代理系統的開發者。

Highlights

Multi-layered Storage: 結合 SQLite、LanceDB 與檔案系統，實現高效檢索與儲存。
Action-Aware Memory: 追蹤使用統計與失敗模式，為未來的強化學習信號提供種子。
MCP Compatible: 可透過 HTTP 端點輕鬆與任何 MCP 相容客戶端整合。
Automatic Consolidation: 提供型別抽取、去上下文化與層級聚類的流水線。
Transformer Reranker: 包含專用的 reranker，以提升語意搜尋時證據選取的精確度。