stephenschoettler/hermes-lcm

解決的問題

hermes-lcm 是 Hermes Agent 的無損上下文管理外掛程式。它解決了「有損」上下文壓縮的問題——即舊的對話內容被摘要，原始細節從模型的活躍提示中移除——透過確保任何資訊都不會永久遺失。它允許代理在維持有限活躍上下文視窗的同時，保留對話的完整原始歷史，以便精確恢復。

工作原理

該外掛程式不採用簡單的單次壓縮，而是使用分層記憶方法：

1. SQLite 儲存：所有原始訊息都永久儲存在本地 SQLite 資料庫中，並附帶全文搜尋（FTS）元資料。
2. 摘要 DAG：隨著上下文增長，舊訊息被壓縮為「深度感知」摘要節點。這些摘要進一步壓縮為有向無環圖（DAG），形成摘要的層級結構。
3. 受限的活躍上下文：活躍提示由系統提示、DAG 中最有價值的摘要以及受保護的「最新尾端」近期訊息組成。
4. 召回工具：代理被提供一系列工具（如 lcm_grep、lcm_recall、lcm_expand），在需要詳細資訊時可搜尋、檢查並檢索精確的原始訊息或特定摘要節點。

適用對象

需要其 AI 代理具備「無限記憶」能力的 Hermes Agent 使用者——即能在不向 LLM 的上下文視窗塞入無關資料的前提下，從極長對話或多輪會話中精確回憶具體細節。

主要亮點

• 無損架構：無論上下文被摘要多少次，原始訊息始終在 SQLite 中保存。
• 分層摘要：使用 DAG 組織摘要，使代理能從高層概覽逐層深入至具體細節。
• 豐富的工具集：包含 15 個專用工具，用於搜尋、召回、擴展和診斷記憶狀態。
• 來源感知的檢索：保留來源資訊，使代理能精確知道哪些原始訊息貢獻了特定摘要。
• 高階記憶功能：可選支援語義檢索（嵌入）、時間記憶（基於時間的彙總）以及將過大資料包外部化，以防止提示過載。