Polign: 為邊緣代理記憶設計的無狀態、具型別資料庫

Polign 是一款輕量級、無狀態的資料庫，旨在為運行在硬體受限的邊緣設備上的 AI 代理提供確定性的記憶。透過將記憶管理從 LLM 的提示詞上下文（prompt context）移至具型別的架構（typed schema），Polign 減少了 token 成本，並消除了與語義檢索和矛盾資訊相關的歧義。

透過具型別架構實現確定性記憶

Polign 將記憶管理的責任從 LLM 轉移到結構化的資料庫架構。在傳統的代理記憶系統中，LLM 通常必須透過重新閱讀舊文本來解決矛盾（例如使用者更改了偏好），並猜測哪個版本才是最新的。這個過程會消耗 token，並引入潛在的不準確性。

Polign 使用具有取代規則（supersession rules）的具型別記憶儲存空間。當模型提取一個事實時，資料庫會根據架構來判定該事實的意義與有效性，而不是要求模型去判斷一段被召回的文本是修正還是矛盾。這使得結構化過濾和精確召回成為可能，例如直接在資料庫中執行數值比較（例如：檢查某個值是否高於 8000），而不是依賴 LLM 來解釋一段文本。

適用於邊緣部署的無狀態架構

為了將營運成本和硬體需求降至最低，polign_db 是以無狀態伺服器形式構建的，運行在位於物件儲存（例如 S3）中的混合向量與 BM25 引擎之上。

關鍵架構特性包括：

Zero Durable State: polign_db 伺服器不持有任何持久化數據，允許程序重新啟動或機器故障而不損失記憶。
Low Resource Footprint: 一個演示從 S3 提供 1250 萬條文本段落的系統，其伺服器閒置時的 RSS 約為 37 MiB。整個技術棧（包括 embedder 和 web app）可以容納在 2 GB 的 ARM 機器上。
Cold-First Design: 系統針對低頻率、冷查詢進行了優化，避免了在 RAM 或 SSD 中使用昂貴的熱向量索引的需求。

本地代理技術棧

Polign 提議了一種模組化的「本地代理技術棧」（local agent stack），其中智能與記憶完全保留在使用者的設備上。此技術棧由三個主要層級組成：

Local LLM: 處理對話與高層次邏輯。
Typed Memory: 管理驗證、取代規則、結構化過濾與語義召回。
Durable Local Store: 一個本地目錄（例如 /var/lib/agent），確保使用者擁有自己的數據。

社群反應與評論

雖然 Polign 的技術目標專注於效率與確定性，但該專案在授權方式與獨特性方面受到了開發者社群的批評。

閉源疑慮

Hacker News 上的幾位使用者指出，底層 polign_db 的閉源性質是基礎設施工具採用上的重大障礙。

"There are countless agent memory stores today. Closed source is a non-starter."

感知的差異化不足

一些批評者認為，所提供的功能——特別是在 S3 上託管的向量資料庫——現在使用現有的開源工具實作起來非常簡單。

"A vector database hosted in S3 is effectively trivial to set up at this point in time. What are you offering that I can't get from prompting a powerful enough model?"

其他使用者建議了替代方案，例如對於尋求本地代理記憶開源等效方案的人，可以使用 Litestream 搭配基於 SQLite 的向量設計。