trvon/yams

Persistent memory for LLMs and apps. Content-addressed storage with dedupe, compression, full-text and vector search.

What it solves

YAMS 提供一個永久記憶系統給 LLM 與應用程式，解決了為 AI 助手有效率地儲存、去重與檢索大量資料的問題。它結合內容位址儲存與傳統關鍵字搜尋以及現代語意搜尋，確保資料只儲存一次且能精準取回。

How it works

系統使用 SHA-256 內容位址儲存搭配 Rabin 分塊進行區塊層級的去重與壓縮。它整合 SQLite FTS5 進行全文搜尋，並使用嵌入向量進行向量搜尋。為了處理結構化資料，系統使用 Tree-sitter 從 18 種不同程式語言中抽取符號。它同時提供 Model Context Protocol (MCP) 伺服器，讓 AI 助手能透過 JSON-RPC 與記憶系統互動。

Who it’s for

開發 AI 代理人與 LLM 驅動應用程式的開發者，需要高效能、耐用的記憶層，支援語意檢索與程式碼、文件的高效儲存。

Highlights

  • Hybrid Search: 結合全文搜尋與語意向量搜尋，提供彈性的檢索方式。
  • Efficient Storage: 實作區塊層級去重與壓縮，降低磁碟使用量。
  • MCP Integration: 內建 MCP 伺服器，讓 AI 助手能無縫連接記憶系統。
  • Hardware Acceleration: 透過 ONNX 支援 GPU 加速，適用於 NVIDIA、AMD 與 Apple Silicon 等平台。
  • Code Awareness: 使用 Tree-sitter 從 18 種語言抽取符號。