trvon/yams

Persistent memory for LLMs and apps. Content-addressed storage with dedupe, compression, full-text and vector search.

What it solves

YAMS 提供一个持久化记忆系统给 LLM 与应用程序，解决了为 AI 助手高效存储、去重和检索海量数据的问题。它将内容寻址存储与传统关键词搜索以及现代语义搜索相结合，确保数据只存储一次且能够准确检索。

How it works

系统使用 SHA-256 内容寻址存储并结合 Rabin 分块实现块级去重和压缩。它集成 SQLite FTS5 进行全文搜索，并使用嵌入向量进行向量搜索。为处理结构化数据，系统使用 Tree-sitter 从 18 种不同编程语言中提取符号。它还提供 Model Context Protocol (MCP) 服务器，允许 AI 助手通过 JSON-RPC 与记忆系统交互。

Who it’s for

面向构建 AI 代理和基于 LLM 的应用程序的开发者，需要高性能、持久的记忆层，支持语义检索以及代码和文档的高效存储。

Highlights

  • Hybrid Search: 结合全文搜索和语义向量搜索，实现灵活检索。
  • Efficient Storage: 实现块级去重和压缩，最大限度降低磁盘使用。
  • MCP Integration: 包含内置 MCP 服务器，实现与 AI 助手的无缝连接。
  • Hardware Acceleration: 通过 ONNX 支持 GPU 加速，兼容 NVIDIA、AMD 和 Apple Silicon 等平台。
  • Code Awareness: 使用 Tree-sitter 从 18 种语言中提取符号。