memvid/memvid

Memory layer for AI Agents. Replace complex RAG pipelines with a serverless, single-file memory layer. Give your agents instant retrieval and long-term memory.

What it solves

Memvid 提供一個可攜式、無伺服器的 AI 代理記憶層,消除複雜的 RAG 流程或外部向量資料庫的需求。它讓代理能擁有持久的長期記憶,全部儲存在單一可分享的檔案中,使記憶層與模型無關且不需基礎設施。

How it works

Memvid 將 AI 記憶組織為「Smart Frames」的追加式序列——不可變的單位,內含內容、時間戳記與中繼資料。此設計靈感來自影片編碼,能實現高效壓縮、崩潰安全,以及查詢過往記憶狀態的能力。所有資料,包括嵌入向量、搜尋結構(全文與向量)與中繼資料,皆封裝於單一 .mv2 檔案中。系統支援本地文字嵌入(ONNX)、視覺嵌入(CLIP)與語音轉錄(Whisper),亦支援透過 OpenAI 的雲端嵌入。

Who it’s for

開發長時間運行的 AI 代理、離線優先的 AI 系統、企業知識庫,或需要快速本地記憶召回且不想管理資料庫伺服器的可稽核 AI 工作流程的開發者。

Highlights

  • Single-File Storage: Packages all data and indices into one .mv2 file with no sidecar files.
  • High Performance: Offers ultra-low latency (0.025ms P50) and high throughput for memory retrieval.
  • Multi-modal Support: Includes built-in capabilities for PDF extraction, CLIP visual search, and Whisper audio transcription.
  • Time-Travel Debugging: Allows users to rewind, replay, or branch memory states.
  • Model Agnostic: Works with various local embedding models (BGE, Nomic, GTE) or cloud APIs (OpenAI).