christopherkarani/Wax

Single-file memory layer for AI agents, sub mili-second RAG on Apple Silicon. Metal Optimized On-Device. No Server. No API. One File. Pure Swift

What it solves

Wax 提供本地、單檔案的 AI 代理記憶層,省去雲端向量資料庫、複雜 Docker 設定或 API 金鑰的需求。它讓代理人在多個會話之間保持持久的長期記憶,同時將所有資料保留在使用者裝置上,以確保隱私與速度。

How it works

Wax 將文件、嵌入向量與結構化知識儲存在專屬的 .wax 二進位檔案中。它採用混合搜尋方式,結合 SQLite FTS5 進行詞彙文字搜尋與 Metal 加速的 HNSW 索引進行向量搜尋。為確保資料完整性,Wax 使用預寫日誌 (WAL) 與雙頁首標頭以提升崩潰韌性。資料會以 LZ4 壓縮,使檔案尺寸保持緊湊。

Who it’s for

  • Swift 開發者:建構 iOS 或 macOS 應用,需要在裝置上執行 RAG(檢索增強生成)或持久 AI 記憶的開發者。
  • CLI 高階使用者:想要可腳本化、命令列記憶儲存的開發者。
  • AI 代理使用者:使用 Claude Code、Cursor、Windsurf 等助理,並希望透過 Model Context Protocol (MCP) 讓代理人在不同會話間記住上下文與決策的人。

Highlights

  • 單檔案儲存:所有記憶都打包在一個 .wax 檔案中,便於透過 iCloud 或 AirDrop 同步與搬移。
  • Apple Silicon 原生:針對 M 系列硬體最佳化,實現極低的召回延遲(約 6ms p95)。
  • 混合搜尋:同時支援語意(向量)與確定性(文字)檢索模式。
  • MCP 整合:內建一流的 Model Context Protocol 伺服器,將本地記憶連結至 AI 程式碼助理。
  • 零設定:基本運作不需伺服器或外部相依套件。