StarTrail-org/LEANN

解決的問題

LEANN 是一個輕量級向量資料庫，旨在於個人硬體上實現高效率的檢索增強生成（RAG）。它解決了傳統向量資料庫過度儲存需求的問題，讓使用者能在筆電上索引數百萬份文件，同時不犧牲搜尋準確性。

工作原理

LEANN 採用一種稱為圖形基礎選擇性重計算的技術，搭配高階保留剪枝。它不會儲存每筆資料的每個嵌入向量，而是按需計算嵌入。同時，透過智慧圖形剪枝與壓縮稀疏列（CSR）格式，最大限度減少圖形本身的儲存開銷。

適用對象

專為希望建立私密、本地化 AI 助手的個人設計，該助手能對其個人資料（如檔案系統、電子郵件、瀏覽器歷史、聊天記錄（WeChat、iMessage）、代理記憶（ChatGPT、Claude）等）進行語意搜尋，而無需依賴雲端服務或昂貴硬體。

主要亮點

• 極致儲存效率：相比傳統向量資料庫，儲存需求最多減少 97%（例如：6000 萬個片段僅需 6GB，傳統方式需 201GB）
• 隱私優先：完全在本地裝置上運作，確保資料不會離開裝置
• 廣泛整合：支援多種資料來源，且完全相容作為 Claude Code 的語意搜尋 MCP 服務
• 靈活後端：支援多種嵌入與 LLM 提供商，包括 Ollama、LM Studio 等本地引擎，以及雲端 API