shinpr/mcp-local-rag

解決的問題

mcp-local-rag 是一個本地檢索增強生成（RAG）系統，允許使用者在不將資料傳送至外部嵌入API的情況下搜尋私人文件。它透過將所有文件解析、嵌入與儲存都保留在本機上，解決了機密性與成本效率的需求。同時，透過採用混合搜尋方式，解決了語意搜尋遺漏精確技術術語（如API名稱或錯誤代碼）的問題。

工作原理

該系統分為兩個主要階段：

1. 攝入：解析支援的檔案（PDF、DOCX、Markdown、TXT）或HTML資料，使用語意分塊（保留Markdown程式碼區塊）將其分割為區塊，並使用Transformers.js在本機產生嵌入，儲存在LanceDB向量資料庫中。
2. 搜尋：當發出查詢時，系統會嵌入查詢並執行向量搜尋以找出語意相關的區塊。然後應用關鍵字提升，確保精確的技術術語排名更高。

此外，還提供PDF的可選「視覺模式」，使用本機視覺模型為圖表生成可搜尋的標題。

適用對象

• 需要搜尋技術文件或私人文件的開發者與研究人員。
• 希望透過Model Context Protocol（MCP）整合本機文件搜尋的AI程式碼工具使用者（如Claude Code、Cursor或Codex）。
• 無法將敏感文件傳送至託管嵌入服務的重視隱私的使用者。

主要亮點

• 完全本機化：無需API金鑰、Docker或外部資料庫；初始模型下載後即可離線運作。
• 混合搜尋：結合語意檢索與關鍵字匹配，提升技術準確性。
• MCP整合：作為MCP伺服器運作，允許AI代理直接同步、攝入與查詢文件。
• 語意分塊：在主題邊界處分割文件，而非固定字元數。
• 視覺PDF索引：可選的本機VLM支援，為PDF中的圖表建立可搜尋的標題。