shinpr/mcp-local-rag
Local-first RAG server for developers. Semantic + keyword search for code and technical docs. Works with MCP or CLI. Fully private, zero setup.
解决的问题
mcp-local-rag 是一个本地检索增强生成(RAG)系统,允许用户在不将数据发送到外部嵌入API的情况下搜索私有文档。它通过将所有文档解析、嵌入和存储都保留在本地机器上,解决了机密性和成本效率的需求。同时,通过采用混合搜索方法,解决了语义搜索遗漏精确技术术语(如API名称或错误代码)的问题。
工作原理
该系统分为两个主要阶段:
- 摄入:解析支持的文件(PDF、DOCX、Markdown、TXT)或HTML数据,使用语义分块(保留Markdown代码块)将其分割为块,并使用Transformers.js在本地生成嵌入,存储在LanceDB向量数据库中。
- 搜索:当发出查询时,系统会嵌入查询并执行向量搜索以查找语义相关的块。然后应用关键词提升,确保精确的技术术语排名更高。
此外,还提供PDF的可选“视觉模式”,使用本地视觉模型为图表生成可搜索的标题。
适用人群
- 需要搜索技术文档或私人文档的开发者和研究人员。
- 希望通过Model Context Protocol(MCP)集成本地文档搜索的AI编码工具用户(如Claude Code、Cursor或Codex)。
- 无法将敏感文档发送到托管嵌入服务的注重隐私的用户。
主要亮点
- 完全本地化:无需API密钥、Docker或外部数据库;初始模型下载后即可离线运行。
- 混合搜索:结合语义检索与关键词匹配,提升技术准确性。
- MCP集成:作为MCP服务器运行,允许AI代理直接同步、摄入和查询文档。
- 语义分块:在主题边界处分割文档,而非固定字符数。
- 视觉PDF索引:可选的本地VLM支持,为PDF中的图表创建可搜索的标题。
相关
- 项目
- 项目
- 项目
- 项目
- 项目