veyliss/ai-localbase

一个本地优先的AI知识库系统(RAG),用于把本地文档接入辅导搜索与大模型对话流程。目前支持md、txt、pdf(文本)、xlsx、cvs类型。支持mcp服务

它解决了什么问题

AI LocalBase 是一个本地优先的 RAG(检索增强生成)系统,旨在让个人和小团队快速搭建私有知识库。它允许用户将本地文档连接到向量检索流程和大型语言模型(LLM)进行对话式问答,确保数据始终保留在自托管环境中。

工作原理

系统使用基于 Go 的后端和 React 前端。它会将上传的文档(TXT、Markdown、PDF、xlsx、csv)通过嵌入模型转换为向量,并存储在 Qdrant 向量数据库中。当用户提出问题时,系统检索相关的文档片段并将其注入 LLM 的上下文。它支持与 Ollama 集成实现完全本地执行,或使用兼容 OpenAI 的 API 连接云端模型。

目标用户

  • 寻求私密、本地个人知识库的个人用户。
  • 需要自托管内部文档问答系统的小团队。
  • 测试 RAG 原型或实验不同检索策略的开发者。
  • 使用 AI 代理(如 Cursor 或 Claude Desktop)的用户,想通过内置 MCP 服务器连接本地知识库。

亮点特色

  • 本地优先架构:通过 Docker Compose 完全自托管部署,聊天记录保存到 SQLite,配置使用 JSON。
  • 高级检索:具备自动文本切分、MMR 冗余移除、混合搜索、语义重排序和查询改写功能。
  • MCP 服务器集成:内置 Model Context Protocol(MCP)服务器,允许外部 AI 代理访问知识库和会话能力。
  • 广泛文档支持:支持多种文件格式,包括 PDF、Excel 与 CSV。
  • RAG 评估:能够从现有知识库文档生成评估数据集,以验证检索质量。