veyliss/ai-localbase

解决的问题

AI LocalBase 是一个以本地优先的检索增强生成（RAG）系统，旨在让个人和小型团队快速构建私有的知识库。它解决了在不依赖外部云服务的情况下，将本地文档集成到向量搜索和大语言模型（LLM）对话流程中的难题。

工作原理

该系统采用 Go 编写的后端和 React 前端。它集成了 Qdrant 作为向量数据库，用于存储和检索文档嵌入。用户可以上传 TXT、Markdown、PDF、xlsx、csv 等格式的文件，系统会自动进行分块和嵌入。系统支持通过 Ollama 或 OpenAI 兼容 API 连接 LLM，以实现实际对话和嵌入生成。

适用人群

• 寻求私有、本地化个人知识库的个人。
• 需要内部文档问答系统的中小型团队。
• 希望原型化和实验不同 RAG 检索策略的开发者。
• 使用 AI 代理（如 Cursor 或 Claude Desktop）并希望通过内置 MCP 服务器连接本地知识库的用户。

主要亮点

• 本地优先架构：通过 Docker Compose 完全自托管，使用 SQLite 存储聊天历史，使用 JSON 存储配置。
• 高级检索功能：包含 MMR（最大边际相关性）用于去重、混合搜索、语义重排序和查询重写等功能。
• MCP 服务器集成：内置 Model Context Protocol（MCP）支持，允许外部 AI 代理访问知识库和会话功能。
• 内容编排与评估：能够从现有文档生成 RAG 评估数据集，以验证检索质量。
• 灵活的模型访问：兼容本地（Ollama）和云端（OpenAI）模型提供商。