veyliss/ai-localbase

它解決了什麼問題

AI LocalBase 是一個本地優先的 RAG（檢索增強生成）系統，旨在讓個人與小型團隊快速建立私有知識庫。它允許使用者將本地文件連接到向量檢索流程與大型語言模型（LLM）進行對話式問答，確保資料始終保留在自行託管的環境中。

工作原理

系統使用基於 Go 的後端與 React 前端。它會將上傳的文件（TXT、Markdown、PDF、xlsx、csv）透過嵌入模型轉換為向量，並儲存於 Qdrant 向量資料庫。當使用者提出問題時，系統會檢索相關的文件片段，並將其注入 LLM 的上下文中。它支援與 Ollama 整合以實現完全本地執行，或使用相容 OpenAI 的 API 連接雲端模型。

目標使用者

• 想要私密、本地個人知識庫的個人使用者。
• 需要自行託管內部文件問答系統的小型團隊。
• 測試 RAG 原型或實驗不同檢索策略的開發者。
• 使用 AI 代理（如 Cursor 或 Claude Desktop）的使用者，想透過內建 MCP 伺服器連接本地知識庫。

重點特色

• 本地優先架構：透過 Docker Compose 完全自行託管部署，聊天記錄儲存於 SQLite，設定檔使用 JSON。
• 進階檢索：具備自動文字切分、MMR 冗餘移除、混合搜尋、語意重新排序與查詢改寫功能。
• MCP 伺服器整合：內建 Model Context Protocol（MCP）伺服器，允許外部 AI 代理存取知識庫與會話功能。
• 廣泛文件支援：支援多種檔案格式，包括 PDF、Excel 與 CSV。
• RAG 評估：能從既有知識庫文件產生評估資料集，以驗證檢索品質。