Mintplex-Labs/anything-llm

它解決了什麼問題

AnythingLLM 是一款全方位的 AI 應用程式，旨在讓使用者建立私有化且功能完整的 ChatGPT 體驗。它透過提供內建的向量資料庫、文件處理管線和代理功能，消除了設定複雜 AI 技術堆疊的阻礙，讓使用者能夠私密且安全地與自己的文件進行對話。

運作原理

該系統以 monorepo 形式運作，包含用於內容管理的 React 前端、用於 LLM 和向量資料庫互動的 NodeJS Express 伺服器，以及用於解析檔案的專用文件收集器。它允許使用者連接到各種本地或雲端 LLM 提供者、嵌入模型和向量資料庫，提供了一個高度可配置的環境，將文件匯入並索引以進行檢索增強生成 (RAG)。

適用對象

它專為希望擁有私有 AI 執行個體，且需要處理多使用者支援、自訂 AI 代理和基於文件的對話，同時又不想進行繁瑣技術配置或手動基礎設施設定的個人與組織所設計。

特色亮點

• 動態模型路由：根據使用者定義的規則，自動將對話路由至最佳的提供者與模型。
• 無程式碼 AI 代理建構器：建立自訂代理以自動化複雜的工作流程並瀏覽網頁。
• 廣泛的相容性：支援多種 LLM (OpenAI, Anthropic, Ollama 等)、嵌入模型和向量資料庫 (LanceDB, Pinecone, Chroma 等)。
• 多使用者支援：包含針對多使用者執行個體的權限與存取控制 (Docker 版本)。
• 企業級就緒：提供用於網站的自訂嵌入式聊天小工具以及完整的開發者 API 以進行整合。