Mintplex-Labs/anything-llm

解決的問題

AnythingLLM 解決了建立私有、功能完整的 AI 聊天系統所帶來的複雜性。它消除了通常將 LLM 連接到個人文件所需的「令人挫折的設定」，提供一站式的應用程式，開箱即用即可處理文件攝取、向量資料庫管理以及多使用者存取。

工作原理

AnythingLLM 作為一個全面的封裝器與編排器。它允許使用者連接各種本地或雲端的 LLM 提供商、嵌入模型與向量資料庫。系統包含一個文件收集器，可解析多種檔案格式（PDF、TXT、DOCX），以及一個伺服器，負責管理使用者介面、儲存的文件嵌入與所選 AI 模型之間的互動。

適用對象

專為希望擁有私有、高度可配置的 AI 應用，與自己的文件對話並使用 AI 代理自動化工作流程，而又無需從零開始建構基礎設施的個人與組織設計。

主要亮點

• 一站式設定：內建向量資料庫、文件管道與代理。
• 廣泛相容性：支援大量開源與封閉式 LLM、嵌入模型與向量資料庫（例如 LanceDB、Pinecone、Milvus）。
• 代理功能：具備無程式碼 AI 代理建構器、定時任務與智慧工具選擇，以減少 Token 使用量。
• 企業就緒：支援多使用者權限管理，並提供可自訂嵌入網站的聊天小工具。
• 彈性部署：可作為桌面應用（Mac、Windows、Linux）執行，或透過 Docker 及多種雲端服務商進行自托管。