Mintplex-Labs/anything-llm

它解决了什么问题

AnythingLLM 是一款全方位的 AI 应用程序，旨在让用户创建私有化且功能完整的 ChatGPT 体验。它通过提供内置的向量数据库、文档处理管线和代理功能，消除了设置复杂 AI 技术堆栈的阻碍，让用户能够私密且安全地与自己的文档进行对话。

运作原理

该系统以 monorepo 形式运作，包含用于内容管理的 React 前端、用于 LLM 和向量数据库交互的 NodeJS Express 服务器，以及用于解析文件的专用文档收集器。它允许用户连接到各种本地或云端 LLM 提供商、嵌入模型和向量数据库，提供了一个高度可配置的环境，将文档导入并索引以进行检索增强生成 (RAG)。

适用对象

它专为希望拥有私有 AI 实例，且需要处理多用户支持、自定义 AI 代理和基于文档的对话，同时又不想进行繁琐技术配置或手动基础设施设置的个人与组织所设计。

特色亮点

• 动态模型路由：根据用户定义的规则，自动将对话路由至最佳的提供商与模型。
• 无代码 AI 代理构建器：创建自定义代理以自动化复杂的工作流程并浏览网页。
• 广泛的兼容性：支持多种 LLM (OpenAI, Anthropic, Ollama 等)、嵌入模型和向量数据库 (LanceDB, Pinecone, Chroma 等)。
• 多用户支持：包含针对多用户实例的权限与访问控制 (Docker 版本)。
• 企业级就绪：提供用于网站的自定义嵌入式聊天小工具以及完整的开发者 API 以进行集成。