Mintplex-Labs/anything-llm

解决的问题

AnythingLLM 解决了搭建私有、功能完整的 AI 聊天系统所带来的复杂性。它消除了通常连接 LLM 到个人文档所需的“令人沮丧的设置”，提供了一站式应用，开箱即用地处理文档摄入、向量数据库管理以及多用户访问。

工作原理

AnythingLLM 作为一个全面的封装器和编排器。它允许用户连接各种本地或云服务的 LLM 提供商、嵌入模型和向量数据库。系统包含一个文档收集器，可解析多种文件类型（PDF、TXT、DOCX），以及一个服务器，负责管理用户界面、存储的文档嵌入和所选 AI 模型之间的交互。

适用人群

专为希望拥有私有、高度可配置的 AI 应用，与自己的文档聊天并使用 AI 代理自动化工作流程，而又无需从零开始构建基础设施的个人和组织设计。

主要亮点

• 一站式设置：内置向量数据库、文档管道和代理。
• 广泛兼容性：支持大量开源和闭源 LLM、嵌入模型和向量数据库（例如 LanceDB、Pinecone、Milvus）。
• 代理功能：具备无代码 AI 代理构建器、定时任务和智能工具选择，以减少令牌使用量。
• 企业就绪：支持多用户权限管理，并提供可自定义嵌入网站的聊天小部件。
• 灵活部署：可作为桌面应用（Mac、Windows、Linux）运行，或通过 Docker 及多种云服务商进行自托管。