langroid/langroid

解决的问题

Langroid 是一个轻量且可扩展的 Python 框架，旨在简化 LLM 驱动的应用程序开发。它解决了多智能体系统构建中的复杂性问题，即多个 AI 智能体需要协作、交换消息并共同解决问题，采用受 Actor 框架启发的系统性方法。

工作原理

开发者设置智能体，并可为其配备可选组件，如 LLM、向量存储以及特定工具或函数。这些智能体随后被分配到任务中，由任务管理交互循环。智能体可以通过消息交换进行协作，该框架支持广泛的 LLM（包括本地和远程模型）、多模态输入（PDF、图像），并支持与 MCP（Model Context Protocol）服务器集成，通过工具适配器扩展智能体能力。

适用人群

适用于构建生产级 LLM 应用的开发者和研究人员，特别是需要多智能体编排、结构化信息提取或 RAG（检索增强生成）系统的场景。

主要亮点

• 多智能体编排：受 Actor 框架启发，用于协作式问题解决。
• 广泛的 LLM 支持：支持几乎所有 LLM，包括本地模型（如 Mistral）和远程 API（如 OpenAI、Gemini、DeepSeek）。
• 可扩展的工具支持：支持函数调用、MCP 工具适配器，以及多种 PDF 解析器和向量数据库（如 Qdrant、Milvus、Pinecone）。
• 高级 RAG 能力：包含 DocChatAgent，支持 Reciprocal Rank Fusion (RRF) 以提升检索效果，并具备结构感知的 Markdown 分块功能。
• 开发者体验：专注于简化设置和灵活的智能体与任务抽象。