langroid/langroid
Harness LLMs with Multi-Agent Programming
What it solves
Langroid 是一个轻量且可扩展的 Python 框架，旨在简化 LLM 驱动应用的开发。它解决了编排多个 AI 代理协同解决问题的复杂性，提供结构化的替代方案，侧重于开发者体验和灵活性。
How it works
Langroid 使用受 Actor Framework 启发的多代理范式。开发者设置 Agents，并为其配备特定组件，如 LLM、向量存储以及工具或函数。这些代理随后被分配任务，通过交换消息协同工作。框架支持广泛的 LLM（包括本地和远程模型）、多模态输入（PDF、图像），并可集成各种向量数据库和工具适配器，如 MCP（Model Context Protocol）。
Who it’s for
它面向希望构建生产级 LLM 应用的开发者和研究者，尤其是需要多代理编排、RAG（检索增强生成）系统或结构化信息抽取的场景。
Highlights
- Multi-Agent Orchestration: 直观的 Agent 与 Task 抽象，支持协同问题求解。
- Broad LLM Support: 可与几乎所有 LLM 配合，包括 OpenAI、Gemini、DeepSeek，以及通过 Ollama 或 Groq 的本地模型。
- Advanced RAG Capabilities: 包含
DocChatAgent，用于基于文档的 QA，支持多种 PDF 解析器和向量数据库（如 Qdrant、Pinecone、pgvector）。 - Extensible Tooling: 支持函数调用、基于 XML 的工具，以及 MCP 工具适配器以利用 MCP 服务器。
- Developer-Centric Features: 包含无限循环检测、血统追踪实现“倒带与重做”功能，并提供 HTML logger 用于任务可视化。