langroid/langroid

解決的問題

Langroid 是一個輕量且可擴展的 Python 框架，旨在簡化 LLM 驅動應用程式的開發。它解決了多智能體系統建構的複雜性，即多個 AI 智能體必須協作、交換訊息並共同解決問題，採用受 Actor 框架啟發的原則性方法。

工作原理

開發者設定智能體，並可為其配備可選元件，如 LLM、向量儲存和特定工具或函數。這些智能體隨後被指派至任務，由任務管理互動迴圈。智能體可透過訊息交換進行協作，框架支援廣泛的 LLM（包括本地與遠端模型）、多模態輸入（PDF、影像），並支援與 MCP（Model Context Protocol）伺服器整合，透過工具適配器擴展智能體能力。

適用對象

適用於開發生產級 LLM 應用的開發者與研究人員，特別是需要多智能體編排、結構化資訊萃取或 RAG（檢索增強生成）系統的場景。

主要亮點

• 多智能體編排：受 Actor 框架啟發，用於協作式問題解決。
• 廣泛的 LLM 支援：支援幾乎所有 LLM，包括本地模型（如 Mistral）與遠端 API（如 OpenAI、Gemini、DeepSeek）。
• 可擴展的工具支援：支援函數呼叫、MCP 工具適配器，以及多種 PDF 解析器與向量資料庫（如 Qdrant、Milvus、Pinecone）。
• 高階 RAG 功能：包含 DocChatAgent，支援 Reciprocal Rank Fusion (RRF) 以提升檢索效果，並具備結構感知的 Markdown 分塊功能。
• 開發者體驗：專注於簡化設定與靈活的智能體與任務抽象。