aigc-apps/PAI-RAG

解決的問題

PAI-RAG 是一個針對企業級複雜知識處理與智慧型問答的開源代理型 RAG 框架。它超越傳統 RAG，整合知識庫管理、多模態理解與代理推理循環，能處理單純檢索無法解決的複雜任務。

運作方式

系統採用 ReAct（推理與行動）代理引擎，遵循「思考-行動-觀察」循環，使其能規劃任務並並行呼叫工具。結合多種檢索策略——包括向量檢索、全文檢索與混合檢索搭配重排序——從支援超過 20 種文件格式的知識庫中取得資訊。同時整合 Model Context Protocol (MCP) 以擴展工具集，並透過提取描述與索引，支援多模態輸入（影像與影片）。

適用對象

專為需要建構複雜 AI 代理的開發者與企業設計，這些代理能進行資料分析、多模態文件理解與即時網路搜尋，無需具備深厚的機器學習專業知識。

核心特色

• 多模態能力：可從文件中提取並索引影像，並支援影片解析以產生描述。
• 代理推理：原生支援 Chain-of-Thought 模型（如 DeepSeek-R1），並具備多步驟查詢的任務規劃能力。
• 企業級就緒：支援多租戶、細粒度 RBAC（基於角色的存取控制）至 chunk 級別，以及 OpenTelemetry 可觀測性支援。
• 可擴展工具鏈：內建 Python 程式碼沙盒、Text-to-SQL 用於資料庫查詢，以及深度 MCP 集成以存取外部工具。
• 廣泛相容性：支援七種不同向量資料庫後端，以及所有 OpenAI 相容的 LLM。