java-up-up/nexus-agent

解決的問題

Nexus Agent 是一個企業級 AI 代理平台，旨在超越簡單的 API 呼叫與基礎 RAG 示範。它透過實作複雜的工程模式，彌補原型與生產就緒系統之間的差距，涵蓋文件治理、高精度檢索與自主代理行為，特別針對企業環境中的幻覺、令牌成本與檢索準確率等挑戰。

工作原理

該系統採用多層架構，避免完全依賴 LLM 進行決策。它使用 預編排引擎 在請求路由至三個執行器之一前，處理查詢重寫、子問題拆分與歧義檢測：澄清執行器（用於模糊查詢）、RAG 知識執行器（例如基於證據生成並附帶引用）、或 ReAct 代理執行器（用於需要多步推理與工具使用的開放式任務）。

關鍵技術組件包括：

• 混合檢索：使用 Reciprocal Rank Fusion (RRF) 與可選的重排序，結合向量搜尋（PGVector）與關鍵字搜尋（Elasticsearch）。
• 知識圖譜：使用 Neo4j 映射文件結構（文件 → 章節 → 項目），實現結構化導航。
• 父子分塊：為精度檢索小的「子」塊，但向 LLM 提供更大的「父」塊以保留完整上下文。
• 記憶體管理：提供三種策略（無、滑動視窗、摘要壓縮），在上下文視窗限制與令牌成本之間取得平衡。
• MCP 與技能：整合 Model Context Protocol (MCP) 實現動態工具發現，以及宣告式「技能」系統以擴展領域能力。

適用對象

• 希望轉向 AI 應用開發的後端開發者（尤其是 Java/Spring）。
• 希望建構以工程嚴謹性為核心，而非僅模型調校的生產級 RAG/代理系統的工程師。
• 正在為前沿 AI 架構技術面試做準備的學生或專業人士。

核心亮點

• 三層執行：透過優先選擇穩定的 RAG 路徑，而非開放式代理探索，防止不可預測的代理行為。
• 因果證據控制：實作「無證據短路」機制，當未找到相關文件時防止模型產生幻覺。
• 複合分塊引擎：整合結構化、遞迴、語義與基於 LLM 的分塊策略。
• 企業級防護機制：包含基於 Redis 的租用鎖以支援叢集併發、模型/工具呼叫限制以防止無限循環，以及全鏈路可觀測性追蹤。
• 影子路由：靜默比較系統推薦文件與使用者選擇文件，持續優化路由品質。