Mistral Agentic Search 發佈

Mistral AI 宣布推出 Agentic Search，這是一種多步驟檢索系統，旨在幫助企業處理複雜、密集且敏感的數據源。與傳統的檢索增強生成 (RAG) 不同，Agentic Search 允許模型在多份文件中迭代地進行搜索、檢查和驗證信息，從而在數據密集型領域顯著提高正確性。

克服單次 RAG 的局限性

傳統的單次 (one-shot) RAG 會檢索一組固定的文本塊並嘗試在單次處理中回答問題。Mistral 指出，在處理複雜數據時，這種方法存在三個主要的失效點：

• 缺乏推理的檢索： 模型被迫僅使用提供的初始文本塊進行回答，即使這些文本塊不完整或不相關，且無法要求更多上下文。
• 文本塊級別的限制： 在多模態文件中，關鍵數據（如表格或腳註）往往會因為模型無法打開完整文件或導航到特定區域而丟失。
• 缺乏迭代： 單次 RAG 無法細化搜索查詢、跟隨文件間的引用，或通過比較多個來源來驗證答案。

技術實現：Mistral Search Toolkit

Agentic Search 由 Mistral Search Toolkit 提供支持，該工具包提供了用於攝取、嵌入和索引數據的開源模組。該系統賦予 AI 模型五種特定的工具，其功能類似於文件系統操作：

1. search: 使用現有索引在語料庫中尋找相關文件。
2. open: 打開特定文件。
3. navigate: 在文件內移動到特定的頁面、章節或區域。
4. read: 獲取當前位置的內容。
5. grep: 在打開的文件中尋找特定模式。

這種架構確保了檢索質量隨着模型的推理能力而擴展，而不是受限於固定的分塊策略，因為這些工具不需要針對特定模型進行微調。

性能基準測試

Mistral 使用 Mistral Medium 3.5 (MM 3.5) 和 Z.ai GLM-5.2 (GLM-5.2) 在兩個行業標準基準測試中測試了 Agentic Search。

FinanceBench (SEC Filings)

在 368 份 SEC 申報文件（約 53,900 頁）上的測試結果顯示：

• 準確度提升： 從單次 RAG 轉向僅搜索的代理循環 (search-only agentic loop) 後，MM 3.5 的準確度提升了 +47.3 個百分點 (pp)，GLM-5.2 提升了 +52.6pp，代表正確性約提升了 3 倍（從 26.7% 提高到 86%）。
• 導航影響： 添加 open、navigate、read 和 grep 工具後，MM 3.5 的準確度進一步提升了 +8.7pp，GLM-5.2 提升了 +6.7pp。
• 效率： 與僅搜索的代理循環相比，完整的代理循環為 MM 3.5 減少了 23.9% 的 token 使用量，為 GLM-5.2 減少了 33.7%。
• 延遲： p90 延遲從 255s 降至 154s，平均延遲從 108s 降至 71s。

OfficeQA Pro (Treasury Bulletins)

在 696 份掃描版、含有大量表格的政府財政 PDF 文件（約 89,000 頁）上的測試顯示：

• 準確度提升： 完整的代理循環使 GLM-5.2 的準確度提高到 51.9%（+45.6pp），且與單次 RAG 相比，MM 3.5 的準確度提升了 +27.1pp。
• 效率： 導航工具減少了 token 消耗並減少了多達 7.0% 的輪次 (turns)。
• 工具架構比較： GLM-5.2 在 Mistral harness 上獲得了 51.9% 的得分，而使用 Claude Code harness 時為 41.4%，差異為 +10.5pp。

使用場景適用性

Mistral 對於何時使用 Agentic Search 與傳統的索引檢索進行了區分：

使用 Agentic Search 的場景：

• 長篇且密集的文檔： 申報文件、合同和技術規範，其中答案位於特定的表格、條款或腳註中。
• 跨來源研究： 需要整合來自多份文件的證據的任務。
• 可驗證的答案： 金融或法律數據，其中回答必須與穩定的文件位置相關聯。
• 結構化數據： 掃描版 PDF 和財務報表，其中含義依賴於空間佈局（行/列）。

使用 索引檢索 (One-Shot RAG) 的場景：

• 直接查找： 短文檔，其中答案很可能就在前幾個檢索到的文本塊中。

• 高容量搜索： 不需要推理的簡單關鍵詞或語義查找。

• 可預測的問題： 答案的來源和位置預先已知的用例。

可用性與集成

Agentic Search 可通過 Mistral Search Toolkit 進行自定義代理集成，並已內置於 Mistral Studio 和 Vibe 的 Libraries 中。用戶可以通過 Search Starter App 開始測試，該應用程序為自定義語料庫提供本地索引。