Mistral Agentic Search 发布
Mistral AI 发布了 Agentic Search,这是一种多步检索系统,旨在帮助企业处理复杂、密集且敏感的数据源。与传统的检索增强生成 (RAG) 不同,Agentic Search 允许模型在多个文档中迭代地进行搜索、检查和验证信息,从而显著提高数据密集型领域的准确性。
克服单次 RAG 的局限性
传统的单次 (one-shot) RAG 检索一组固定的文本块并尝试通过单次处理来回答问题。在处理复杂数据时,Mistral 发现这种方法存在三个主要的失效点:
- 缺乏推理的检索: 模型被迫仅使用提供的初始文本块进行回答,即使这些文本块不完整或无关,且无法请求更多上下文。
- 文本块级别的限制: 在多模态文档(如表格或脚注)中,关键数据往往会因为模型无法打开完整文档或导航到特定区域而丢失。
- 缺乏迭代: 单次 RAG 无法细化搜索查询、跟踪文档间的引用,或通过比较多个来源来验证答案。
技术实现:Mistral Search Toolkit
Agentic Search 由 Mistral Search Toolkit 提供支持,该工具包提供了用于摄取、嵌入和索引数据的开放模块。该系统为 AI 模型提供了五个特定的工具,其功能类似于文件系统操作:
search: 使用现有索引在语料库中查找相关文档。open: 打开特定文档。navigate: 在文档内移动到特定页面、章节或区域。read: 获取当前位置的内容。grep: 在打开的文档中查找特定模式。
这种架构确保了检索质量随模型的推理能力而扩展,而不是受限于固定的分块策略,因为这些工具不需要针对特定模型进行微调。
性能基准测试
Mistral 使用 Mistral Medium 3.5 (MM 3.5) 和 Z.ai GLM-5.2 (GLM-5.2) 在两个行业标准基准测试中测试了 Agentic Search。
FinanceBench (SEC Filings)
在 368 份 SEC 申报文件(约 53,900 页)上的测试结果显示:
- 准确率提升: 从单次 RAG 转向仅搜索的智能体循环 (search-only agentic loop) 使 MM 3.5 的准确率提高了 +47.3 个百分点 (pp),GLM-5.2 提高了 +52.6pp,代表准确性提升了约 3 倍(从 26.7% 提高到 86%)。
- 导航工具的影响: 添加
open、navigate、read和grep工具使 MM 3.5 的准确率进一步提高了 +8.7pp,GLM-5.2 提高了 +6.7pp。 - 效率: 与仅搜索的智能体循环相比,完整的循环减少了 MM 3.5 23.9% 的 token 使用量,GLM-5.2 减少了 33.7%。
- 延迟: p90 延迟从 255s 降至 154s,平均延迟从 108s 降至 71s。
OfficeQA Pro (Treasury Bulletins)
在 696 份扫描的、包含大量表格的政府财务 PDF(约 89,000 页)上的测试显示:
- 准确率提升: 完整的智能体循环使 GLM-5.2 的准确率提高到 51.9%(+45.6pp),相比单次 RAG,MM 3.5 的准确率提高了 +27.1pp。
- 效率: 导航工具减少了 token 消耗并减少了高达 7.0% 的轮次 (turns)。
- 测试框架对比: GLM-5.2 在 Mistral harness 上得分 51.9%,而在使用 Claude Code harness 时得分 41.4%,相差 +10.5pp。
使用场景适用性
Mistral 对何时使用 Agentic Search 与何时使用传统的索引检索进行了区分:
使用 Agentic Search 的场景:
- 长篇、密集型文档: 申报文件、合同和技术规范,其中答案位于特定的表格、条款或脚注中。
- 跨源研究: 需要协调多个文档证据的任务。
- 可验证的答案: 金融或法律数据,其中响应必须与稳定的文档位置相关联。
- 结构化数据: 扫描的 PDF 和财务报表,其中含义取决于空间布局(行/列)。
使用 索引检索 (One-Shot RAG) 的场景:
- 直接查询: 短篇文档,其中答案很可能就在前几个检索到的文本块中。
- 高吞吐量搜索: 不需要推理的简单关键词或语义查询。
- 可预测的问题: 答案的来源和位置预先已知的用例。
可用性与集成
Agentic Search 可通过 Mistral Search Toolkit 进行自定义智能体集成,并内置于 Mistral Studio 和 Vibe 中的 Libraries。用户可以通过 Search Starter App 开始测试,该应用提供了一个用于自定义语料库的本地索引。
Sources
相关
- Dispatch
- Dispatch
- Dispatch
- 项目
- 项目