Mixedbread Toast 1 专用搜索代理发布

Toast 1 以极低的成本实现前沿级搜索

Toast 1 是 Mixedbread 推出的首个专用搜索代理，其答案质量与顶级模型（如 Claude Opus 5 和 GPT-5.6 Sol）相当甚至更优，同时成本最高可降低 10 倍，查询速度提升 12 倍。该代理可独立作为检索系统使用，也可作为任何前沿模型的子代理，完全掌控搜索循环——包括查询分解、证据收集、来源检查和上下文整理，最终将结果交付给推理模型。

企业基准测试中的成本-性能突破

OfficeQA Pro V2

  • 70% 答案正确率，成本约为 每任务 1.15 美元——这是 Databricks 的 OfficeQA Pro V2 基准中报告的最高得分。
  • 相比之下，Claude Fable 5 在 Databricks Genie 上实现 60% 正确率，成本约为 每任务 4 美元，而 GPT-5.6 Sol 未使用 Toast 1 时仅达到 33% 正确率。
  • 提升源于 Toast 1 能够生成 高效率的 token 证据包，使前沿模型可将计算资源集中于推理任务。

“在 Codex 中作为子代理使用 GPT-5.6 Sol 配合 Toast 1，可在每任务约 1.20 美元的成本下达到 70% 的答案正确率，超过了 Databricks 评估中此前的帕累托前沿。” – Mixedbread 博客

Harvey LAB 律师事务所知识基准

  • 三种配置下任务得分均为 55，但 token 使用量从 8060 万（原生代理）降至 4700 万（使用 Mixedbread Search）再降至 2300 万（使用 Toast 1）。
  • 每任务轮次从 21.7 降至 14.6 再降至 11.2，token 消耗减少 3.5 倍，成本节省超过 60%。
  • 该基准表明，更高质量的搜索不会牺牲答案质量，反而使整个流程高效得多。

深度搜索基准测试表现

  • 中位延迟：每查询 8 秒（标准配置），最高质量融合模式下为 11 秒。
  • 每查询成本：标准模式为 0.016–0.023 美元，融合模式为 0.05–0.07 美元。
  • 相较于前沿模型检索代理耗时 20 秒至 4 分钟，Toast 1 成本更低 7–11 倍，且速度显著更快。
  • 在 BrowseComp Plus、OfficeQA Pro 和 LongSeal 等基准测试中，Toast 1 的表现与最佳前沿模型相当或接近，同时保持更低的成本-延迟层级。

集成灵活性

后端无关设计

  • Toast 1 与 Mixedbread Search 共同设计，但可与任何现有检索索引兼容，无需数据迁移。
  • 可通过 Mixedbread Chat Completions API 或提供的 黄金测试框架（GitHub: mixedbread-ai/toast-harness）轻松集成至现有智能体工作流。

编码代理支持

  • 与编码代理集成仅需一条命令：npx skills add mixedbread-ai/skills。
  • OpenCode 集成支持直接作为子代理在以代码为中心的流水线中使用。

使用 Mixedbread Stores 的 Python 示例

from mixedbread import Mixedbread
client = Mixedbread()
results = client.stores.search(
    store_identifiers=["legal-documents"],
    query="does the MSA allow assignment on a change of control?",
    search_options={"agentic": True},  # 启用 Toast 1
)

定价与可用性

  • 发布定价（折扣价）：
    • 每百万输入 token 0.30 美元
    • 每百万缓存输入 token 0.036 美元（缓存写入免费）
    • 每百万输出 token 0.72 美元
  • Toast 1 调用 Mixedbread Search 的费用按 特殊费率 计费（详见 Mixedbread 定价页面）。
  • 提供带有 5 美元免费额度 的 API 密钥，可立即试用。

Hacker News 社区反响

  • 用户称赞专用搜索大模型的概念，指出其有望将多步 Google 搜索替换为单一 LLM 驱动的循环。
  • 多位评论者要求与现有云搜索代理（如 Perplexity、Gemini 搜索模式、Parallel AI）进行对比，并表达了对开源权重替代方案的兴趣。
  • 关于本地部署和数据所有权的问题被提出，凸显了对灵活部署选项的强烈需求。
  • 总体情绪积极，许多人认为 Toast 1 是迈向更便宜、更快、更高质量智能体检索的务实一步。

Toast 1 的独特之处

  1. 专用架构——专为深度搜索训练，能够生成简洁、高质量的证据包。
  2. 完整搜索循环自动化——从查询分解到证据整理，代理无需外部编排即可完成全流程。
  3. 帕累托前沿提升——在多个真实世界基准测试中，同时实现成本、延迟和 token 效率的提升。
  4. 即插即用兼容性——与 Mixedbread Search 配合可实现最佳性能，但对其他检索后端保持无依赖性。

未来展望

Toast 1 加入了日益增长的专用搜索代理生态系统，包括 SID-1 和 Chroma 的 Context-1。随着更多企业采用智能体工作流，对成本效益高、高质量检索的需求将推动专用模型的进一步创新，实现与检索原语的更紧密集成，以及对本地和混合部署的更广泛支持。

Sources

相关