Mixedbread Toast 1 專用搜尋代理推出

Toast 1 以極低成本實現前沿級搜尋

Toast 1 是 Mixedbread 的首款專用搜尋代理，其答案品質與 Claude Opus 5 和 GPT‑5.6 Sol 等頂級模型相當或更優，同時成本最多可降低 10×，查詢速度提升 12×。此代理可獨立作為檢索系統使用，也可作為任何前沿模型的子代理，完全掌控搜尋循環——包括查詢分解、蒐集證據、檢視來源，並在將結果交給推理模型前進行內容篩選與優化。

企業基準上的成本效能突破

OfficeQA Pro V2

  • 70 % 答案正確率，成本僅 ≈ $1.15 每任務——為 Databricks 的 OfficeQA Pro V2 基準中報告的最高分數。
  • 相較之下，Claude Fable 5 在 Databricks Genie 上僅達 60 % 正確率，成本為 ≈ $4 每任務；而 GPT‑5.6 Sol 若未搭配 Toast 1，正確率僅達 33 %。
  • 提升來自 Toast 1 能產生 高效率的 token 證據包，讓前沿模型得以將運算資源專注於推理。

「在 Codex 中以 Toast 1 作為子代理的 GPT‑5.6 Sol，每任務約 $1.20 即可達成 70 % 答案正確率，超越 Databricks 評估所呈現的先前帕累托前緣。」 – Mixedbread 博客

Harvey LAB 法律事務所知識基準

  • 三種配置下任務分數皆為 55，但 token 使用量從 80.6 M（原生代理）降至 47 M（搭配 Mixedbread Search）再降至 23 M（搭配 Toast 1）。
  • 每任務回合數從 21.7 降至 14.6 再降至 11.2，token 消耗減少 3.5×，成本節省超過 60 %。
  • 此基準顯示，高品質搜尋並不會犧牲答案品質，反而大幅提高流程效率。

深度搜尋基準上的表現

  • 中位數延遲：每查詢 8 秒（標準設定）與最高品質融合模式下 11 秒。
  • 每查詢成本：標準模式 $0.016–$0.023，融合模式 $0.05–$0.07。
  • 相較於需耗時 20 秒至 4 分鐘的前沿模型檢索代理，Toast 1 成本低 7–11×，且速度更快。
  • 在 BrowseComp Plus、OfficeQA Pro 與 LongSeal 等基準上，Toast 1 的表現與最佳前沿模型相當或接近，同時維持在更低的成本-延遲層級。

整合彈性

後端無關設計

  • Toast 1 與 Mixedbread Search 共同設計，但可與任何現有檢索索引搭配使用，無需資料遷移。
  • 可透過 Mixedbread Chat Completions API 或提供的 golden harness（GitHub: mixedbread-ai/toast-harness）輕鬆整合至現有代理工作流程。

程式碼代理支援

  • 與程式碼代理整合僅需一指令：npx skills add mixedbread-ai/skills。
  • OpenCode 整合支援直接作為程式碼導向流程中的子代理使用。

使用 Mixedbread Stores 的 Python 範例

from mixedbread import Mixedbread
client = Mixedbread()
results = client.stores.search(
    store_identifiers=["legal-documents"],
    query="does the MSA allow assignment on a change of control?",
    search_options={"agentic": True},  # 啟用 Toast 1
)

定價與可用性

  • 上市定價（優惠）：
    • $0.30 每百萬輸入 token
    • $0.036 每百萬快取輸入 token（快取寫入免費）
    • $0.72 每百萬輸出 token
  • Toast 1 所呼叫的 Mixedbread Search 將以 特殊計價（詳見 Mixedbread 定價頁面）。
  • 提供含 $5 免費信用額度 的 API 金鑰，可立即試用。

社群在 Hacker News 上的反應

  • 使用者讚賞專用搜尋 LLM 的概念，指出其潛力可取代多步驟的 Google 搜尋，改以單一 LLM 驅動的循環完成。
  • 多位留言者要求與現有雲端搜尋代理（如 Perplexity、Gemini 搭配搜尋、Parallel AI）的比較，並表達對開放權重替代方案的興趣。
  • 關於在地部署與資料所有權的疑問被提出，凸顯對彈性部署選項的需求。
  • 整體情緒正面，許多使用者認為 Toast 1 是朝向更便宜、更快、更高品質的代理式檢索邁出的實用一步。

什麼讓 Toast 1 獨一無二？

  1. 專用架構 – 專為深度搜尋訓練，能產生簡潔且高品質的證據包。
  2. 完整搜尋循環自動化 – 從查詢分解到證據篩選，代理可完全取代外部協調。
  3. 帕累托前緣提升 – 在多項真實世界基準上，同時實現成本、延遲與 token 效率的提升。
  4. 即插即用相容性 – 可與 Mixedbread Search 搭配以達最佳效能，同時對其他檢索後端保持無關性。

未來展望

Toast 1 加入日益壯大的專用搜尋代理生態系，包括 SID‑1 與 Chroma 的 Context‑1。隨著更多企業採用代理式工作流程，對成本效益高、品質優異的檢索需求將推動更多創新，包括專用模型的進一步發展、與檢索原語的更緊密整合，以及對在地與混合部署的更廣泛支援。

Sources

相關