OpenRouter Fusion API：多模型合成以实现更高性能

OpenRouter 推出了 Fusion API，这是一套系统，可将单个用户请求同时路由到多个 LLM，并使用评判模型将这些响应合成为最终的高性能答案。此方法旨在通过并行的测试时计算，超越前沿模型的性能。

性能提升与权衡

Fusion 的核心价值主张是能够提升深度研究和复杂推理任务的性能。根据 OpenRouter 的基准测试，API 提供了两种主要预设：

  • 预算预设： 使用三个更便宜的模型，性能大致相当于 “Fable” 模型，但成本只有 Fable 的一半。
  • 质量预设： 使用三个昂贵的模型，性能超过 Fable，代价是成本翻倍。

然而，这些提升伴随着显著的运营权衡。用户的定性评估表明，Fusion 的速度可能慢至原来的 7 倍，成本高出 4 倍，相比直接调用单个前沿模型（如 GPT‑5.5 或 Claude Opus 4.7）。因此，Fusion 更适合作为“仅在需要时使用”的高风险任务工具，而不是单模型推理的通用替代方案。

测试时计算的作用

OpenRouter 数据的一个关键发现是，将模型与自身融合（例如运行多个 Claude Opus 4.8 实例）也能提升性能。这表明，性能提升的主要驱动因素不一定是模型架构的多样性，而是总的测试时计算量的增加。

社区讨论中出现了关于多模型共识是否真正具备叠加效应的争论。一些开发者认为，由于前沿模型在相似的数据集上训练，它们可能形成一个“回音室”，提供统计噪声而非真正的智力多样性。另一些人则认为，只需提升单模型的 temperature 以生成多个候选答案，也能实现相同效果。

替代实现策略

社区中有多位开发者实现了类似的 “联盟” 或 “集成” 模式，以优化结果：

  • 专家角色设定： 与其向多个模型发送相同提示，不如预先提示每个实例采用特定的专业角色，从而强制产生不同的智力视角并形成真实的辩论。
  • 多轮审查： 实现模型之间的交叉审查轮次，尽管这会导致 token 使用量激增。
  • 排序‑合成： 为了控制成本，有人使用快速、廉价的模型（如 Mercury‑2）对候选池中的最佳响应进行排序，然后让更大的模型完成最终合成。

实际使用场景

虽然普通聊天可能无法从 Fusion 中受益，但以下对 token 效率要求高的任务非常适合采用此方法：

  • 架构审查： 在编码前分析 markdown 规范的缺口，此时多次 LLM 调用的成本相对于遗漏需求的价值可以忽略不计。
  • 复杂代码审计： 使用一群代理对文件进行架构问题审查，采用轮流响应和反驳的方式，最终汇总出完整的发现报告。
  • 并行策略测试： 并行运行不同的 agentic 策略，并使用评判模型审查其差异，以发现单一路径可能遗漏的洞见。

Sources