混合推理智能体（HybridAgent）：潜在空间思考与基于文本的工具使用

混合推理智能体（HybridAgent）是一篇新的 arXiv 论文，提出让 LLM 智能体在连续潜在空间中推理，同时仍通过文本在外部世界中行动。论文报告称，这种混合方法在基准测试上的性能比前沿 LLM 智能体和跨越文本与潜在方法的智能体框架提高了 10.4%，同时将 token 使用量减少了 35.5%–54.7%，推理速度提高了 1.8 倍–2.6 倍，成本降低了 2.7 倍–3.7 倍。

该论文为 arXiv:2610.18861v1 [cs.CL]，于 2026 年 10 月 13 日提交，2026 年 10 月 14 日发布。共 45 页，12 幅图，作者为 Jiaru Zou、Yunzhe Qi、Sirui Chen、Federico Bianchi、Shang Zhu、Pan Lu、Jingrui He 和 James Zou。代码和数据发布在 github.com/togethercomputer/HybridAgent。

论文解决的核心问题

基于文本的 LLM 智能体透明且具备工具能力，但每一步内部推理都要付出 token 成本。潜在推理在内部更便宜且更具表达力，但它没有原生工具访问和推理透明度。HybridAgents 旨在同时保留这两种特性。

摘要直接说明了动机：“现代 LLM 智能体仍然通过文本进行推理和交互，而潜在推理提供了一种高效的内部媒介，但缺乏原生工具访问和推理透明度。”所提出的系统“在统一的生成过程中动态地在潜在推理和基于文本的交互之间导航。”

架构如何工作：HybridLink 和连续工作记忆

HybridAgent 有两个架构组件，使得在一次生成过程中实现模式切换成为可能。

HybridLink 是一个轻量级模块，支持文本模式和潜在模式之间的无缝转换。它是骨干模型在训练期间学习协调的机制。

连续工作记忆 在多个轮次中保留无损的混合上下文。由于记忆是连续的而非 token 化的，当智能体切换回文本时，潜在思想不会被丢弃——论文声称潜在思想保持“可直接检查”。

根据摘要，这些设计共同旨在“在保持工具集成的智能体能力的同时，使潜在思想可直接检查”。

训练：HybridSFT 然后 HybridRL

论文介绍了两种专门的混合推理后训练算法。

HybridSFT 通过教骨干模型与 HybridLink 协调来稳定工具集成的混合生成。换句话说，在应用强化学习之前，使用监督微调使文本/潜在切换行为变得可靠。

HybridRL 然后通过学习何时在潜在空间思考以及何时通过文本行动来扩展推理。学习的策略是一个路由决策：潜在模式用于内部推理，文本模式用于工具调用和外部交互。

报告的结果

HybridAgent 在三个模型规模上进行了评估，覆盖数学、科学、医学、搜索和智能体推理等 11 个基准。摘要中报告的主要数据为：

  • +10.4% 相对于前沿 LLM 智能体和跨越文本与潜在方法的智能体框架的性能提升
  • 35.5%–54.7% token 减少
  • 1.8x–2.6x 更快的推理
  • 2.7x–3.7x 成本节省

论文自身的评估部分在 arxiv.org/html/2610.18861v1#S5。

在哪里找到代码、模型和数据

一位 Hacker News 评论者将发布链接集中在一处：代码在 github.com/togethercomputer/HybridAgent，模型和数据在 togethercomputer 组织下的 Hugging Face 集合中，评估在论文 HTML 版本的第 5 节。第一作者还在 X 上发布了公告帖子，地址为 x.com/Jiaru_Zou/status/2110400256647340476。

Hacker News 讨论：可监控性是房间里的大象

线程中最实质性的批评涉及对齐和可解释性。论点是潜在推理移除了实验室目前依赖的思维链文本，用于监控模型行为。

一位评论者详细阐述了这一观点：“各实验室的共识是，CoT 可监控性是对齐的核心工具。当然，它并不完美（模型可能表现出欺骗性的 CoT）。但鉴于机械可解释性如此困难，这是我们最好的工具。”该评论者还指出，论文允许通过将潜在轨迹投影到附近的 token 来读取，但认为这是有损的：“你丢失了完整向量中的大量信息，且无法解释。你只是在读取某种近似值。”他们的核心抱怨是论文“根本没有真正参与这一讨论”。

一条相关评论将这项工作描述为对先前限制的刻意突破：“这在 AI 圈子里不是明确禁忌吗？使用潜在空间进行思考是一个明显的想法，早已为人所知。前沿实验室和整个研究界由于可解释性和对齐问题而避免在这一方向上展开军备竞赛。”

另一位评论者将其与早期的循环工作进行了比较：“在安全和对齐方面，这与循环或增加深度有何不同？”另一条评论询问在发出思维 token 之前运行多次传递是否会“增加它们进行欺骗的能力”。

并非所有线程中的人都认为安全框架具有决定性。一位评论者简单地写道：“这是正确的方向。但我们现在也需要新的工具和技术来审计意图。我们最不希望的是模型‘为了我们好’而对我们反戈一击。”另一位评论者观察到，潜在推理意味着“欢迎思维 token，再见可观察性”——这是一种权衡，而不是否定。

“最禁忌的技术”

几位评论者将潜在推理的想法视为已知但被回避的研究方向。一位写道：“哦，酷，这是最禁忌的技术”，另一位引用了经典小说《不要构建禁忌技术》中的一句话：“来自经典小说《不要构建禁忌技术》的禁忌技术。”这个玩笑反映了线程中的一个真实观察：潜在推理是思维链模型工作的明显扩展，而它未被广泛追求的原因是上述可监控性问题。

实践报告：发布的模型在本地推理中循环

两位评论者报告称，发布的 HybridAgent 权重在消费者工具上实践中失败。

一位使用 llama.cpp 以 bartowski 的 8 位量化运行了 14B 模型：“在一个相当简单的聊天请求（其他类似大小的模型，如 Gemma 4 12B，可以毫无问题地处理，例如网络搜索和数据摘要任务）的响应中，它围绕同一段落的变体循环了五分钟，直到用尽回合预算。”同一位评论者随后测试了 BF16 版本并报告称“BF16 中也有同样的循环。所以，可能得等 llama.cpp 更新。”他们还指出，尽管提示要求 CSV 输出，模型在推理阶段“将数据放入了 Markdown 表格”。

第二位评论者用问题“谁是教皇？”测试了 8B 模型的 IQ4_XS GGUF 构建，并报告了一个无界重复循环：

好的，用户问的是谁是教皇。教皇是天主教会的领袖。现任教皇是方济各，他在本笃十六世辞职后于 2013 年成为教皇。此后没有变化迹象，所以答案是方济各。好的，用户问的是谁是教皇……

该评论者还给了模型一个假币称重谜题，报告称它无法解决，同时补充说“似乎也没有 8B 模型能解决它”。

这些是特定量化和运行时上的个别用户报告，不是论文的结果。论文本身报告了三个模型规模上的强劲基准数据。

线程中提出的架构问题

几位评论者探讨了摘要未完全回答的设计选择。

为什么只从最后一层循环？ 一位评论者问道：“如果模型能猜到回答该问题所需的变换更好地存在于第 6 层，而你在 128 层中的第 15 层呢？”

为什么不在生成文本时同时进行潜在推理？ 另一位建议加宽输入嵌入，同时接受 HybridLink 后的潜在向量和 token 嵌入，这样即使在文本模式下模型也能进行潜在推理：“毕竟，你在生成文本时支付了运行潜在模式模型的几乎全部成本，为什么不让它同时进行潜在推理呢？”他们还指出可以简单地将向量相加，因为“每个人似乎都能通过简单地将向量加在一起获得好结果。”

潜在的推理如何变成文本？ 一位评论者直接问道：“它如何将潜在推理转换成人类可读的文本？”

与循环 transformer 相比如何？ 一位评论者问 HybridAgent 与“Astra 的循环 transformer”有何不同，后者也在潜在空间中推理。提供的线程中没有答案。

模型选择和可重复性投诉

一位评论者希望这项工作能在更新的基础模型上完成：“我希望他们是在 Qwen3.5 上做的，因为他们增强的 Qwen3 8B 仍然比 Qwen3.5 9B 差得多。”另一位希望看到该方法应用于 27B 模型，其推理输出“往往包含大量复述，我猜这在这种混合推理中更可能被保留在潜在空间”。

另一条评论指出评估集引用了较旧的模型，称“听到其中一些名字非常怀旧”。

对“推理”一词的哲学反对

线程中反复出现的主题是对潜在计算是否应被称为思考的分歧。一位评论者认为 LLM 只是“产生 logits 的巨大神经网络。没有思考。它是一个函数，接受约 50 万字，并基于这些概率返回一些词。”另一位写道“随机过程无法推理，这不是它们的工作方式。输出可能看起来像有推理能力的响应，但那甚至不是合成推理。”

其他评论者对底层想法持相反观点。一位指出“没有理由假设用词思考是正确的粒度，或者会保持正确的粒度。”另一位观察到静默思考会改变可思考的内容：“如果我大声思考，那很可能影响我思考什么或如何思考。静默思考让我能有各种可能听起来或看起来不恰当的想法。”进一步的评论建议潜在记忆可以提高一致性：“模型在生成文本时能够在记忆中保留潜在空间想法的想法，实际上可能有助于解决文本生成过程中‘心智模型’不一致的问题。”

术语：智能体是会思考的东西吗？

一位评论者反对论文将智能体框定为推理实体：“我注意到一种趋势，即思考和推理被从模型转移到智能体……我认为最好将智能体保留为纯粹的智能体，与 LLM 分开。智能体不思考或推理。智能体帮助行动。LLM 才是思考和推理的。”

线程未解决的开问题

Hacker News 讨论提出了几个摘要未解决的问题：

  • 潜在推理轨迹是否真正可检查，还是只能通过有损投影到附近 token 来检查。
  • 当基础模型比论文中使用的模型更新时，报告的 10.4% 性能提升是否成立。
  • 两位用户报告的循环失败是 llama.cpp 兼容性问题、量化伪影还是混合生成过程本身的特性。两位用户中的一位测试了 BF16 仍然看到循环，这削弱了量化的解释，但不能排除运行时问题。
  • HybridAgent 与先前的潜在推理架构（如循环 transformer）的关系如何。
  • 相对于文本思维链，潜在推理是否应被视为可监控性退步，以及哪些审计工具将取代丢失的文本痕迹。

Sources

相关