Tencent Hy3 模型概览
Tencent Hy3 Model Overview
Executive Summary
腾讯已发布 Hy3 的完整版本,这是一款混合专家 (MoE) 模型,旨在中端前沿模型领域进行竞争。Hy3 专门针对智能体任务 (agentic tasks)、工具使用和本地部署进行了优化,定位为比 GLM 5.2 等大型模型更具硬件效率的替代方案,同时在推理和减少幻觉方面保持高性能。
Model Architecture and Specifications
Hy3 被构建为一个大规模混合专家模型,重点在于平衡性能与效率。
- Parameter Count: 295 billion total parameters.
- Active Parameters: 21 billion active parameters per token.
- Speculative Decoding: Includes a 3.8 billion parameter speculative decoding model to increase inference speed.
- Context Window: 256K tokens.
Performance and Benchmarks
Hy3 被定位为“中端”模型,目标是填补小型本地模型与大规模专有前沿模型之间的空白。
Agentic Tasks and Tool Use
Hy3 在智能体工作流中表现出色,特别是在工具调用 (tool calling) 和输出格式化方面。在测试中,该模型展示了极高的熟练度:
- Repeated Tool Calls: 成功处理多个连续的工具调用。
- Pagination: 在十二种不同的工具中管理长期的分页操作。
- Error Recovery: 通过在工具调用返回错误时尝试重试而非放弃,展示了韧性。
- Noise Filtering: 从 API 响应中识别相关信息,而不被无关数据干扰。
Comparison with GLM 5.2
虽然 Hy3 功能强大,但其目的并非取代所有高端模型。具体而言,GLM 5.2 在智能体编程任务中通常优于 Hy3。然而,Hy3 的规模显著更小 (well over half the size of GLM 5.2),使其在本地托管和在私有硬件上进行微调变得更加可行,而无需需要大规模的 B200 GPU 集群。
Reliability and Hallucinations
腾讯重点关注了训练后处理和数据清洗,以提高可靠性。与预览版相比,完整版的 Hy3 模型将常识性错误率和幻觉率都降低了一半。
Capabilities and Testing Results
Reasoning and Chain-of-Thought
Hy3 利用了长思维链 (CoT) 过程。在逻辑谜题测试中,该模型生成了大量的“思考” token,以在得出结论之前验证其步骤。这种内部推理的质量被认为很高,可能超过了一些其他的开源模型。
Creative and Technical Generation
- SVG Generation: 该模型可以生成复杂的 SVG 代码,例如在自行车上的详细鹈鹕,显示出比预览版有了显著的改进。
- HTML/CSS: Hy3 能够生成精美的、功能齐全的网站布局,包括注册表单和集成图像。
- Long-form Content: 在一项 5,000 字的文章测试中,该模型生成了一个结构化的提纲 (作为智能体规划步骤),并生成了大约 2,500 到 3,000 字,并指出了其在单块生成方面的限制。
Deployment and Accessibility
Hy3 目前可以通过 OpenRouter 进行测试。由于其规模和架构,它被视为那些希望拥有完全封闭、本地化的模型,并希望在可控硬件上针对特定企业用例进行微调的公司的一个强力候选方案。