Tencent-Hunyuan/Hy3

解决的问题

Hy3 旨在提供一种高性能、低成本的大型旗舰模型替代方案。它特别解决了常见的 LLM 失败问题，例如幻觉、不稳定的工具调用格式，以及在长时间多轮对话中丢失意图或上下文的情况。

工作原理

Hy3 是一个 295B 参数的混合专家（MoE）模型，其中活跃参数为 21B。它采用多标记预测（MTP）层以提升效率和性能。该模型通过大规模后训练，使用高质量数据，并联合优化监督微调（SFT）与强化学习（RL），以增强推理能力和可靠性。

适用人群

适用于在编程、前端设计、财务建模、办公工作、游戏开发等领域构建生产力应用的开发者和产品团队，以及需要具备稳定工具调用和长上下文保持能力的模型的用户。

主要亮点

• 高效架构：采用 MoE 设计，活跃参数 21B，支持 256K 上下文长度。
• 生产级可靠性：幻觉率从 12.5% 降低至 5.4%，工具调用稳定性显著提升。
• 智能体能力：在推理和智能体任务中表现优异，尤其在 CI/CD、数据存储和前端开发方面。
• 灵活部署：支持通过 vLLM 和 SGLang 部署，并提供 OpenAI 兼容 API。
• 可调推理模式：提供可调节的推理努力程度（no_think、low、high），以适应不同任务复杂度。