Moonshot AI Kimi K3.1 Pro 模型发布
Kimi K3.1 Pro 概览
Moonshot AI 发布了 Kimi K3.1 Pro,这是一个开放权重、原生多模态的智能体模型。作为 K3.1 系列的旗舰产品,它是一个 2.8T 参数的混合专家(MoE)模型,基于 Kimi K3 通过大规模联合强化学习进行后训练。该模型专为高性能任务设计,包括编程、3D 创作和金融研究,并支持 100 万 token 的上下文窗口。
技术架构
Kimi K3.1 Pro 采用了复杂的 MoE 架构,以平衡容量与推理效率。关键规格包括:
- 参数: 总参数 2.8T,激活参数 104B。
- 注意力机制: 结合了 KDA(Kimi Deep Attention)和 Gated DeepSeek Sparse Attention(Gated DSA)以优化长上下文建模。
- 视觉: 集成了 MoonViT-V2 视觉编码器(401M 参数)。
- 量化: 使用 MXFP4 权重和 MXFP8 激活进行训练,以实现高效部署。
- 专家路由: 共有 896 个专家,每个 token 选择 16 个专家。
性能与基准测试
Kimi K3.1 Pro 在与 Claude Opus 5.5 和 GPT-6 Astra 等前沿模型的竞争中表现出色,尤其是在智能体和编程基准测试中。该模型在内部评估中显示出强大的减少幻觉和复杂推理能力。然而,社区讨论中关于“基准测试”策略存在争议,一些观察者指出,根据所使用的具体测试框架和推理努力设置,性能可能会有显著差异。
部署与可访问性
虽然模型权重已开放,但 2.8T 参数的巨大规模对本地执行提出了显著的硬件要求。目前,该模型已获得包括 vLLM、SGLang 和 TokenSpeed 在内的主要推理引擎支持。第三方推理提供商也已开始托管该模型,相比直接使用 API 可能提供成本效益。
社区观点
开发者对在本地运行如此大规模模型的实际可行性反应不一。社区评论包括:
“即使你无法在家运行这个模型,这仍然是推理商品化和多样化以及打破权力集中的一步。能够用 100 万美元的 GPU 资本来服务一个前沿级模型,而不是花费多年和数十亿美元的投资进行训练和研究,这是一个巨大的差异。”
其他人则指出了竞争格局,认为虽然该模型能力很强,但面临来自其他近期发布的模型的激烈竞争。一些用户表示有兴趣看到该模型的“去限制”版本,以绕过专有前沿模型中常见的限制性护栏。
总结
Moonshot AI 发布了 Kimi K3.1 Pro,这是一个 2.8T 参数的开放权重多模态智能体模型,具有 100 万 token 的上下文窗口和先进的推理能力。