Moonshot AI Kimi K3.1 Pro 模型发布

概述

Moonshot AI 发布了 Kimi K3.1 Pro,这是一款拥有 2.8 万亿参数、原生多模态且专为智能体任务设计的模型。作为 K3.1 系列的首个成员,它具备 100 万 token 的上下文窗口,并利用混合专家(MoE)架构来提升在编程、3D 创作和金融研究方面的表现。

技术架构

Kimi K3.1 Pro 基于庞大的 MoE 架构构建,总参数量达 2.8 万亿,每个 token 激活 1040 亿参数。该模型包含 896 个专家,每个 token 选择 16 个专家,并使用了两个共享专家。关键架构规格包括:

  • 注意力机制: 采用混合方法,使用 69 层 KDA (Kimi Deep Attention) 和 24 层 Gated DSA (DeepSeek Sparse Attention),取代了之前版本中的全注意力 Gated MLA 层,以实现更好的长上下文效率。
  • 视觉编码器: MoonViT-V2,拥有 4.01 亿参数。
  • 量化: 该模型使用量化感知训练,权重采用 MXFP4,激活值采用 MXFP8。
  • 上下文窗口: 原生支持 1,048,576 个 token。

性能与基准测试

Moonshot AI 报告称,Kimi K3.1 Pro 在编程和智能体基准测试中表现出极强的竞争力。在内部评估中,该模型在 Terminal-Bench 4.0 (65.7) 和 SWE Marathon v1.1 (51.7) 等任务中表现出色。该模型专门针对推理进行了优化,并提供了一个可配置的 reasoning_effort 参数(low、high、max)。

社区反响与部署

尽管此次发布被视为迈向顶尖模型商品化的重要一步,但社区也指出了本地运行该模型所需的巨大硬件要求。

硬件与可访问性

鉴于 2.8 万亿的参数规模,对于大多数用户而言,在本地运行该模型并不现实,因为它需要高端的企业级硬件。不过,该模型已被集成到第三方推理提供商中,这可能会降低开发者的准入门槛。正如社区成员所指出的:

"即使你无法在家里运行它,这仍然是迈向推理商品化与多样化、打破权力集中化的一步。能够用 100 万美元的 GPU 资本来服务一个顶尖模型,而不是投入数十亿美元进行多年的训练与研究,这是一个巨大的差异。" — @handle

基准测试的疑虑

一些观察者对该模型的性能指标提出了质疑,认为其结果可能是“刷榜”所得——即专门针对在既定测试中获得高分而进行了优化。然而,其他人则报告了积极的实际使用体验,指出该模型是复杂编程工作流中替代现有专有模型的一种可行且具有成本效益的选择。

可用性

该模型可通过 Moonshot AI 平台获取,并支持与 OpenAI/Anthropic 兼容的 API。建议配合 vLLM、SGLang 和 TokenSpeed 等推理引擎使用。完整的文档和快速入门指南可在 Moonshot AI 官方平台获取。

Sources

相关