对中国AI模型的取证分析揭示了Blackwell GPU指纹
一项针对公开发布的AI模型的取证分析发现,模型权重中存在与NVIDIA受出口管制的Blackwell GPU硬件配置相匹配的数值模式。这些发现表明,包括DeepSeek、月之暗面(Moonshot AI)、MiniMax和蚂蚁集团在内的开发者已经获得了此前限制出口到中国的先进计算硬件,并利用这些硬件来初始化,且很可能用于训练其最新的前沿模型。
取证方法:硬件指纹识别
该研究通过分析模型参数(权重)的初始值来识别硬件使用情况。在训练开始前,这些权重使用一种名为Philox的伪随机数生成器(PRNG)进行初始化。由于此过程是确定性的,权重的最终排列取决于特定的硬件配置——具体而言是初始化过程中使用的线程数和流式多处理器(SM)数量。
当PyTorch在GPU上初始化权重时,它会将工作分配到并行线程中。具有特定SM数量的芯片会以独特的模式分配这些线程。通过从发布的模型权重中恢复这些初始值,研究人员可以将模型的“指纹”与不同NVIDIA GPU架构已知的线程布局规范进行匹配。研究发现,虽然这些实验室的旧模型与Hopper级芯片(132个SM)的指纹相匹配,但2026年4月以来的新版本则与Blackwell B200/B300(148个SM)和GB200/GB300(152个SM)芯片的配置相匹配。
主要发现与硬件采用情况
分析确定了来自四家公司的六个带有Blackwell指纹的模型:
- DeepSeek: DeepSeek-V4-Flash 和 DeepSeek-V4-Pro
- Moonshot AI: Kimi K3 和 Kimi K3.1-Pro
- MiniMax: MiniMax-M3
- 蚂蚁集团: Ling-3.1-flash
统计分析表明,这些匹配具有显著性,证据强度范围从20到1,385 sigma不等,远超偶然发生的预期。报告指出,虽然该指纹确凿地识别了用于初始化的硬件,但它强烈暗示同样的硬件也被用于随后的训练运行,这需要每个模型配备1,500到3,500个Blackwell GPU的集群。
局限性与行业背景
需要注意的是,这种取证方法识别的是用于生成初始权重的硬件,而不一定是该硬件的物理位置。正如一些行业观察家所指出的,中国公司可以通过位于不受此类硬件出口管制司法管辖区(如新加坡或马来西亚)的云服务提供商来获取受限算力。这种做法本身并不违反美国的出口法规,因为出口法规侧重于芯片向中国的物理运输。
此外,该报告的批评者指出,这些公司使用Blackwell硬件的情况已在技术文档和GitHub存储库中公开讨论,这表明“指纹”的发现与其说是一个秘密,不如说是对已知行业趋势的技术确认。一些评论者还质疑了“初始化硬件必须与训练硬件相同”的假设,指出实验室可能会在一个系统上初始化模型,而在另一个系统上进行大部分训练工作。
对出口管制的启示
这些发现凸显了在全球化云计算市场中执行高科技出口管制的难度。尽管美国政府试图限制先进AI硬件流向中国公司,但远程租用算力的能力创造了一种“猫鼠游戏”的动态。报告总结称,虽然这并未提供非法走私或具体违反出口管制的证据,但中国前沿实验室广泛使用Blackwell级硬件的情况值得公众和监管机构的高度关注。
Sources
相关
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch