OpenAI 和 Anthropic 反对中国开放权重 AI 模型的游说
OpenAI 和 Anthropic 反对中国开放权重 AI 模型的游说
闭源模型实验室联合反对开放权重竞争
OpenAI 和 Anthropic 正在协调努力,警告美国政策制定者关于来自中国的强大开放权重 AI 模型所带来的风险。虽然这两家公司在市场份额上激烈竞争,但它们在敦促美国政府审查开放权重模型方面找到了共同点,认为此类模型更难以保障安全且更容易被滥用,因为它们的权重一旦发布就无法撤销或更新。
这种联盟使得领先的美国 AI 实验室与一个由研究人员、初创公司和开放模型倡导者组成的联盟对立,后者认为广泛获取 AI 权重对于科学进步和市场竞争至关重要。
关于“蒸馏”和知识产权盗窃的争论
争议的主要点在于“蒸馏”过程,其中一个模型通过使用另一家公司模型的输出进行训练。OpenAI 和几位特朗普政府官员警告称,中国实体正在使用蒸馏以降低成本开发可比的系统,美国贸易代表将此描述为一种知识产权(IP)盗窃形式。
财政部长 Scott Bessent 表示,中国模型将在即将进行的审查中被持以与美国模型相同的标准。然而,倡导者警告称,将蒸馏视为知识产权盗窃可能导致对所有开放权重模型的事实上的限制,包括在美国独立开发的模型。
各州层面监管的不同方法
尽管它们在国家层面的目标一致,OpenAI 和 Anthropic 在州级安全立法的具体细节上存在分歧。在马萨诸塞州,这两家公司支持了前沿安全法案的不同版本:
- Anthropic 的支持: 支持一种版本,该版本要求每六个月进行一次独立模型测试以评估灾难性风险,公开报告发现,并授予州总检察长起诉不合规行为并施加民事处罚的权力。
- OpenAI 的支持: 支持一种版本,该版本省略了这些严格的测试要求和执行机制。
社区视角与批判性分析
技术社区的讨论表明,对闭源模型实验室所作的安全声明存在深度怀疑,许多人认为此举是一种战略性尝试,旨在巩固垄断。
监管捕获与市场控制
批评者认为,推动监管更多是关于“监管捕获”而非安全,即规则的设计旨在让较小的竞争者发布开放权重模型在法律或财务上变得禁止性昂贵或充满风险。
"这些公司从未真正关心确保 AI 安全、监管,或确保其造福全人类。这始终一直是关于控制和他们的利润率。"
一些观察者将当前格局与操作系统战争的早期阶段进行比较,认为开放权重模型正在扮演 Linux 的角色,对抗 OpenAI 和 Anthropic 的专有“Windows”。
对研究和创新的影响
研究人员警告,限制对中国开放权重模型的访问将严重阻碍科学发现。由于开放权重模型相比封闭 API 可以更自由地进行修改和研究,它们提供了故障排除和学术研究所必需的透明度水平。
“合理使用”的反论点
一些行业分析师认为,美国应朝相反方向发展——合法化蒸馏并澄清对数据的训练属于合理使用。他们指出,通过限制美国开放权重模型制作者使用前沿实验室的输出,美国实际上是在推动开发者转向可能更宽松的中国替代方案。
"因为美国的开放权重模型制作者必须遵守前沿实验室的服务条款,他们(1)不如中国替代方案好,(2)最终会进行蒸馏的蒸馏,只是绕道通过中国实验室。"
关键摩擦点摘要
| 问题 | 闭源模型立场(OpenAI/Anthropic) | 开放权重立场(研究者/初创公司) |
|---|---|---|
| 安全 | 开放权重允许不可撤销的滥用且缺乏防护措施。 | 开放权重允许透明审计和社区驱动的安全。 |
| 蒸馏 | 一种知识产权盗窃形式和不公平的竞争优势。 | 创新和效率的标准方法。 |
| 监管 | 管理灾难性风险和国家安全所必需。 | 用于监管捕获以保护既得利益者的工具。 |
| 访问 | 访问应通过国家框架进行管理。 | 开放访问对科学发现和多样化至关重要。 |
摘要: OpenAI 和 Anthropic 正在统一立场,警告美国政策制定者关于强大的中国开放权重 AI 模型的风险,批评者认为这是一种试图通过监管捕获来保护其闭源模型业务利益的尝试。