美国政府禁止外国访问 Anthropic Fable 和 Mythos 模型

美国政府停止外国访问 Anthropic 的顶级 AI 模型

特朗普政府已禁止外国政府、公司和个人访问 Anthropic 最强大的 AI 模型，包括 Fable 5 和 Mythos。这一决定是在有报告称 Amazon 的研究人员能够使用特定的提示词从 Fable 5 中提取信息，而这些信息可能会促进网络攻击——这些信息本应受到模型安全护栏的限制。

Amazon 在此次打击行动中的角色

Amazon CEO Andy Jassy 与包括财政部长 Scott Bessent、国家网络主任 Sean Cairncross 和商务部长 Howard Lutnick 在内的美国高级官员之间的对话，引发了政府的反应。Jassy 告知官员们，Amazon 研究人员已成功通过提示词引导 Fable 5 提供对网络攻击有用的违禁信息。

尽管 Amazon 是 Anthropic 的重要投资者（持有该公司 5% 以上的股份）且是关键计算芯片的提供商，但 Jassy 的报告导致白宫得出结论，减轻安全风险最直接的方法是阻止外国访问这些工具。

Anthropic 的回应与运营影响

为了确保完全符合政府的指令，Anthropic 采取了切断 所有用户 对 Mythos 和 Fable 访问权限的激进措施。这一行动立即带来了若干挑战：

• 研究障碍： Anthropic 表示，其自身的许多研究人员也是外国出生的，这意味着政府的规定实际上阻止了他们从事最新模型的研发工作。
• 全球漏洞研究： 停用可能会阻碍全球公司使用这些工具来识别和修复软件漏洞的能力。
• 市场地位： 分析师认为，关闭顶级模型可能会削弱 Anthropic 在准备今年秋季可能进行的首次公开募股 (IPO) 时的地位，从而可能将用户推向 OpenAI 等竞争对手。

关于模型安全性的技术辩论

关于 Fable 5 是否代表独特的安全威胁，存在显著分歧。Anthropic 和一些独立安全研究人员认为，Amazon 标记的漏洞是基础性的，且其他公开可用的 LLM 也能进行类似的发现。

GreyNoise Intelligence 的创始人 Andrew Morris 指出，虽然 Fable 5 可以识别软件程序中的安全漏洞，但没有证据表明 Amazon 研究人员绕过了保护模型生成可用“漏洞利用”代码能力的护栏。

政治与监管背景

一些人将此次打击行动视为政府对 AI 行业加强控制的大趋势的一部分。此举紧随近期一项赋予安全官员对 AI 模型更多监督权的行政命令之后，并伴随着关于政府入股 AI 公司的持续讨论。

批评者和观察者强调了几个潜在的紧张关系：

• 政治摩擦： 由于 Anthropic 与自由派捐赠者的联系以及 CEO Dario Amodei 此前对政府的批评，Anthropic 与特朗普政府之间一直存在摩擦。
• 安全认定： 五角大楼此前已将 Anthropic 列为安全风险，该公司目前正通过两起诉讼对此进行抗辩。
• 控制权集中化： R Street Institute 的 Adam Thierer 将此事件描述为“AI 政治化和先进计算控制权集中化的显著升级”。

社区观点与分析

Hacker News 上的行业观察者和用户提出了关于禁令动机的几种反驳观点和理论：

"I still am struggling to understand why they informed the government about something that is known to be an issue in every LLM. There is no LLM that cannot be jailbroken... what was the reason to tell the government now?"

一些用户推测，此举可能是试图压制 xAI 的竞争对手，或者是政府利用 Amazon 作为代理来“敲诈” Anthropic 的结果。其他人则指出，供应商 (Amazon) 向政府举报其合作伙伴 (Anthropic) 的讽刺之处，而也有人认为 Amazon 的行为仅仅是由于其作为云服务提供商，需要服务于对高安全性标准有要求的公共部门客户的角色所致。