NSA失去对Anthropic的Mythos AI工具的访问权限
因合同争议导致NSA对Mythos的访问被终止
美国国家安全局(NSA)因一项机密合同争议失去了对Mythos的访问权限,Mythos是Anthropic开发的AI工具。白宫和情报官员此前曾尝试达成正式协议,以便让NSA利用Anthropic的技术进行情报分析和新计算机漏洞的检测。
Mythos的能力与安全影响
Mythos被描述为一款高度强大的网络安全和情报工具。报告显示,该模型渗透安全系统的效率显著,有人称Mythos“在数小时内突破了几乎所有我们的机密系统,而不是数周”。
技术讨论表明,该工具的强大之处在于能够处理海量数据,例如来自IDA Pro等工具的反编译输出,以绕过“安全靠隐蔽”的做法。通过大规模分析代码,语言模型能够识别出人类分析员可能遗漏的漏洞。
政府与企业的紧张关系
此争议反映了围绕先进AI模型的控制和分类的更广泛冲突。美国政府将这些模型视为关键的国家安全资产,而Anthropic等私营公司则在安全、商业发布和政府合作之间寻求平衡。
对模型控制的不同视角
人们认为政府和AI实验室在阐述这些技术时存在矛盾:
- 政府立场: 政府将该模型视为供应链风险,同时试图利用《国防生产法案》(DPA)强制获取访问权限。
- Anthropic立场: 该公司将模型描述为具有类似核武器的国家安全影响,但仍坚持其对公众发布是安全的。
社区怀疑与反驳
技术观察者和评论者对完全失去访问表示怀疑,质疑像NSA这样强大的政府机构是否真的会被完全锁定在关键技术之外。
对访问丧失的质疑
有人认为NSA可能已经拥有模型权重或在AI公司内部设有植入,暗示所谓的“失去访问”可能是公关手段或行政失误的结果,而非技术层面的锁定。
对AI驱动漏洞的担忧
除了具体争议之外,人们日益担忧AI模型发现漏洞的速度远快于人类修补的速度。随着多个模型在能力上赶上,保护底层基础设施的时间窗口正在缩小。
对AI营销的批评
一些批评者认为围绕Mythos“危险性”的叙事是一种营销噱头,旨在通过将其工具与NSA的需求关联,提升Anthropic的感知价值和声望。