AI驱动的漏洞发现：网络攻击的新前沿

Google 最近报告了网络安全领域一个令人担忧的趋势：犯罪黑客正在利用人工智能来发现并武器化软件漏洞。这一转变标志着从手动漏洞利用发现向自动化、AI辅助方法的过渡，可能会加速零日漏洞被发现和利用的速度。

这一发展不仅仅是一个技术上的好奇点，更是黑客经济学的一个根本性转变。虽然传统的安全研究需要深厚的专业知识和大量时间，但 AI 模型可以潜在地扫描海量代码以识别预示缺陷的模式，从而大幅缩短漏洞产生与被利用之间的时间间隔。

AI辅助利用的转变

根据 Google 的威胁情报小组（Threat Intelligence Group）的说法，他们“高度确信”AI 模型被用于支持重大软件缺陷的发现和武器化。这表明，寻找复杂漏洞的门槛正在降低，因为攻击者不再需要成为专家级安全研究员才能找到可行的利用程序。

社区的一个关键见解是，黑帽黑客行为是 LLM 的一个特别契合的使用场景。正如一位评论者所指出的：

黑帽黑客行为似乎是这些 LLM 的一个非常契合的使用场景。攻击者只需要成功一次，因此攻击中偶尔出现的错误可能微不足道。

与软件开发不同（在开发中，代码必须始终保持正确才能运行），攻击者只需要找到一个单一的故障点。LLM 固有的“幻觉”或不准确性在攻击性语境下可能阻碍较小，因为攻击者可以简单地通过数千个 AI 生成的假设进行迭代，直到其中一个奏效为止。

军备竞赛：进攻 vs. 防御

AI 驱动攻击的出现提出了一个关键问题：如果“坏人 AI”可以发现缺陷，那么“好人 AI”能否更快地修复它们？理论上的优势在于拥有基础设施和模型的万亿级美元公司。然而，现实情况更为复杂。

Fuzzing 与自动化的角色

一些专家认为，AI 是现有技术（如 fuzzing——通过向程序提供随机数据以寻找崩溃的过程）的进化。虽然 fuzzing 成本低廉且有效，但 AI 更具通用性。然而，有人担心 AI 生成的代码可能“对整体系统行为视而不见”，这可能会将其有效性限制在容易获取的“低垂果实”或特定的、微小的错误上，而不是复杂的、系统级的架构级漏洞。

访问权限差距

目前关于谁能接触到最强大的模型存在着重大争议。有人认为，将高能力模型（如 Anthropic 的 Mythos）的访问权限限制在少数政府机构和公司是徒劳的。这是因为在非限制性司法管辖区（如中国）的国家行为体和黑客很可能能够接触到具有类似能力的无限制模型。

怀疑论与“炒作周期”

并非所有观察者都相信 AI 驱动黑客行为的说法。一些批评者指出，Google 在确定攻击是 AI 辅助的方面缺乏透明度。在无法接触到攻击者的对话记录或查获的硬件的情况下，很难证明某个特定的漏洞是通过 AI 发现的，而不是通过传统的零日研究方法。

此外，人们对于“AI 正被用于为进一步限制开源模型而辩护”这一说法也持有一种日益增长的怀疑态度。人们担心安全会被用作一种“楔子”，用以限制开放权重和本地 LLM 的复杂程度，这反映了过去限制密码学（cypherpunk 技术）的历史斗争。

结论

将 AI 集成到进攻性网络安全工具包中，代表了数字军备竞赛的一次重大升级。虽然自动化补丁和防御性 AI 的前景是令人期待的，但漏洞被加速发现的风险仍然很高。行业现在必须应对 AI 能力与开放、透明的安全研究之必要性之间的交汇，以保护全球软件生态系统。