Google DeepMind AlphaProof Code 发布说明

Google DeepMind 发布了 AlphaProof Code,这是一个旨在对复杂软件进行深度形式化验证的全新智能体框架。通过利用 AI 智能体在 Lean 语言中生成数学证明,该系统成功验证了 Signal 协议的安全性,这项任务过去需要专家团队耗费数年时间,而此次仅用了四周便完成。

大规模形式化验证

形式化验证是使用数学证明来确保软件代码完全符合预期,且不存在特定类别缺陷的过程。传统上,这是一个需要深厚专业知识且极其耗费人力的过程。AlphaProof Code 通过采用类似于研究团队的多智能体系统实现了这一过程的自动化:

  1. 规范定义: 人类专家与 AI 协作定义安全目标,并将其转化为形式化的数学规范。
  2. 证明生成: AI 智能体生成超过六百万行 Lean 代码,以数学方式证明软件实现的准确性。
  3. 验证: 系统使用 Lean 自动检查证明,人类专家仅需审查代码库中最关键的百分之一。

验证 Signal 协议

该项目标志着广泛部署的加密协议首次在实现层面得到形式化验证。研究人员关注的是设备上运行的实际编译代码,而不仅仅是高层设计。这一点意义重大,因为安全漏洞往往存在于理论设计与实际实现之间的差距中。为了验证系统的有效性,团队将两个已知漏洞重新引入到 Signal 代码库的隔离版本中;AlphaProof Code 系统成功生成了机器检查证明,识别出这些版本是不安全的。

行业影响与未来方向

通过对关键基础设施(如医疗设备固件或电网软件)进行严格验证,AlphaProof Code 旨在为抵御现代网络威胁提供更高标准的安全性保障。团队已开源其形式化验证工件,以鼓励社区采用并进一步研究自动化防御机制。

社区观点

围绕此次发布的讨论既有兴奋,也包含对 AI 驱动验证局限性的批判性审视:

  • 验证与规范: 评论者指出,虽然系统可以证明代码符合规范,但它无法发现规范本身的错误。如果初始安全需求存在缺陷,证明只能确认代码符合这些有缺陷的需求。
  • 可信计算基: 一些观察人士指出,对大型规范(包括 ARM 语义)的依赖创建了一个庞大的“可信计算基”,而该基准本身也必须是正确的。
  • 开发未来: 人们越来越倾向于认为手动编码最终可能被视为一种遗留实践,未来的软件开发将依赖于 AI 智能体,它们能够组合经过形式化验证的工具并即时生成证明。

"虽然之前的形式化验证主要集中在代码的较小部分,但 Google DeepMind 的方法实现了显著的扩展。利用 AI 智能体将实时代码转换为有效的 Lean 定理是一项重大突破。" — Ehren Kret, CTO of Signal.

Sources

相关