Google DeepMind AlphaProof Code 正式验证 Signal 协议实现
Google DeepMind 推出了 AlphaProof Code，这是一个多 LLM 代理框架，结合了人类专业知识与 AI 代理，用于对复杂软件进行形式化验证。在其首次重大演示中，该框架生成了经机器检查的 Lean 证明，证实了 Signal 的核心加密代码满足关键安全属性——这是 AI 首次被用于以如此深度对广泛部署的加密协议进行形式化验证，也是首次通过任何方法（无论是否有 AI 参与）对该类协议实现进行形式化验证。
什么是 AlphaProof Code
AlphaProof Code 是一个用于前所未有的深度形式化验证的新型代理框架。它的设计初衷是结合人类专业知识与 AI 代理，而非取代人类判断。
该框架按照研究团队的分工方式拆分了形式化验证工作：人类专家与 AI 合作决定证明什么，而一组 AI 代理则执行证明。在 Signal 项目中，研究人员与多种模型协作，将 Signal 的安全目标转化为形式化数学规范，并由人类专家审查每一项规范。由 Gemini Carbon 驱动的代理随后生成了证明。
Signal 验证的工作原理
Signal 的验证遵循三部分工作流程：规范、代码和证明。研究人员首先将 Signal 的安全目标转化为 Lean 规范，并对每一项规范进行了人工审查。随后，代理证明了编译后的代码满足这些规范，直至设备上运行的确切代码。
证明工作生成了超过 600 万行的 Lean 代码，这是一种用于数学证明代码准确性的计算机语言。Lean 会自动检查生成的证明。代理还审计了证明，并突出了需要人工复核的区域——仅占代码库的 1%。这使得专家能够将精力集中在最需要人类判断的审查环节。
大多数协议验证止步于设计层面。AlphaProof Code 更进一步，证明了编译后的实现满足关键安全属性，例如在设备被临时入侵前后保持消息受保护。现实世界中的漏洞往往隐藏在设计与实现之间的差距中，而弥合这一差距使得证明变得极其复杂。
即使在如此复杂的程度下，验证过程也仅耗时四周。Google DeepMind 表示，此类任务在历史上通常需要专家团队耗时数年才能完成。
为什么 Signal 的成果很重要
加密协议支撑着几乎所有的数字通信，从网上银行到网页浏览。单一的缺陷可能同时暴露数百万人的信息，这就是为什么专家们花费了数十年时间对其进行形式化分析。Signal 的协议保护着 Signal 和 Google Messages 等应用中数十亿次的私人对话。
Signal 首席技术官 Ehren Kret 将这一成果描述为实际保障方面迈出的重要一步：
虽然之前的形式化验证侧重于代码的较小部分，但 Google DeepMind 的方法实现了显著的扩展。使用 AI 代理将实时代码转换为有效的 Lean 定理是一个重大突破。随着 AI 驱动的安全威胁不断增长，对 Signal 协议实现进行严格验证，使我们对代码的隐私保证有了更大的信心。
Google DeepMind 将这项工作定位为一种为企业、政府和关键基础设施提供精英级安全保障，并帮助防御代理驱动的网络威胁的方法。该公司表示，验证 Signal 的核心加密技术为保护其他重要系统（从医疗设备固件到电网软件）奠定了基础。
测试系统是否能捕获真实漏洞
为了确认 AlphaProof Code 能够区分正确代码与有缺陷的代码，Google DeepMind 将两个真实的、先前已修复的漏洞重新引入了 Signal 代码的隔离版本中。在这两种情况下，系统都生成了机器检查证明，表明有缺陷的版本是不安全的。
这种验证非常重要，因为形式化验证只有在既能检测失败又能确认成功时才有用。因此，Signal 的成果基于两个主张：验证后的代码满足指定的安全属性，并且当版本违反这些属性时，框架能够生成经机器检查的证据。
开放工件与后续步骤
Google DeepMind 正在开源其形式化验证工件供社区使用。技术论文标题为“Formal Verification of Signal 4”，可从 Google DeepMind 获取。
该公司表示，扩展这些技术需要持续的研究。结合 CodeMender 等自动化防御代理，形式化验证可以通过创建具有数学证明其保护机制有效性的软件，来帮助对抗现代网络威胁的速度和规模。
AlphaProof Code 不主张的内容
该公告并未声称 AlphaProof Code 取代了人类验证专家，也未声称它可以在没有人类参与的情况下验证任意软件。人类专家审查了每一项形式化规范，代理仅标记了 1% 的代码库供人工审查。Lean 自动检查了生成的证明。
该结果仅针对 Signal 的核心加密代码以及研究人员和 Signal 指定的安全属性。Google DeepMind 将其视为一个里程碑和更广泛验证工作的基础，而非针对所有软件的通用保证。