Google DeepMind AlphaProof Code, Signal 프로토콜 구현을 공식 검증하다

Google DeepMind는 인간의 전문 지식과 AI 에이전트를 결합하여 복잡한 소프트웨어를 공식적으로 검증하는 다중 LLM 에이전트 프레임워크인 AlphaProof Code를 발표했습니다. 이 프레임워크는 첫 번째 주요 시연에서 Signal의 핵심 암호화 코드가 주요 보안 속성을 충족한다는 기계 검증 Lean 증명을 생성했습니다. 이는 AI가 널리 배포된 암호화 프로토콜을 이 정도 깊이로 공식 검증하는 데 사용된 최초의 사례이며, AI 사용 여부와 관계없이 이러한 프로토콜 구현이 공식적으로 검증된 최초의 사례이기도 합니다.

AlphaProof Code란 무엇인가

AlphaProof Code는 전례 없는 깊이의 공식 검증을 위한 새로운 에이전트 프레임워크입니다. 이 프레임워크는 인간의 판단을 대체하는 것이 아니라 인간의 전문 지식과 AI 에이전트를 결합하도록 설계되었습니다.

이 프레임워크는 연구팀이 수행하는 방식과 유사하게 공식 검증을 분할합니다. 인간 전문가가 AI와 협력하여 무엇을 증명할지 결정하고, AI 에이전트 그룹이 증명을 수행합니다. Signal 프로젝트에서 연구원들은 다양한 모델과 협력하여 Signal의 보안 목표를 공식 수학적 사양으로 변환했으며, 인간 전문가가 모든 사양을 검토했습니다. Gemini Carbon 기반의 에이전트가 증명을 생성했습니다.

Signal 검증 작동 방식

Signal 검증은 사양, 코드, 증명이라는 3단계 워크플로우를 따랐습니다. 연구원들은 먼저 Signal의 보안 목표를 Lean 사양으로 변환했으며, 모든 사양에 대해 인간의 검토를 거쳤습니다. 그런 다음 에이전트들은 컴파일된 코드가 장치에서 실행되는 정확한 코드까지 해당 사양을 충족함을 증명했습니다.

증명 작업은 코드의 정확성을 수학적으로 증명하는 컴퓨터 언어인 Lean으로 600만 줄 이상의 코드를 생성했습니다. Lean은 생성된 증명을 자동으로 확인합니다. 또한 에이전트들은 증명을 감사하고 인간이 다시 살펴봐야 할 영역(코드베이스의 1%)을 강조 표시했습니다. 이를 통해 전문가들은 인간의 판단이 가장 중요한 부분에 검토를 집중할 수 있었습니다.

대부분의 프로토콜 검증은 설계 수준에서 멈춥니다. AlphaProof Code는 컴파일된 구현이 장치가 일시적으로 손상되기 전후에 메시지를 보호하는 것과 같은 주요 보안 속성을 충족함을 증명함으로써 한 걸음 더 나아갔습니다. 실제 취약점은 종종 설계와 구현 사이의 간극에 숨어 있으며, 이 간극을 메우는 것이 증명을 훨씬 더 복잡하게 만듭니다.

이러한 복잡성에도 불구하고 검증 프로세스는 단 4주 만에 완료되었습니다. Google DeepMind는 이러한 작업이 역사적으로 전문가 팀에게 수년이 걸렸다고 말합니다.

Signal 결과가 중요한 이유

암호화 프로토콜은 온라인 뱅킹에서 웹 브라우징에 이르기까지 거의 모든 디지털 통신의 기반이 됩니다. 단 하나의 결함으로 수백만 명의 정보가 한꺼번에 노출될 수 있기 때문에 전문가들은 수십 년 동안 이를 공식적으로 분석해 왔습니다. Signal의 프로토콜은 Signal 및 Google Messages와 같은 앱에서 수십억 개의 개인 대화를 보호합니다.

Signal의 CTO인 Ehren Kret은 이 결과를 실질적인 보증을 위한 중요한 단계라고 설명했습니다.

이전의 공식 검증은 코드의 작은 부분에 집중했지만, Google DeepMind의 접근 방식은 상당한 확장을 가능하게 합니다. AI 에이전트를 사용하여 라이브 코드를 유효한 Lean 정리로 변환하는 것은 중요한 돌파구입니다. AI 기반 보안 위협이 증가함에 따라 Signal 프로토콜 구현을 엄격하게 검증함으로써 코드의 개인정보 보호 보장에 대해 더 큰 확신을 가질 수 있게 되었습니다. — @handle

Google DeepMind는 이 작업을 기업, 정부, 중요 인프라에 엘리트 수준의 보안 보증을 제공하고 에이전트 기반 사이버 위협으로부터 방어하는 방법으로 포지셔닝합니다. 이 회사는 Signal의 핵심 암호화를 검증하는 것이 의료 기기 펌웨어에서 전력망 소프트웨어에 이르기까지 다른 중요한 시스템을 보호하기 위한 토대를 마련한다고 말합니다.

시스템이 실제 버그를 포착하는지 테스트

AlphaProof Code가 올바른 코드와 버그가 있는 코드를 구별할 수 있는지 확인하기 위해 Google DeepMind는 이전에 수정된 두 가지 실제 버그를 Signal 코드의 격리된 버전에 다시 도입했습니다. 두 경우 모두 시스템은 버그가 있는 버전이 안전하지 않다는 기계 검증 증명을 생성했습니다.

공식 검증은 성공을 확인하는 것뿐만 아니라 실패를 감지할 수 있을 때만 유용하기 때문에 이러한 검증은 중요합니다. 따라서 Signal의 결과는 검증된 코드가 지정된 보안 속성을 충족하며, 버전이 이를 위반할 경우 프레임워크가 기계 검증 증거를 생성할 수 있다는 두 가지 주장에 근거합니다.

오픈 아티팩트 및 다음 단계

Google DeepMind는 커뮤니티에서 사용할 수 있도록 공식 검증 아티팩트를 오픈 소스로 공개하고 있습니다. 기술 논문 제목은 "Formal Verification of Signal 4"이며 Google DeepMind에서 확인할 수 있습니다.

이 회사는 이러한 기술을 확장하려면 지속적인 연구가 필요하다고 말합니다. CodeMender와 같은 자동화된 방어 에이전트와 결합된 공식 검증은 보호 기능이 작동한다는 수학적 증명을 갖춘 소프트웨어를 생성함으로써 현대 사이버 위협의 속도와 규모에 대응하는 데 도움이 될 수 있습니다.

AlphaProof Code가 주장하지 않는 것

이번 발표는 AlphaProof Code가 인간 검증 전문가를 대체한다거나 인간의 개입 없이 임의의 소프트웨어를 검증할 수 있다고 주장하지 않습니다. 인간 전문가가 모든 공식 사양을 검토했으며, 에이전트는 코드베이스의 1%를 인간 검토용으로 표시했습니다. Lean은 생성된 증명을 자동으로 확인했습니다.

이 결과는 Signal의 핵심 암호화 코드와 연구원 및 Signal이 지정한 보안 속성에 국한됩니다. Google DeepMind는 이를 모든 소프트웨어에 대한 범용 보증이 아닌, 더 광범위한 검증 작업을 위한 이정표이자 토대로 제시합니다.