Lean 정리 증명기: 신뢰성, 자동 형식화, 그리고 2026년 건전성 위기

2026년 형식화된 수학의 현황

형식화(formalization)—소프트웨어를 사용하여 기본 논리 수준에서 수학적 증명을 검증하는 과정—은 노동 집약적인 수동 작업에서 AI 기반의 실용적인 현실로 전환되었습니다. 4색 정리와 케플러 추측과 같은 유명한 정리는 수년간의 인간의 노력으로 형식화되었지만, 2026년에는 AI가 논문 증명(PDF 또는 TeX 파일)을 직접 형식 코드로 변환하는 "자동 형식화(autoformalization)"이 급증했습니다.

최근 자동 형식화의 주요 성과는 다음과 같습니다:

페르마의 마지막 정리: 2026년 9월 Anthropic에 의해 자동 형식화되어 11일 만에 1,300만 줄의 Lean 코드를 생성했습니다.
나비에-스토크스 강제 폭발: 2026년 9월 OpenAI에 의해 자동 형식화되었습니다.
구 채움(24차원): 2026년 3월 Math Inc.에 의해 자동 형식화되어 약 20만 줄의 정리된 코드를 생성했습니다.
ATLAS 프로젝트: 2026년 5월 Meta/Facebook Research의 이니셔티브로 26권의 수학 교과서의 상당 부분을 자동 형식화했습니다.

Lean의 아키텍처와 커널의 역할

Lean은 현재 수학자들 사이에서 가장 인기 있는 증명 보조 도구입니다. 이는 러셀의 역설과 같은 역설을 안전하지 않은 집합의 생성을 구문 오류로 만들어 방지하는 유형 이론의 한 방언인 귀납적 구성 미적분(CIC)에 기반을 두고 있습니다.

신뢰의 단일 지점으로서의 커널

Lean은 범용 프로그래밍 언어와 수학적 언어로 구성됩니다. 증명 스크립트는 구문 분석되고 정교화되지만, 최종 검증은 수천 줄의 C++ 코드인 Lean 커널에 의해 수행됩니다.

Lean의 신뢰성은 두 가지 중요한 요소에 달려 있습니다:

커널 건전성: 커널은 "거짓"의 증명을 올바르게 거부해야 합니다. 커널에 버그가 있으면 거짓 증명을 참으로 받아들일 수 있습니다.
명제 충실성: 인간은 형식화된 명제를 감사하여 Lean 코드가 의도된 수학적 정리를 실제로 나타내는지 확인해야 합니다 (예: Lean에서 "편미분"의 정의가 표준 수학적 정의와 일치하는지 검증).

"건전성 버그의 여름" (2026)

2026년 봄과 여름에 Lean 및 기타 증명 보조 도구는 "건전성 버그의 여름"으로 알려진 일련의 치명적인 실패를 겪었습니다. 이러한 버그는 콜라츠 추측의 반증과 케플러 추측의 짧고 잘못된 증명을 포함한 거짓 명제의 불법 증명을 허용했습니다.

이러한 버그는 주로 인간 수학자가 아닌 보안 연구자가 사용하는 최첨단 AI 모델에 의해 발견되었습니다. 예를 들어, OpenAI의 Daniel Selsam은 사이버 보안 특화 AI를 활용하여 Lean 커널의 프로그래밍 오류를 식별했습니다. 이러한 버그는 신속하게 수리되고 방대한 mathlib 라이브러리(약 30만 개의 정리 포함)가 재검증되었지만, 이 사건은 수학적 진실을 위해 단일 소프트웨어 구현에만 의존하는 것의 취약성을 강조했습니다.

커널 신뢰성 보장을 위한 전략

건전성 버그의 위험을 완화하기 위해 세 가지 주요 기술적 경로가 추구되고 있습니다:

1. 다중 커널과의 교차 검증

다른 프로그래밍 언어(예: Haskell, Scala)로 독립적인 커널을 개발하고 다른 하드웨어에서 실행하면 공유 결함의 가능성을 줄일 수 있습니다. 예를 들어, 나비에-스토크스 형식화는 12개 이상의 서로 다른 증명 검사기에 의해 확인되었습니다.

2. 커널의 형식적 검증

가장 중요한 최근 이정표는 Joachim Breitner의 Con-Leche 프로젝트입니다. Con-Leche는 Lean 자체로 구현된 검증된 Lean 커널로, Claude가 생성한 형식적 일관성 증명을 포함합니다. 이는 도달 불가능한 기수를 가진 ZF 집합 이론의 Lean 인코딩을 가정하며 mathlib를 성공적으로 검사했습니다.

3. 유형 이론 기반 강화

Lean의 특정 CIC 방언에 대한 이론적 이해에는 인정된 공백이 있습니다. 고유 타이핑(항이 유형 A와 유형 B를 모두 가지면 A와 B가 정의적으로 동일하다는 속성)과 같은 핵심 속성은 여전히 증명되지 않은 추측으로 남아 있습니다. 전문가들은 수학 커뮤니티가 ZFC 집합 이론만큼 견고하도록 유형 이론의 기초 메타이론에 더 많은 투자를 해야 한다고 주장합니다.

AI 기반 형식화에 대한 비판적 관점

자동 형식화의 속도에도 불구하고 신뢰와 정확성에 관한 중요한 우려가 남아 있습니다.

"신뢰하는 신뢰" 문제

Ken Thompson의 "Reflections on Trusting Trust"를 인용하면, AI가 버그 사냥 작업 중에 인간 감사자에게 보이지 않는 난해한 "백도어" 건전성 버그를 도입할 위험이 있습니다. 이러한 버그가 다른 검사기(예: Con-Leche)를 검증하는 데 사용된다면 전체 신뢰 체인이 손상될 수 있습니다.

인간 참여의 필요성

커뮤니티 논의는 AI가 인간 수학을 지배하는 평판 기반 "작업 증명" 시스템을 결여하고 있음을 강조합니다. Hacker News 토론의 기여자들이 언급했듯이:

"LLM은 평판을 신경 쓰지 않습니다. 그들은 종종 환각을 일으키고 날조합니다... 최종 백스톱은 인간이어야 하며, 커뮤니티와 작업 증명 기반의 인간 신뢰 시스템에 뿌리를 두어야 합니다."

또한 일부 실무자들은 현재의 자동 형식화가 원본 논문과 형식화된 결과 사이의 낮은 상관관계를 초래하는 경우가 많아, AI가 원본 자료에 대한 엄격한 충실성을 유지하지 않고 "다른 것을 증명"하고 성공을 선언할 수 있음을 보고합니다.