수학적 종말(Mathocalypse): OpenAI, 372개의 오랜 수학 난제 해결

OpenAI의 수학적 돌파구

OpenAI는 수십 년간 미해결 상태였던 문제들을 포함하여, 고유 게임 추측(Unique Games Conjecture, UGC) 증명을 비롯한 372개의 주요 수학적 성과를 발표했습니다. "수학적 종말(Mathocalypse)"이라 불리는 이 사건은 AI 모델이 과거 인간의 수년간의 노력이 필요했던 복잡하고 오래된 난제들을 해결할 수 있게 된 수학적 발견의 중대한 전환점을 의미합니다.

주요 수학적 성과

372개의 결과 중 이론 컴퓨터 과학 및 수리 물리학 분야의 주목받는 추측과 문제들이 해결되었습니다:

고유 게임 추측(UGC): 복잡도 이론의 핵심 명제로, 많은 최적화 문제가 반정부호 계획법 완화보다 약간 더 나은 근사치에 대해서도 NP-난해(NP-hard)임을 시사합니다.
L=BPL: 확률적 로그 공간과 결정론적 로그 공간이 동일하다는 증명으로, 주요 탈무작위화 추측을 해결했습니다.
계산 복잡도: 푸리에 변환 및 정수 곱셈에 대한 O(n log n) 장벽을 깨고, 약 O(n log 0.9999999999999 n)의 실행 시간을 달성했습니다.
유니터리 합성 문제: 모든 n-큐비트 유니터리 변환 U에 대해, A에 접근할 수 있는 양자 다항 시간 내에 U를 구현할 수 있는 고전적 오라클 A가 존재함을 증명하는 긍정적인 해결책입니다.
양자 복잡도: Parity가 QAC0에 속하지 않는다는 증명과 전체 불리언 함수에 대한 무작위 및 양자 쿼리 복잡도 간의 거의 4제곱에 가까운 분리 증명입니다.
행렬 곱셈: O(n 9/4) 시간에 행렬 곱셈을 달성하는 새로운 접근 방식입니다.
계산 가능성 이론: 유리수 위에서 다항 방정식을 푸는 것이 계산 불가능함을 증명하여, 계산 가능성 이론의 주요 난제를 해결했습니다.
밀레니엄 문제: 리만 가설, 호지 추측, 버치-스위너턴-다이어 추측에 대한 부분적인 진전입니다.

AI 증명의 "외계적" 특성

이러한 결과 중 다수는 기계적 검증을 위한 Lean 인증서와 함께 제공되지만, 자연어 증명은 인간이 이해하기 거의 불가능한 수준으로 묘사됩니다. 복잡도 이론가 Dana Moshkovitz는 이 증명들이 "환각제를 복용한 사람이 쓴 것 같다"고 언급하며, 기괴한 재귀적 구성과 기존 인간의 수학적 기법과는 전혀 닮지 않은 노이즈 테스트를 포함한 완전히 새로운 코드를 인용했습니다.

기본적으로 이 논문은 너무 끔찍하게 작성되어 AI의 도움 없이는 읽는 것이 불가능합니다 — @handle

이는 인간이 AI가 생성한 증명을 이해하고 설명하기 위해 AI를 사용해야 하는 새로운 역학 관계를 만들어내며, 수학자의 역할을 일차적인 발견자에서 "외계적" 논리의 해석자로 효과적으로 변화시키고 있습니다.

AI 소통 모델 비교

AI 수학적 돌파구를 소통하는 두 가지 뚜렷한 접근 방식이 등장했습니다:

OpenAI 모델: 가공되지 않은 원시 증명과 Lean 인증서를 전 세계에 공개하여, 인간들이 복잡한 AI 결과물을 이해하고 설명하기 위한 경쟁을 유도합니다.
Anthropic 모델: 인간 수학자들(예: Virginia Williams 및 Josh Alman)과 협력하여 보상을 대가로 결과물(예: 3SUM 및 모든 쌍 최단 경로 문제)을 인간이 읽을 수 있는 형태로 가공합니다.

모델 역량 및 효율성

이 결과들은 맞춤형 에이전트 시스템이 아닌 OpenAI의 최신 내부 모델에 의해 생성되었습니다. 모델은 문제당 평균 약 3시간의 연산 시간을 사용했습니다. 성공률은 약 5%로, 모델은 3시간의 단일 시도 후 8,000개의 시도된 오랜 난제 중 372개를 해결했습니다.

비판적 관점 및 검증 위험

Lean이 제공하는 기계적 검증에도 불구하고, 일부 연구자들은 자연어에서 형식 언어로의 번역 타당성에 대해 우려를 표합니다. 토론에서 인용된 한 논문은 자동 형식화(autoformalization)—자연어 증명을 Lean으로 번역하는 과정—가 의미론적으로 충실하지 않을 수 있으며, 이로 인해 자연어 증명과 Lean 검증 간의 불일치가 발생할 가능성이 있다고 제안합니다.

또한, 일부 비판가들은 5%의 성공률이 모델 역량의 한계를 나타낸다고 주장하는 반면, 다른 이들은 오랜 수학적 난제를 해결하는 비용—API 가격 기준으로 솔루션당 약 $810에서 $8,100로 추정—이 달성된 수학적 진보의 가치에 비해 놀라울 정도로 낮다고 제안합니다.