Terence Tao: 인공지능 시대의 수학

증명 부족에서 증명 과잉으로의 전환

Terence Tao는 수학이 20세기 초 기초 위기의 상황과 비교할 수 있는 혼란스러운 시대에 진입하고 있다고 주장한다. 중심 과제는 더 이상 AI가 수학 문제를 풀 수 있는지 여부가 아니라, 연구 수준의 수학 작업이 AI 도구에 의해 수행되는 미래에 수학 공동체가 어떻게 대응해야 하는가이다. Tao는 문화와 정책 변화가 없다면 이 분야가 증명 부족의 시대에서 증명 과잉의 시대로 전환되어, 검증된 결과가 인간들이 이해하거나 확정적인 이론에 통합할 수 있는 속도보다 빠르게 쌓이는 '증명 소화불량' 현상이 발생할 것이라고 경고한다.

AI 능력 추측

AI의 영향을 분석하기 위해 Tao는 AI 능력 추측을 도입한다: 가까운 미래에 AI 도구들(일정 수준의 인간 감독과 비용을伴う)이 연구 수준의 수학 작업을 비트리비얼한 성공률과 허용 가능한 품질로 수행할 수 있다는 아이디어이다.

이 추측의 진실성은 논쟁의 여지가 있지만, Tao는 경험적 증거로 First Proof 챌린지를挙げ한다. 2026년 5월에 네 개의 AI 하네스를 대상으로 dieci 개의 새로운 연구 수준 문제들에 대해 실시한 테스트에서, 일곱 개의 문제가 출판 수준의 품질로 해결되었으며, 문제당 계산 비용은 $10에서 $1,000 사이였다.

수학적 목표와 가치 재정의

Tao는 AI가 증명의 기술적 실행을 처리할 수 있다면, 공동체는 수학 연구의 목표를 명시적으로 정의해야 한다고 주장한다. 역사적으로これら의 목표(문제 해결, 이론 구축, 수학자 양성)는 양의 상관관계를 보였다. 그러나 Tao는 단일 지표—예를 들어 해결된 미해결 문제의 수—에 대한 과도한 최적화가 Goodhart의 법칙을 촉발한다고 경고한다: "측정이 목표가 되면 그것은 좋은 지표가 아니다."\n\n이를 설명하기 위해 Tao는 '문제 해결'이라는 목표의 진화를 추적한다:

1. 첫 번째 시도: 가능한 많은 미해결 문제를 풀다. (위험: 잘못된 해결책의 대량 발생).
2. 두 번째 시도: 풀고 정확성을 검증하다. (위험: AI가 아무도 이해하지 못하는 증명을 생성한다).
3. 세 번째 시도: 풀고, 검증하고, 명확한 의사소통을 보장하다. (위험: AI가 다듬은 exposition이 인간이 어려운 개념을 배우고 소화하는 데 도움이 되는 '자연스러운 마찰'을 제거할 수 있다).
4. 네 번째 시도: 풀고, 검증하고, 의사소통하고, 공동체의 수용을 얻다. (위험: 공동체의 수용은 느린 인간 과정으로 AI 최적화가 불가능하다).
5. 최종 시도: 풀고, 검증하고, 의사소통하고, 결과를 해당 분야의 확정적인 이론에 통합하다.

병목 현상: 증명 소화와 정준화

수학적 과정에서 가장 가치 있는 부분은 정준화—결과가 공동체에 의해 소화되어 확정적인 교과서와 참조 자료의 일부가 되는 단계이다. 이 단계는 AI 최적화에 가장 적합하지 않으며, 가장 느린 단계이다.

Tao는 AI로 인해 발생하는 여러 가지 신흥 '임피던스 불일치'를 식별한다:

• 검증 격차: 인간 검증을 기다리는 동안 AI가 생성한 증명들이 축적된다.
• 설명 격차: 검증된 증명들이 읽기 쉬운, 인간 중심의 작성물을 기다린다.
• 리뷰 격차: 전통적인 피어 리뷰 시스템이 AI 생성 제출물의 양에 압도당한다.
• 정준화 격차: 공동체가 일관된 이론으로 합성하기에 너무 많은 게시된 증명들이 있다.

수학 공동체를 위한 권고사항

이러한 위험을 완화하기 위해 Tao는 전문 관행의 몇 가지 변화를 제안한다:

• 책임 있는 공개 정상화: 저자들은 은밀한 사용과 동료 비판을 피하기 위해 AI 도구 사용을 공개적으로 밝혀야 한다.
• 인센티브 전환: 문제를 '첫 번째로' 해결하는 것과 관련된 prestige(명예)를 감소시키고, 설명, 출판, 그리고 정준화(증명 소화)에 부여되는 가치를 증가시켜야 한다.
• 엄격한 검증 기준: Tao는 경험칙을 제안한다: 저자들이 자신의 결과에 대해 명확하고 전문가 수준의 발표를 제공할 수 없다면, AI가 증명을 검증했는지 여부와 관계없이 그 결과는 출판되어서는 안 된다.

공동체 관점과 반론

Tao의 논제 주변 토론은 'brute force' AI 성공과 진정한 수학적 통찰 사이의 긴장을 강조한다. 일부 기여자들은 현재 AI 능력이 새로운 수학적 기계의 발명이 아니라 솔루션을 위한 대형 모델 탐색이라고 주장한다.

"I see it as a large model+ harness executing a broad brute force search and trying solutions until something sticks... This is very different from inventing new mathematical machinery that allows to break old problems."\n\n다른 우려 사항으로는 최상위 수준의 AI 수학 능력을 가진 엔티티가 전략적 이점을 위해 결과를 축적하고 커뮤니티 검증을 위한 출판 대신 'secret maths'를 보유할 가능성이다.

"I suspect that mathematics is about to become substantially less open... we will see balkanisation and hoarding of 'secret maths'."\n\n마지막으로, 일부는 AI에 의해 쉽게 생성되는 증명(예: Lean에서 검증 가능한 것들)에 대해 전통적인 피어 리뷰 프로세스가 obsolet(구식)이 될 수 있다고 제안한다. 왜냐하면 이러한 출력은 독점적 연구가 아닌 공공 지식을 다루어야 하기 때문이다.