테렌스 타오가 말하는 AI와 유익한 수학한 문제의 고갈

재생 불가능한 수학적 문제의 위기

AI는 현재 유익한 미해결 수학 문제들을 재생 불가능한 방식으로 채굴하고 있습니다. 가능한 수학적 질문의 총수는 무한하지만, 실제로 "유익한" 문제를 푸는 것—즉, 깊은 통찰력을 드러내거나, 새로운 연결 고리를 발견하거나, 분야를 발전시키는 문제—의 하위 집합은 유한하며 희소합니다.

테렌스 타오는 이를 거대한 바다에 둘러싸여 있으면서도 식수 부족으로 고통받는 지역에 비유합니다. 무한한 사소한 문제들(예: pi의 $10^{10^{10}}$번째 자리 계산하기)을 생성할 수는 있지만, 진정한 수학적 진보를 제공하는 문제는 드물며 현재 자동화된 솔루션 추출 도구들에 의해 소비되고 있습니다.

난이도 지형의 평탄화

수학에서의 모든 기술적 진보는 문제 해결의 난이도를 낮추며, 이는 일반적으로 도달 가능한 영역의 지평을 넓힙니다. 그러나 현재의 AI 시대는 명확한 새로운 경계선을 만들지 못한 채 난이도 지형을 "평탄화"하는 특징을 보입니다.

수학적 기하학의 상실

수학에서 "난이도 지형"—어떤 질문이 쉬운지, 어떤 질문이 노력이 필요한지, 어떤 질문이 현재 불가능한지—에 대한 이해는 연구자들에게 나침반 역할을 합니다. AI 도구가 무분별하게 문제를 해결할 때, 이 지형을 평탄화하여 인간이 분야의 기하학적 구조를 파악하고 가장 유망한 새로운 질문이 어디에 있는지 식별하는 것을 불가능하게 만듭니다.

정의된 경계의 부재

이전의 도구들과 달리, "AI로 해결 가능한" 문제와 "AI로 해결하기 어려운" 문제를 구분하는 명확한 경계가 없습니다. 이는 AI 기업들이 부정적인 결과나 솔루션에 도달하는 구체적인 과정을 공개하기를 거부함으로써 악화되며, 연구자들은 기술의 한계에 대해 어둠 속에 남겨지게 됩니다.

오픈 사이언스에 대한 "초토화" 위험

AI가 문제를 빠르게 해결하는 능력은 오픈 사이언스의 문화와 새로운 수학자들의 발전에 시스템적인 위험을 초래합니다. \n### 스쿠핑(Scooping) 효과 AI는 개별 인간의 능력을 훨씬 뛰어넘는 규모로 배치될 수 있기 때문에, 유망한 문제를 연구하는 인간 연구자에 대한 소문만으로도 이를 먼저 해결하기 위한 대규모 AI 기반의 노력이 촉발될 수 있습니다. 이는 "스쿠핑" 인센티브를 만들어 수학자들이 자신의 연구 방향에 대해 비밀을 유지하게 만들 수 있으며, 이는 수 세기 동안 이어져 온 오픈 사이언스의 협력 전통을 뒤집는 일입니다.

초기 경력 연구자들에게 미치는 영향

이 환경은 특히 박사 과정 학생들과 초기 경력 연구자들에게 해롭습니다. AI가 생성한 결과의 속도는 "출판 인플레이션"을 유발하며, 이는 젊은 수학자들이 자신의 작업 가치와, 단순한 솔루션이 저렴해진 세상에서 종신 재직권을 확보하기 위해 필요한 전문성 수준에 대해 불안감을 느끼게 만듭니다.

수학적 가치의 재정의: 결과 vs. 통찰력

타오는 수학 공동체가 가치 체계를 문제 해결이라는 행위에서 솔루션 도출 과정으로부터의 통찰력 추출로 전환해야 한다고 주장합니다.

가공되지 않은 솔루션의 문제점

가공되지 않은 솔루션—특히 해석 불가능한 "pile of Lean" 코드와 같은 AI가 생성한 솔루션—은 반드시 분야를 발전시키지 않습니다. 만약 솔루션은 발견되었지만 근본적인 메커니즘이 미스터리로 남는다면, 새로운 수학의 "입구"는 탐구되지 않은 채 닫혀버린 것입니다.

목표의 전환

답을 얻는 비용이 0에 가까워짐에 따라, 수학적 가치는 더 높은 차원으로 이동해야 합니다:

문제 해결하기 $\rightarrow$ 구조 이해하기
하나의 정리 정리하기 $\rightarrow$ 현상이 발생하는 이유 설명하기
입구에서 경쟁하기 $\rightarrow$ 그 뒤의 세계 탐구하기

커뮤니티 관점의 종합

수학 및 기술 커뮤니티의 논의는 타오의 논지에 대한 몇 가지 반론과 확장을 강조합니다:

"만약 어떤 문제가 통찰력 없이 '해결'된다면(예를 들어, 기호적으로 검증된다면), 그것은 전문직으로서 그리 흥미롭지 않은 것처럼 보입니다." — @dvt

"AI가 생성한 증명을 역공학(reverse-engineering)하여 새로운 통찰력을 얻을 수 있지 않을까요? 체스 플레이어들이 엔진의 수를 학습함으로써 새로운 개념을 배우는 것과 마찬가지로 말이죠." — @olalonde

주요 쟁점 사항

체스 비유: 일부는 수학이 체스의 경로를를 따르고 있다고 주장합니다. 체스 엔진이 처음에는 게임을 위협했으나 결국 인간의 플레이를 더 높은 수준의 이해로 끌어올리는 도구로 자리 잡았기 때문입니다.
자원 Argument: 문제들은 재생 불가능하다는 의견에 반대하며, AI를 사용하여 새로운 근본적인 질문을 던질 수 있으므로, 미해결 문제의 공급을 "갱신"할 수 있다고 제안합니다.
제도적 대응: Clay Mathematics Institute와 같은 기관들이 인간이 읽을 수 있고 통찰력 있는 증명이 없는 형식화(formalization)에 대해서는 인정을 거제하여, AI 연구소들이 단순히 "영광"을 위한 결과가 아닌 사용 가능한 지식을 생산하도록 유도해야 한다는 제안이들이 있습니다.