LLMs는 점프할 수 없다: 인공지능 과학적 발견의 한계 분석

핵심 주장: LLMs는 기초적 '점프'를 수행할 능력이 부족하다

Tom Zahavy가 작성한 위치 논문 "LLMs Can't Jump"에서는 대규모 언어 모델(LLMs)이 새로운 기초 공리나 주요 과학적 돌파구에 필요한 직관적 점프를 수행하는 데 구조적으로 불가능하다고 주장한다. 알버트 아인슈타인의 일반 상대성 이론 수립을 주요 사례로 삼아, 관측 데이터가 부족할 때 완전히 새로운 틀을 창안하는 데 필요한 "추론"을 수행할 수 없다고 주장한다.

Zahavy는 아인슈타인이 한 "점프"—특히 등가 원리—가 기존 언어 데이터를 처리한 결과가 아니라, 감각 경험을 바탕으로 한 물리적 직관과 사고 실험에 기반했다고 제안한다. 핵심 주장은 LLMs가 인간 경험의 손실이 큰 인코딩인 언어에만 훈련되는 반면, 물리 세계와 직접 상호작용하지 않기 때문에, 기초적 발명에 필요한 세계를 시뮬레이션하고 내부 실험을 수행할 수 있는 충분한 기반이 부족하다는 것이다.

저자의 추가 설명

논문이 확산된 후 Tom Zahavy는 자신의 작업의 범위와 목적을 명확히 하기 위해 중요한 맥락을 제공했다:

• 개인적 견해, 기업 정책이 아님: Zahavy는 논문이 개인의 견해에 불과하며 구글 딥마인드의 공식 입장은 아니라고 강조했다.
• "막다른 길" 주장이 아님: 논문이 LLMs가 과학적 발견을 결코 할 수 없다는 주장을 하는 것은 아니라고 명확히 했다. 그는 자신이 개발한 AlphaProof(최초로 국제 수학 올림피아드 메달을 획득한 AI 시스템)의 사례를 들어 AI가 과학적 발견을 할 수 있고 계속해서 놀라운 발견을 할 것이라고 언급했다.
• 특정 능력에 초점: 논문은 일반 상대성 이론의 발명과 유사한 점프를 수행할 수 있는 AI가 갖춰야 할 조건을 탐구하는 데 초점을 맞추며, AI가 모든 과학적 진보를 할 수 없다는 주장은 아니다.

기술적 비판과 반론

LLMs가 "점프"할 수 없다는 주장은 기술 커뮤니티에서 큰 의심을 받았으며, 주로 세 가지 영역에서 비판이 제기되었다:

1. 정량적 증거 부족

비판자들은 논문이 경험적 연구가 아니라 논리적 주장에 가깝다고 지적한다. 일부 주목할 만한 비판은 "LLMs는 점프할 수 없다"는 주장이 정량적 증거에 기반하지 않으며, "점프"라는 개념에 대한 엄격한 정의도 부족하다고 지적한다. 이를 검증하기 위한 제안된 방법은 2025년 지식 절단 시점의 LLM을 사용해 2026년에 발표된 과학적 결과를 최소한의 정보로 재도출해보는 것이다.

2. 몸체화와 감각 경험의 역할

논문은 물리적 감각과 몸체화된 시뮬레이션이 발견에 필수적이라고 주장하지만, 일부는 이 주장이 일반 상대성 이론 비유에 지나치게 의존한다고 반론한다. 예를 들어, 양자역학에서 에너지의 양자화는 물리적 감각을 통해 발견된 것이 아니라, 블랙바디 복사 스펙트럼 문제를 해결하는 데 양자화가 수학적으로 효과적이라는 인식에서 비롯되었다. 이는 "점프"가 감각적 기반 없이 추상 영역에서도 발생할 수 있음을 시사한다.

3. "목표를 계속 옮기는" 현상

몇몇 관찰자들은 AI의 능력 기준이 끊임없이 변화한다는 점을 지적한다. LLMs가 기존 벤치마크를 뛰어넘을 때마다 지능의 정의는 다음 도달 불가능한 정상으로 옮겨진다—이 경우는 바로 "직관적 점프"이다. 이 관점은 현재의 한계가 아키텍처나 "장치"(환경)의 문제일 뿐, 본질적인 구조적 불가능성은 아니라고 제안한다.

제안된 해결책과 대안적 시각

"점프"라는 인식된 한계를 극복하기 위해 몇 가지 이론적 접근이 제안되었다:

• 세계 모델과 다중모달 기반: 논문은 세계 모델이 해결책이라고 제안하지만, 비판자들은 현재의 다중모달 융합(이미지/음성/동영상 통합)이 추론 능력에 전환점이 되지 못했다고 지적한다.
• 온도 조절: 일부는 LLM의 온도를 조절하는 방식—고온으로 아이디어 생성, 저온으로 비판적 검토—이 인간의 "망상"을 통해 가능성을 떠올리고, 철저한 검증을 통해 검증하는 과정을 모방할 수 있다고 제안한다.
• 환경 피드백 루프: 자동 화학 연구와 같은 물리 세계 피드백 루프에 LLM을 통합하면, 저자가 주장하는 기반이 부족하다는 문제를 해결할 수 있을 것이다.
• 아키텍처 변화: LLMs가 본질적으로 확률적이고 잠재 공간에서 "직각 방향 전환"을 위한 메커니즘이 부족하다는 주장이 있다. 이는 직관적 점프나 유머를 가능하게 하려면 새로운 아키텍처 구성 요소가 필요하다는 것을 의미한다. 이는 "좌회전"을 가능하게 하는 전용 구성 요소를 설계해야 한다는 제안이다.