지능은 인공이 아니라 집합적이다: 마이클 I. 조던 교수의 AI와 경제학에 대한 관점

AGI의 오류와 지능의 인간화

인공 일반 지능(AGI)은 주로 연구, 비즈니스 모델, 그리고 젊은 창업자들의 포부에 왜곡 효과를 일으키는 PR 용어에 불과합니다. 현재의 서사는 우리가 인간을 구하거나 멸망시킬 수 있는 무형의 초지능을 구축하고 있다는 내용으로, 이는 과학 소설에 불과하며 젊은 엔지니어들에게 자신의 생애 동안 만들 수 있는 것이 남아 있지 않다고 낙담하게 합니다.

지능을 인간화해서는 안 됩니다. 기술 시스템의 목표는 인간적인 의미에서 “이해”하는 것이 아니라 예측 가능성과 제어를 제공하는 것입니다. 예를 들어 산업 공급망 모델링에서 시스템은 물류를 “이해”하지 못하더라도 배송 지연에 대해 뛰어난 예측을 할 수 있습니다; 중요한 것은 불확실성을 줄이고 효과적인 엔지니어링과 계획을 가능하게 하는 것입니다.

AI를 집합적 경제 시스템으로 보기

지능은 개인적인 속성이 아니라 집합적인 속성입니다. 인간 지능은 행동에 필요한 맥락을 제공하는 의견, 생각, 문화의 집합에서 나타납니다. 따라서 AI는 독립적인 통계 상자가 아니라 집합적 경제 시스템으로 바라봐야 합니다.

경제학과 게임 이론의 역할

단순한 패턴 매칭을 넘어서는 AI는 경제적 사고, 특히 게임 이론과 메커니즘 설계를 포함해야 합니다:

Game Theory: 전략적 상호작용을 기반으로 결과를 예측하는 수학적 프레임워크 ( $F=ma$ 가 물리적 운동을 예측하는 것과 유사).
Mechanism Design: 게임 이론의 “역”. 주어진 게임의 결과를 예측하는 대신, “특정한 원하는 결과(예: 공정성, 부의 분배, 시장 효율성)를 달성하기 위해 어떤 게임을 설계해야 하는가?” 라고 묻습니다.
Contract Theory: 정보 비대칭을 다루는 메커니즘 설계의 하위 분야로, 한 당사자가 다른 당사자보다 더 많은 정보를 가지고 있어 진실된 상호작용을 보장하기 위한 특정 인센티브가 필요합니다.

기초 모델의 기술적 한계

대형 언어 모델(LLM)은 인상적인 규모 확장을 보여주지만, 불확실성과 인센티브에 대한 프레임워크가 부족해 현실과 종종 동떨어져 있습니다.

AlphaFold 사례 연구와 예측 기반 추론

AlphaFold는 단백질 예측에 강력한 도구이지만 가설 검증에 사용될 때 오해를 일으킬 수 있습니다. 양자 요동과 인산화에 관한 연구에서, 훈련 데이터에 해당 요동에 대한 충분한 사례가 없었기 때문에 AlphaFold의 예측이 실제와 크게 차이 나는 매우 좁은 신뢰 구간을 만들 수 있음이 밝혀졌습니다.

이를 해결하기 위해 Prediction-Powered Inference (PPI) 가 개발되었습니다. PPI는 연구자들이 소량의 실제 데이터와 대량의 편향된 모델 예측을 결합하여 오류 범위를 실제를 포함하도록 이동시켜, 편향된 기초 모델을 사용하더라도 과학적으로 신뢰할 수 있는 답을 제공하게 합니다.

LLM 신뢰도 문제

LLM은 일반적으로 다음 단어를 예측하도록만 훈련되었기 때문에 자신의 신뢰도를 정량화할 수 없습니다. LLM이 자신감을 표현할 때는 불확실성 하에서 인식론적 추론을 수행하기보다 훈련 데이터에 있는 인간의 주장들을 모방하는 경우가 대부분입니다.

지속 가능한 데이터 시장 설계

데이터는 모델 훈련을 위한 단순한 자원이 아니라 가치와 프라이버시 영향을 가진 상품입니다. 3계층 데이터 시장 모델은 사용자, 플랫폼, 데이터 구매자 간의 긴장을 보여줍니다:

Users: 서비스를 대가로 플랫폼에 데이터를 제공한다.
Platforms: 서비스를 개선하고 지속 가능성을 위해 데이터를 제3자에게 판매한다.
Data Buyers: 시장 조사와 행동 연구를 위해 데이터를 구매한다.

최적화된 시스템에서는 플랫폼이 조정 가능한 차등 프라이버시 수준을 제공할 것입니다. 프라이버시를 중시하는 사용자는 더 높은 프라이버시 예산을 가진 플랫폼을 선택하고, 데이터 구매자는 더 노이즈가 많은 데이터에 대해 더 적게 지불하게 됩니다. 목표는 단일 목표 함수를 최적화하는 것이 아니라 사회 복지를 최대화하는 수학적 균형을 찾는 것입니다.

AI 시대를 위한 새로운 인문학 삼각형

사회적으로 책임 있는 기술을 구축하기 위해, 차세대 연구자들은 순수하게 계산 최적화에만 집중하는 대신 다학제적 “삼각형” 사고 방식을 채택해야 합니다:

Computational Thinking: 모듈화, 추상화, 알고리즘 효율성.
Inferential Thinking (Statistics): 불확실성 관리, 오류율 제어, 최적 실험 설계.
Economic Thinking: 인센티브 이해, 전략적 상호작용, 인간과 기계 에이전트를 조정하는 메커니즘 설계.

이 세 가지를 결합함으로써 AI는 “어깨 위의 비서”에서 인간 의사결정을 향상하고, 불확실성을 완화하며(시장처럼 자원을 관리하듯), 인간의 창의성과 민주주의를 지원하는 시스템으로 전환할 수 있습니다.

SUMMARY: 마이클 I. 조던 교수는 지능이 무형의 초지능이 아니라 집합적 경제 시스템이라고 주장하며, AI 과대광고에서 벗어나 컴퓨터 과학, 통계학, 경제학을 결합한 다학제적 접근으로 전환할 것을 촉구한다.

TITLE: 지능은 인공이 아니라 집합적이다: 마이클 I. 조던 교수의 AI와 경제학에 대한 관점