임대 추구 루프: '다음 토큰 예측' 논쟁을 넘어

대형 언어 모델(LLM)을 둘러싞 논쟁은 종종 의미론적 전투로 전락한다. 한편에서는 회의론자들이 이들을 단순한 "next-token predictors" 혹은 "stochastic parrots"라고 일축하며 그 지능을 깎아내리려 한다. 반면 AI 극단주의자들은 "solved" 혹은 "cooked" 같은 용어를 사용해 애니메이션, 코딩, 대학원 연구에 이르기까지 전체 산업이 사라질 것이라고 주장한다.

하지만 이러한 부족주의 아래에는 더 깊고 불안한 질문이 있다: 생산 도구가 중앙집중화되고 인간 노동의 가치가 체계적으로 박탈될 때 인간의 주체성과 경제적 효용은 어떻게 되는가?

경제적 효용의 침식

수십 년 동안 현대 경제 시스템의 암묵적인 약속은 일종의 실력주의적 이동성을 제공하는 것이었다. 과도한 자본주의 환경에서도 학위나 전문 기술을 습득하는 것은 협상 수단—즉 개인이 일정 수준의 존엄성과 경제적 안정을 확보할 수 있는 방법이었다.

AI의 현재 궤적은 이 협상 수단이 박탈되고 있음을 시사한다. CEO와 벤처 투자자들이 대학 학위가 AI가 개인 맞춤형 교육을 제공하기 때문에 "worthless"라고 선언할 때, 그들은 단순히 교육을 이야기하는 것이 아니라 인간 노동을 보호하던 장벽이 사라지는 것을 말한다.

이는 민주화의 역설을 만든다. AI가 기술 역량을 더 많은 사람에게 제공해 비기술 관리자도 개발자 없이 코드를 생성할 수 있게 하는 동시에, 그 기술을 제공하는 인간을 교체 가능한 존재로 만든다. 한 댓글러가 지적했듯이:

By democratizing this ability to the non-technical middle manager, the junior software engineer ends up losing their unique contribution and hence vote.

장인 정신에서 처리량으로의 전환

경제적 영향 너머에 "craft"에 대한 심리적 대가가 있다. 많은 지식 노동자에게 직업의 즐거움은 추론, 설계, 문제 해결 과정에서 온다. AI는 노동자를 창조자가 아닌 파이프라인의 단순 노드로 전락시키려 한다.

새로운 패러다임에서는 품질이나 독창성이 목표가 아니라 처리량이 된다. 노동자의 역할은 AI가 생성한 출력 흐름을 최대화하는 것이며, 이는 신뢰할 수 있는 검토나 검증이 불가능할 정도의 속도로 진행된다. 이 전환은 전문가를 에이전트의 "babysitter"로 전락시켜, 기대되는 생산성을 따라잡기 위해 더 많은 에이전트를 고용하게 만들고, 결국 컴퓨팅 제공자에 대한 의존을 더욱 심화시킨다.

이와 같은 정서는 필즈 메달리스트 Tim Gowers가 제시한 바와도 일치한다. 그는 AI 에이전트가 인간이 도달할 수 없는 규모로 무차별적으로 해결책과 발견을 강제할 수 있게 되면서, 수학을 통한 지적 "immortality" 추구가 곧 불가능해질 것이라고 경고한다.

추출 인프라

LLM의 급속한 부상은 중립적인 과학적 성취가 아니었다; 전례 없는 규모의 데이터 추출 위에 세워졌다. 공개 인터넷 전체—책, 사진, 기사—가 "opt-out by default" 훈련 코퍼스로 전환되었다.

이 추출은 데이터에 국한되지 않고 물리적 자원까지 확장된다. 데이터센터 건설 속도가 급증하면서 지역 사회의 전기·수도 비용이 상승하고 소음 공해가 심화된다. 또한 "national security"라는 서사는 감독을 회피하고 정부 자금을 확보하는 데 이용돼, 대중을 탈퇴할 수 없는 시스템에 가두어 놓는다.

반론: 진보인가 운명인가?

모두가 이 흐름을 불가피한 디스토피아로 보지는 않는다. 일부는 저자의 시각이 지나치게 비관적이라며, AI는 전기와 같은 또 다른 도구에 불과해 결국 사회 구조에 통합될 것이라고 주장한다. 또 다른 의견은 현재 AI가 생산하는 "slop"이 진정한 전문성을 대체하기엔 역부족이라는 점이다:

Slop can replace bullshit jobs, but the point of bullshit jobs is not to produce bullshit, it is to employ people... For the non-bullshit jobs, slop won't cut it.

또한 AI가 일을 없애기보다 성격만 바꿀 것이라는 주장도 있다. 개발자를 "code monkeys"에서 "architects"로 옮기는 것이 그 예다. 이런 관점에서는 생산성 향상의 재분배가 경제 구조가 전환을 수용하도록 업데이트될 경우, 전반적인 사회적 이익으로 이어질 수 있다.

결론: 영원한 루프

현 추세가 지속된다면 우리는 임대 추구의 영원한 루프에 빠질 위험이 있다. 이 시나리오에서 인간 문명의 집합적 산출물—수세기에 걸친 글쓰기, 예술, 사상—은 하나의 도구로 합성된 뒤, 그 원재료를 제공한 사람들에게 다시 임대된다.

우리가 LLM을 "stochastic parrots"라 부르든 AGI의 서막이라 부르든, 물질적 현실은 변하지 않는다: 노동의 협상력이 컴퓨팅 소유자와 데이터 큐레이터 쪽으로 이동하고 있다. 이제 질문은 기계가 생각할 수 있느냐가 아니라, 누가 기계를 소유하고, 칩 없이 테이블에 앉을 수 없는 사람들에게 무슨 일이 일어날 것이냐이다.