교황 vs. 기술 예언자들: 기술적 메시아주의 해체하기
신앙과 기술의 교차점은 항상 긴장으로 가득 차 있었지만, 교황 레오의 첫 번째 회칙 Magnifica Humanitas의 발표는 대화의 중대한 격화를 의미합니다. "기술적 메시아주의"를 명시적으로 공격함으로써, 바티칸은 단순히 AI 사용에 대한 도덕적 가이드라인을 제시하는 것이 아니라, 현대 기술 산업의 근본적인 신화를 도전하고 있습니다.
그 핵심에서, 이 회칙은 인공지능을 도구가 아닌 구원자, 즉 모든 인간의 고통을 해결하거나 포스트 휴먼 싱귤래리티(post-human singularity)를 가져올 디지털 신으로 간주하려는 위험한 경향을 다룹니다. 이 "메시아주의"는 교회가 역사적으로 관리해 온 종교적 열광의 거울 이미지이며, 이제 대규모 언어 모델(LLMs)의 실리콘과 가중치(weights) 위로 전이되었습니다.
실리콘 밸리의 "AI 정신병"
교황이 주의와 인간 중심의 규제를 촉구하는 반면, 기술 엘리트의 일부는 이 신화에 경도되는 것으로 보입니다. 비평가들과 관찰자들은 CEO와 벤처 캐피털리스트들이 자신의 마케팅을 스스로 믿기 시작하는 "AI 정신병"이라고 묘사되는 경향을 주목해 왔습니다.
Sam Altman의 AI가 인간의 신념 체계를 재편할 가능성에 대한 논의부터 Dario Amodei의 "신을 건설하는 것"에 관한 수사학에 이르기까지, 업계는 공학의 영역을 넘어 신학의 영역으로 이동하고 있습니다. 한 관찰자가 언급했듯이:
"그들은 다음 토큰 예측 모델(next token predictor model)이 살아있거나 AGI/ASI가 될 수 있다고 생각합니다... LLMs는 매우 강력한 의사-AI(pseudo-AI)이며 의사-싱귤래리티(pseudo-singularity)를 가져올 것이지만, 진정한 AI는 아닙니다."
이러한 괴리는 확률적 앵무새(stochastic parrots)의 수학적 현실과 투자자 및 대중에게 판매되는 메시아적 서사 사이의 간극을 시사합니다. 회칙이 시사하듯, 기술이 신성한 힘으로 프레임화될 때, 그것은 인간의 윤리와 민주적 감독으로부터 면제됩니다.
통제권을 위한 싸움: 사제, 정치인, 그리고 프로그래머
신학적 논쟁 너머에는 가공되지 않은 권력 투쟁이 존재합니다. 질문은 더 이상 기술이 무엇을 할 수 있는가가 아니라, 누가 그것을 어떻게 배치할지 결정하느냐는 것입니다. 우리는 통제권을 위한 4방향의 줄다리기를 목격하고 있습니다:
- 기술자들: 창조자로서의 역할이 그들에게 내재적인 관리권을 부여한다고 믿는 이들.
- 사용자들: 자신이 의존하는 도구에 대해 주체성을 요구하기 시작하는 이들.
- 정부들: 법과 규제를 통해 통제를 법전화하려는 이들.
- 종교 기관들: 사회의 비인간화를 방지하기 위한 도덕적 프레임워크를 제공하고자 하는 이들.
이 투쟁은 업계의 "레버리지" 역학에 의해 더욱 복잡해집니다. 역사는 새로운 기술이 "샌드박스" 단계에서 성숙한 산업으로 이동하면, 가장 많은 컴퓨팅 파워(compute)와 자본을 가진 이들이 독점권을 형성하며, 컴퓨팅 파워를 공공재처럼 취급하여 전 세계에 조건을 강요하는 경향이 있음을 보여줍니다.
실존적 위험과 "적그리스도" 서사
흥미롭게도, 이 논쟁은 Peter Thiel과 같은 인물들의 개입으로 초현실적인 국면을 맞이했습니다. 실존적 위험에 관한 논의에서, Thiel은 "적그리스도 또는 아마겟돈"이라는 도발적인 이분법을 제시했습니다.
Thiel은 기술적 재앙(아마겟돈)에 대한 공포가 일세계적 전체주의 국가(적그리스도)를 정정당당하게 만들기 위한 무기로 사용될 수 있다고 시사합니다. 그의 관점에서는, 교황이 옹호하는 글로벌 규제와 다자주의—바로 그 것들이—의도치 않게 글로벌 독재의 길을 닦을 수 있습니다.
하지만 비평가들은 명백한 모순을 지적합니다. 그러한 전체주의 국가를 가능하게 할 감시와 통제의 도구들은 종종 그들을 경고하는 바로 그 벤처 캐피털리스트들에 의해 구축됩니다. 이는 기술적 진보의 "구원자"와 종말의 "전령"이 종종 동일 인물이라는 역설을 만듭니다.
결론: 인간적 요소의 회복
교황의 개입을 진정한 도덕적 각성으로 보느느냐, 아니면 가톨릭 교회의 전략적 권력 게임으로 보느냐에 관계없이, Magnifica Humanitas는 실리콘 밸리의 억제되지 않은 낙관주의에 대한 필요한 대항마 역할을 합니다.
AI를 "약탈적 자본주의"에서 분리하고 기계-를-메시아라는 개념을 거부함으로써, 이 회칙는 우리에게 "운전대를 잡은 인간"이 진보의 장애물이 아니라, 진보가 인간적인 상태를 유지하도록 보장하는 유일한 요소임을 상려합니다. 다가오는 10년의 진짜 도전은 AGI를 달성하는 것이 아니라, 우리가 알고리즘의 논리에 의해 통치될 것인지 아니면 인류의 가치에 의해 통치될 것인지 결정하는 것입니다.