위대한 인류: AI와 비인간화에 대한 교황 레오 14세의 경고

신앙과 기술의 교차점은 종종 긴장의 장이 되어 왔지만, 최근 바티칸의 행보만큼 긴급하게 다뤄진 적은 드물었습니다. 교황 레오 14세는 새로운 회칙 Magnifica Humanitas (위대한 인류)를 발표하며, 인공지능에 관한 글로벌 담론에 중대한 신학적, 정치적 개입을 시도했습니다.

교황의 우려의 핵심은 기술 그 자체가 아니라, 권력 구조와 기술 배포 뒤에 숨겨진 동기입니다. AI를 인간의 존엄성과 사회 정의의 관점에서 구성함으로써, 바티칸은 현재의 AI 개발 궤적이 인간 본질의 보존과 근본적으로 양립할 수 없을 수도 있다는 신호를 보내고 있습니다.

불투명한 알고리즘의 위험

Magnifica Humanitas에서 교황 레오 14세는 "opaque algorithms"의 부상이 인류에게 체계적인 위협을 가중한다고 경고합니다. 주요 우려는 이 권력이 소수의 민간 기업에 집중되는 것입니다. 정보를 형성하고, 의사결정에 영향을 미치며, 인간의 상호작용을 매개하는 메커니즘이 대중의 시야에서 숨겨지고 소수의 인원에 의해 통제될 때, "새로운 형태의 비인간화"의 위험이 증가합니다.

교황은 기술이 결코 중립적이지 않다고 주장합니다. 대신, 기술은 그것을 만들고 자금을 지원하는 이들의 가치관, 편향성, 그리고 목표를 반영합니다. 추진력이 "이윤의 우상화"가 될 때, 결과물인 도구들은 인간의 안녕과 윤리적 고려보다 효율성과 수익화를 우선시할 가능성이 더 높습니다.

정치적 책임에 대한 촉구

AI를 전면적으로 거부하라고 요구하기보다는, 이 회칙은 기술이 "본질적으로 악"하거나 "인류에 적대적"이지 않다고 상정합니다. 그러나 현재의 가속화 속도가 우리가 이를 통제할 수 있는 능력을 앞지르고 있다는 점을 강조합니다.

이에 대응하기 위해 교황 레오 14세는 다음과 같이 촉구합니다:

• 강력한 법적 프레임워크: 자발적인 가이드라인을 넘어 집행 가능한 법률로 나아가야 합니다.
• 독립적인 감시: AI 시스템이 그로부터 이익을 얻는 기업 외부의 엔티티에 의해 감사받도록 보장해야 합니다.
• 정보를 갖춘 사용자: 대중이 자신이 상호작용하는 도구를 이해할 수 있도록 역량을 강화해야 합니다.
• 적극적인 정치적 참여: 정부가 "책임을 방기"하는 것을 멈추고, 안전과 윤리를 보장하기 위해 필요할 때 개발 속도를 적극적으로 늦추어야 한다는 요구입니다.

지정학적 및 윤리적 이해관계

회칙의 긴급성은 분쟁 상황에서의 AI의 실제 적용 사례들에 의해 강조됩니다. 교황은 특히 미국-이스라엘의 이란 전쟁 중 AI 기술의 사용을 언급하며, 전쟁의 자동화가 비인간화 과정의 결정적인 임계점임을 시사했습니다.

이러한 윤리적 입장은 업계의 일부 리더들에 의해서도 반영되고 있습니다. 회칙 발표 현장에는 Anthropic의 설립자인 Christopher Olah가 교황과 함께 자리했습니다. 이러한 파트너십은 AI 업계 내부의 균열이 커지고 있음을 보여주며, 이는 Anthropic의 CEO Dario Amodei가 최근 의회의 요구에 대해 우는 소리를 내며 미군에 Claude의 무제한적 접근권을 부여하는 것을 거부한 사례로 예시됩니다.

결론: 바벨탑 vs. 하느님의 도성

성경의 바벨탑 비유를 사용하여, 교황 레오 14세는 현재의 AI 경쟁을 오만함과 조화 사이의 선택으로 규정합니다. "바벨탑"은 자아와 이윤을 위해 추진되는 권력과 기술적 패권주의의 추구—즉, fragmentation과 collapse가 발생하는 경로를 old way입니다.

반대로, "하느님과 인류가 함께 거주하는 도성"은 기술이 공동선과 인간의 본질적 존엄성에 종인 되어야 하는 미래를 상징합니다. 바티칸은 앞으로 나아갈 길은 근본적인 변화를를 요구합니다: AI를 기업의 지배 도구에서 투명성, 윤리, 그리고 인간 정신에 대한 헌신을 바탕으로 운영되는 공유된 유틸리티로 전환하는 것입니다.