기계를 무장 해제하기: 레오 14세 교황의 AI 시대를 위한 도덕 청사진

고대 신앙과 최첨단 기술이 눈에 띄게 교차하는 지점에서, 레오 14세 교황은 첫 회칙인 Magnifica Humanitas (위대한 인간성)를 발표했습니다. 83쪽에 달하는 이 문서는 인공지능의 윤리적 사용을 위한 지침을 제시하는 데 그치지 않고, 현재 AI 흐름을 민주주의, 사회 정의, 그리고 인간 존엄성 자체에 대한 체계적 위험으로 규정합니다.

레오 14세 교황은 산업혁명과 직접적인 유사성을 제시하면서—특히 1891년 회칙 Rerum Novarum를 언급하며—AI를 "제4차 산업혁명"으로 위치시킵니다. 그의 핵심 논지는 AI가 개발되고 관리되는 방식에 근본적인 변화가 없으면, 기술이 기존의 불평등을 증폭시키고 새로운 불투명한 지배 형태를 만들 수밖에 없다는 것입니다.

AI "무장 해제" 개념

회칙에서 가장 도발적인 제안은 인공지능을 "무장 해제"하라는 호소입니다. 일반적으로 군사 용어이지만, 교황은 이 정의를 경제적·인지적 차원까지 확대합니다.

"AI를 무장 해제한다는 것은 ‘무장된’ 경쟁이라는 사고방식에서 벗어나게 하는 것을 의미합니다. 이는 오늘날 단순히 군사적 맥락에 국한되지 않고 경제적·인지적 현상이기도 합니다... 무장 해제는 기술을 포기한다는 뜻이 아니라, 기술이 인류를 지배하는 것을 방지한다는 의미입니다."

문서에 따르면 단순한 규제만으로는 충분하지 않습니다. 교황은 AI 개발의 "무장"된 특성—지정학적 혹은 상업적 지배를 확보하기 위한 더 큰 데이터셋과 더 강력한 알고리즘을 위한 경쟁—을 해체해야 한다고 주장합니다. 그는 AI를 군사·경제적 이익의 독점적인 손아귀에서 벗어나 시민사회, 학자, 종교 공동체가 폭넓게 참여할 수 있도록 열어야 한다고 옹호합니다.

대기업 기술의 "테크노파워"에 도전하기

레오 14세는 소수의 부유한 개인과 기업에 집중된 권력에 직접적으로 도전합니다. 정보와 소비 패턴을 형성할 수 있는 능력이 소수에게 집중될 때, 이는 사회 정의와 연대를 약화시킨다고 경고합니다.

디지털 식민주의: 교황은 데이터—건강 흐름, 유전 지도, 인구 통계 프로필—가 "권력의 새로운 희귀 금속"이 되어 이익 중심 그룹에 의해 전용되는 "식민주의의 새로운 얼굴"을 경고합니다.
주체성 침식: 그는 의사결정을 기계에 맡기는 것이 개인의 창의성과 판단을 약화시킬 수 있으며, "이미 만들어진 답변"에 의존하게 만든다고 경고합니다.
노동 대체: AI가 노동을 경감시킬 잠재력을 인정하면서도, 그는 AI가 종종 노동자를 기계의 속도에 맞추게 만들고, 기계가 노동자를 지원하는 것이 아니라는 점을 경고합니다.

트랜스휴머니즘 vs. 인간 존엄성

회칙은 인간의 한계—노화, 질병, 취약성 등을 수정해야 할 버그로 보는 트랜스휴머니즘과 포스트휴머니즘 철학을 명시적으로 거부합니다. 레오 14세는 인류가 그 한계를 통해 번영하며, 그 한계가 없는 삶은 인간이라 할 수 없다고 주장합니다.

이 입장은 인간 존엄성이 내재적이며 부, 능력, 사회적 지위에 의존하지 않음을 강조합니다. 따라서 교황은 도덕·윤리 원칙이 기술이 배포된 뒤에 "덧붙여"질 수 없으며, AI 모델의 설계 단계부터 통합되어야 한다고 주장합니다.

비판적 관점과 기술적 담론

Magnifica Humanitas의 발표는 기술 커뮤니티 내에서 큰 논쟁을 일으켰습니다. 일부 관찰자들은 교황의 접근 방식이 놀라울 정도로 섬세하고 기술적 소양이 높으며, AI 개발을 촉진하는 인센티브에 대한 정교한 이해를 보여준다고 지적합니다.

하지만 회의론자들은 교황의 비전이 글로벌 자본주의의 근본적 특성과 충돌한다고 주장합니다. 한 논평자는 AI의 "무장"을 촉진하는 힘이 현재의 거버넌스 체계와 인간 행동에 내재되어 있어, 실제 변화를 위한 유일한 촉매는 재앙적인 실패일 수 있다고 지적했습니다.

다른 이들은 교회의 중앙집권적 역사를 고려할 때 포괄적 도덕성을 요구하는 것이 아이러니하게 보인다고 지적했습니다. 그러나 교황은 문서에서 이를 정면으로 다루며, 19세기까지 노예제를 비판하는 데 교회가 느리게 진화한 점에 대해 사과를 구하고, 이는 지속적인 도덕적 진화의 필요성을 보여주는 교훈이라고 설명했습니다.

결론: 공유 지식에 대한 호소

궁극적으로 Magnifica Humanitas는 공유 지식을 "진정한 공동선"으로 여기고 지배의 도구로 삼지 말아야 한다는 탄원입니다. 교황은 AI 도입 속도를 더 느리고 신중하게 조절하고, AI 혜택을 가장 취약한 사람들에게 재분배하는 세금 제도를 요구함으로써, 디지털 혁명을 권력과 자급자족의 상징인 "바벨의 도시"에서 벗어나 연대와 인간 중심 설계에 뿌리를 둔 미래로 이끌고자 합니다.