伟大的人性：教皇利奥十四世关于人工智能与非人化现象的警告

信仰与技术的交汇点往往是紧张局势的发生地，但很少像梵蒂冈最近的行为那样具有紧迫性。教皇利奥十四世发布了一份新的通谕，《Magnifica Humanitas》（伟大的人性），标志着在人工智能全球话语中进行了一次重大的神学和政治干预。

教皇关注的核心并非技术本身，而是权力结构及其部署背后的动机。通过从人类尊严和社会正义的角度来审视人工智能，梵蒂冈正在发出信号，表明当前人工智能的发展轨迹可能与维护人类本质根本不相容。

不透明算法的危险

在《Magnifica Humanitas》中，教皇利奥十四世警告说，“不透明算法”的兴起对人类构成了系统性威胁。主要的担忧在于这种权力集中在少数几家私营公司手中。当塑造信息、影响决策并调解人类互动的机制对公众视线隐藏并由少数人控制时，“新形式的非人化”风险就会增加。

教皇认为，技术从来不是中立的。相反，它反映了创造者和资助者的价值观、偏见和目标。当驱动力是“利润的偶像崇拜”时，由此产生的工具更有可能优先考虑效率和变现，而非人类的福祉和伦理考量。

对政治责任的呼吁

该通谕并非要求全面拒绝人工智能，而是认为技术既非“本质上邪恶”，也非“与人类对抗”。然而，它强调当前的加速步伐正在超越我们对其进行治理的能力。

为了应对这一挑战，教皇利奥十四世呼吁：

• 强有力的法律框架： 从自愿性指南转向可执行的法律。
• 独立监督： 确保人工智能系统由获利公司之外的实体进行审计。
• 知情用户： 赋能公众以理解他们正在互动的工具。
• 积极的政治参与： 要求政府停止“放弃其责任”，并在必要时积极放慢开发速度，以确保安全和伦理。

地缘政治与伦理风险

该通谕的紧迫性因人工智能在冲突中的现实应用而进一步凸显。教皇特别强调了在美国与以色列对伊朗战争期间使用人工智能技术的现象，暗示战争的自动化代表了非人化过程中的一个关键转折点。

这种伦理立场在行业内也得到了部分领导者的呼应。在通谕的发布会上，Anthropic 的创始人 Christopher Olah 与教皇同台出席。这一伙伴关系凸显了人工智能行业内部日益增长的分歧，例如 Anthropic 的首席执行官 Dario Amodei 最近拒绝向美国军方提供对人工智能助手 Claude 的不受限制的访问权限，理由是担心五角大楼的要求。

结论：巴别塔 vs. 天主之城

利用圣经中巴别塔的寓言，教皇利奥十四世将当前的人工智能竞赛描述为一种在狂妄与和谐之间的选择。 “巴别塔”代表了由自我和利润驱动的对权力和技术霸权的追求——这条路径会导致分裂和崩溃。

相反，“天主与人类共同居住的城市”代表了一个未来，即技术从属于共同利益和人的内在尊严。对于梵蒂冈，前进的道路需要一种根本性的转变：将人工智能从企业统治的工具转变为受透明度、伦理和对人类精神承诺所约束的共享公用事业。