解构机器：教皇利奥十四世为 AI 时代制定的道德蓝图

在古代信仰与前沿技术的惊人交汇中，教皇利奥十四世发布了他的首份通谕，《Magnifica Humanitas》（宏伟的人性）。这份长达 83 页的文件不仅提出了人工智能伦理使用的指南，还将当前的 AI 轨迹描述为对民主、社会正义和人类尊严本质的系统性风险。

通过直接类比工业革命——特别提到了 1891 年的通谕《Rerum Novarum》——教皇利奥十四世将 AI 定位为“第四次工业革命”。他的核心论点是，如果不对 AI 的开发和治理方式进行根本性的转变，这项技术将不可避免地放大现有的不平等，并创造出新的、不透明的统治形式。

"Disarming" AI 的概念

这份通谕中最具挑衅性的建议是呼吁“解除 AI 的武装”（disarm AI）。虽然这通常是一个军事术语，但教皇将其定义扩展到了经济和认知维度。

"Disarming AI means freeing it from the mentality of ‘armed’ competition, which today is not limited simply to the military context, but is also an economic and cognitive phenomenon... Disarming does not mean renouncing technology, but preventing it from dominating humanity."

根据文件内容，单纯的监管是不足够的。教皇认为，AI 开发的“武装”性质——其特征是争夺更大的数据集和更强大的算法以确保地缘政治或商业优势——必须被拆解。他主张将 AI 从军事和经济利益的独占控制中解放出来，并向公民社会、学者和宗教团体开放，以实现广泛的参与。

挑战大科技公司的 "Technopower"

利奥十四世直接针对少数富有个人和企业的权力集中问题。他警告说，当塑造信息和消费模式的能力被一小部分人掌握时，它会破坏社会正义和团结。

通谕中强调的关键关注点包括：

• 数字殖民主义： 教皇警告说，存在一种殖民主义的“新面孔”，即数据——健康流、基因图谱和人口统计特征——成为了“权力的全新稀土”，被营利性团体所占有。
• 代理权的侵蚀： 他警告说，将决策权交给机器可能会削弱个人的创造力和判断力，从而鼓励对“现成答案”的依赖。
• 劳动力置换： 虽然承认 AI 有减轻工作负担的潜力，但他警告说，它往往迫使工人去适应机器的速度，而不是让机器支持工人。

超人类主义 vs. 人类尊严

该通谕明确拒绝了超人类主义（transhumanism）和后人类主义（posthumanism）的哲学，这些哲学将人类的局限性——如衰老、疾病和脆弱性——视为需要修复的“漏洞”。利奥十四世认为，人类通过其局限性而繁荣，而没有这些局限性的生活将不再是人类。

这一立场强调了人类尊严是内在的，并不依赖于财富、能力或社会地位。因此，教皇认为，道德和伦理原则不能在技术部署之后才“打补丁”，它们必须被整合进 AI 模型的构建过程之中。

批判性视角与技术论述

《Magnifica Humanitas》的发布在技术社区引发了重大辩论。一些观察者注意到教皇的方法论中令人惊讶的细微差别和技术素养，认为这表明他对驱动 AI 开发的激励机制有着深刻的理解。

然而，怀疑论者认为，教皇的愿景与全球资本主义的基本性质相冲突。正如一位评论员所言，驱动 AI “武装化”的因素是当前治理系统和人类行为的固有属性，这表明一场灾难性的失败可能是实现真正变革的套路（catalyst）的唯一途径。

其他人也指出，考虑到教会自身的历史，要求进行包容性道德的呼吁在教会看来存在一种讽刺感，因为教会历史上曾长期处于集权化权威。然而，教皇在文件中直接回应了这一点，为教会直到 19 世纪才开始谴责奴隶制这一缓慢的演变过程请求了宽恕，并将此视为一个关于持续道德演进的必要性的教训。

结论：对共享知识的呼吁

最终，《Magnifica Humanitas》是一份诉求，要求将共享知识视为“真正的公共利益”而非统治的工具。通过呼吁采用更缓慢、更审慎的步伐，并建立一套将 AI 的收益重新分配给最脆弱人群的税收制度，教皇利奥十四世正试图引导数字革命远离“巴别塔”（City of Babel）——一个权力的与自给自足的纪念碑——并走向一个植根于团结和以人为本的设计的未来。