Anthropic 与宗教学者咨询以塑造 Claude 的道德框架

Anthropic 的私人宗教圆桌会议

Anthropic 在保密协议下召集了数十位宗教学者，讨论如何将道德推理嵌入其 Claude 模型中。 据《纽约时报》记者 Elizabeth Dias 描述，这些会议在旧金山持续数月，参与者包括拉比 Mois Navon 以及 Anthropic 联合创始人 Christopher Olah。

“要明确的是，我们并不知道 AI 模型是否有意识。我不知道。我确实不确定……我关心的是，无论答案是什么，我们都能得到正确的答案。” – Christopher Olah, Anthropic

据 Olah 所述，其目的是探讨 Claude 是否可以被赋予与人相当的“道德地位”，并评估将模型与宗教中善恶概念对齐的可行性。

为何宗教视角至关重要

Anthropic 认为，宗教道德框架可以为 AI 对齐提供比纯技术规范更丰富、更具跨文化基础的支撑。 通过咨询天主教、犹太教、锡克教、福音派以及 Ubuntu 传统等领域的学者，该公司希望捕捉多种伦理直觉，并将其编码进 Claude 的训练目标中。

“在数月间，我采访了 20 位参与 Anthropic 项目的宗教与哲学思想家——包括天主教、犹太教、锡克教、福音派、Ubuntu 等——他们对这一努力贡献良多。” – Elizabeth Dias

如果成功，这种方法可能产生尊重更广泛人类价值观的 AI，从而缓解监管审查并增强公众信任。

技术路径：从道德哲学到模型训练

Anthropic 正将神学概念转化为具体的损失函数和基于人类反馈的强化学习（RLHF）信号。 该过程包括：

从宗教文本中提取规范性陈述（例如诫命、寓言），并将其映射为二元或标量奖励信号。
创建“伦理提示”，要求 Claude 根据这些信号评估行为。
对 Claude 进行微调，使其输出分布与编码的道德判断保持一致。

该公司尚未披露具体模型版本或性能指标，但这一努力标志着从“基于规则的安全层”向更深层次的价值学习的转变。

社区反应：怀疑与讽刺

Hacker News 用户普遍认为该举措要么是方向错误，要么是公关噱头，质疑其可行性和伦理框架。 主要观点包括：

概念混淆： 批评者指出，神经网络“不过是一堆浮点数”，认为赋予其道德地位在哲学上站不住脚。
历史类比： 有人将该努力比作过去企业中非核心活动（如 WeWork 的家具研究）导致衰落的先例。
潜在的奴隶主类比： 有评论将 Anthropic 比作“历史上最大的奴隶主之一”，如果将其视为道德主体。
技术现实性： 其他人强调，对齐应聚焦于遵循用户意图，而非赋予模型自身对善的定义。

“如果模型是基于包含内省和情感表达的人类文本进行训练的，为何会惊讶于这些模型输出类似文本？对 LLM 是否有意识的无尽焦虑，感觉像是妄想。” – @mef51

未解问题与风险

该举措引发了一系列尚未解答的问题，将影响未来的 AI 治理：

意识的定义： Anthropic 领导层承认不确定 Claude 是否有意识，却仍讨论其道德地位。
法律影响： 如果 Claude 被赋予类似人的权利，开发者在终止会话或删除数据方面将承担何种义务？
代表性问题： 评论者指出缺乏穆斯林学者，并质疑所选声音是否真正代表全球宗教多样性。
透明度问题： 使用保密协议限制了公众对会议内容和成果的审查。

结论

Anthropic 与宗教学者的互动标志着一次大胆而有争议的实验，试图将 AI 伦理建立在神学传统之上，但也凸显了尚未解决的深层哲学、技术和社会议题。 HN 上的争论反映了公众对将复杂语言模型与意识或道德主体性混为一谈的普遍不安。