伦理与 AI 武器：为什么一名研究员离开了 Google DeepMind

A former Google DeepMind 研究员（以 TurnTrout 为笔名）已从公司辞职，理由是公司在维护关于致命自主武器 (LAWs) 的开发以及 AI 在政府监控和战争中的作用方面的伦理承诺方面存在系统性失败。这次离职凸显了 AI 实验室面向公众的伦理承诺与它们与国家安全机构签署的私人合同之间日益增长的紧张关系。

伦理承诺与军事合同之间的冲突

Google DeepMind 的领导层和高级员工此前曾承诺不参与或支持致命自主武器的开发、制造、贸易或使用。然而，作者指出，Google 签署了一项直接违背这些承诺的机密协议。

根据作者的说法，未能维持这些“红线”并非孤立事件，而是整个 AI 行业的一个模式。作者认为，当安全研究员和高管在这些承诺被打破后仍留在公司时，这向外部合作伙伴发出了信号，表明这些伦理边界是可协商的，从而有效地使未来的承诺变得毫无意义。

AI 治理中的系统性失败

作者的经历表明，旨在确保 AI 伦理使用的内部框架在与高风险的政府或军事利益发生冲突时，往往会被绕过。

企业影响力的角色

讨论此案的批评者和社区成员认为，AI 伦理承诺往往被用作营销工具，而不是约束性的限制。一位评论员指出，“在压力下被扫除的伦理承诺只是营销，”这表明大型企业的公司结构优先考虑股东价值和联邦合作，而非道德立场。

地缘政治压力

一些人认为，对于总部位于美国的公司来说，与政府合作的压力是不可避免的。关于其他 AI 实验室（如 Anthropic）类似情况的讨论表明，国家安全机构可能会将公司对特定用例的“红线”或否决权视为一种负担，特别是在紧急军事冲突期间，例如“ICBM 的 30 分钟时钟”，这种情况下快速响应时间的需求排除了企业协商的可能性。

战争中 AI 的不同观点

虽然作者的辞职是基于对致命自主武器的严格伦理反对，但其他观点认为 AI 可能有可能减少附带损伤。

• The Precision Argument: 有人认为，“智能” AI 武器可能比“笨”武器（如水雷）更符合伦理，因为它们可以更好地区分手无寸铁的平民与军事资产。
• The Democratic Argument: 有人建议，如果政府的政策——例如大规模驱逐或军事行动——得到了民主授权，那么 AI 提供商的角色就变成了一个次要的伦理问题。

行业范围内的影响

一名 DeepMind 研究员因这些问题而辞职，反映了对 AI 赋能的“solarpunk”愿景的广泛幻灭。评论员指出，早期关于 AI 造福人类的承诺已被转化为资本，以服务于股东和政府利益。

这一案例凸显了 AI 领域的一个关键分歧：在于那些相信可以在大型企业内部维持伦理边界的人，与那些相信企业与政府的纽带使得维持此类边界变得不可能的人之间。