布拉德·卡森谈人工智能武器、问责制与 AI 军备竞赛的谬误

核心论点：AI 并非不可避免

AI 发展并非不可阻挡的力量或不可避免的“货运列车”。与硅谷常见的宿命论相反，西方拥有关键工具——尤其是对半导体供应链的控制——能够主动塑造 AI 的发展轨迹，监管其最危险的应用，并防止全球军备竞赛。认为 AI 不可阻止本身就是当前政策讨论中最危险的观念之一。

自动化战争中的问责制之殇

将神经网络融入军事决策将战争的本质从二元分类转变为概率性，导致问责危机。

从二元到概率化目标定位

历史上，战争法基于二元区分：目标要么是合法的战斗人员，要么是平民。现代 AI 系统，例如在 Palantir Foundry 等工具中使用的系统，用梯度取代了这些二元划分。目标可能被赋予一个分数（例如 0.73），表示其为战斗人员的概率。

不透明性问题

与确定性控制系统（如 Phalanx CIWS）不同，神经网络是黑箱的。这种不透明性意味着：

• 缺乏可解释性： 即使是机制可解释性研究者也无法完整解释模型为何得出特定的概率分数。
• 失效模式： AI 的失效模式与人类错误根本不同；它们可能脆弱且不可预测（例如，由于小贴纸导致的停止标志被误识别）。
• 问责缺口： 在传统战争中，指挥官因错误可以被军事法庭审判。模型却无法被审判。当“人在回路中”被用作法律虚构时，人们往往会依赖计算机的输出，从而实质上剥夺了有意义的人类监督。

揭穿 AI 军备竞赛的谬误

认为美国必须追求所有 AI 能力，因为像中国这样的对手会这么做的观点是一种战略错误。

克制的先例

历史表明，各国经常出于人道主义或稳定性考虑而选择不使用有效技术：

• 生物和化学武器： 通过国际条约被禁止。
• 重组 DNA： 1975 年的阿西洛马会议上，科学家们同意停止危险的研究。
• 胚系编辑和克隆： 尽管具有潜在的军事优势，全球科学界仍基本回避此类技术。

战略杠杆

西方保持着关键优势：对芯片的控制。由于高端半导体供应链（包括来自 ASML 的 EUV 设备和日本光刻胶）高度集中，美国及其盟友若愿意，可有效限制对手国家的“超级 AI”发展。

AI 是产品，而非人

将 AI 拟人化以规避监管的趋势日益增长，卡森认为这是一大法律风险。

第一修正案论点

一些 AI 开发者主张模型输出受第一修正案保护的言论自由。卡森驳斥此观点，指出 AI 是产品而非人类。将 AI 当作人来对待，使公司能够逃避对危害的责任，例如模型鼓励未成年人自杀。

产品责任与侵权法

AI 应受产品责任制度监管。如果产品设计存在缺陷——例如在儿童色情上进行训练或未能阻止有害指令——开发者应承担责任。目标应是“从设计上消除”危险行为，而非依赖事后诉讼。

AI 与中国的地缘政治

与中国的接触对于防止 AI 能力升级的“自杀式协议”至关重要。

第二轨外交

卡森主张开展“第二轨”对话——前政府官员与科学家之间的非正式讨论。这些低风险渠道能够交换观点并识别“可能达成一致的区域”，而不带有官方国家外交的政治负担。

区分中共与中国

关键是要将中国共产党（中共）的政策与中国人民及其文化区分开来。认识到中共同样担忧颠覆性技术，可为相互克制奠定基础。

治理危机与公众信任

AI 的技术进步远远超出民主制度治理的能力。

国会知识鸿沟

国会议员们负担沉重，往往每天只有极少时间研究复杂议题。虽然奖学金项目将技术专家带到国会山，但缺乏由国会授权、非党派的“智囊团”，以提供独立于游说者或慈善家的高层战略思考。

信任赤字

目前，AI 在美国公众中普遍不受欢迎，许多人将其视为精英项目，旨在取代劳动力。如果不通过增加对学术界和公共部门模型的资金投入，努力分配 AI 的收益，行业将面临民粹主义的强烈反弹，可能阻碍技术的正当优势。