OpenAI 与战争部的协议
OpenAI 已与战争部(DoW)达成协议,在机密环境中部署先进的 AI 系统。此合作旨在为美国军方提供高性能的 AI 工具,同时保持严格的技术和合同防护措施,以防止在国内监视和自主武器方面的滥用。
核心安全红线
OpenAI 已设定三条主要的“红线”,战争部在协议条款下禁止跨越这些红线:
- 大规模国内监视: OpenAI 技术不得用于对美国个人的大规模国内监视。
- 自主武器系统: OpenAI 技术不得用于指挥自主武器系统。
- 高风险自动决策: OpenAI 技术不得用于高风险的自动决策,例如“社会信用”系统。
多层次执行机制
为确保这些红线可被执行,OpenAI 采用分层安全和部署策略,而非仅依赖使用政策。
部署架构
该系统为仅云部署。OpenAI 明确拒绝提供“关闭防护”或未经过安全训练的模型,并且不会在边缘设备上部署模型。此架构确保 OpenAI 能通过分类器的运行独立验证使用情况,并防止技术被集成到需要边缘部署的自主致命武器中。
合同保护
协议包含特定的法律条款以限制使用:
- 自主武器: 在法律、法规或部门政策要求人为控制的情况下,AI 系统不会独立指挥自主武器。所有在自主系统中的 AI 使用必须遵循国防部指令 3000.09(2023 年 1 月 25 日),并要求严格的验证和测试。
- 情报与隐私: 处理私人信息必须遵守《第四修正案》、1947 年《国家安全法》、1978 年《外国情报监视法》(FISA)以及第 12333 号行政命令。系统不得用于对美国个人私人信息或国内执法活动进行无限制监控,除非《防止军队参与民事执法法》(Posse Comitatus Act)允许。
- 面向未来的保障: 合同引用了协议签订时现行的法律和政策。这确保即使未来法律或政策发生变化,系统的使用仍必须符合当前协议中设定的标准。
人员监督
OpenAI 将在政府运营中嵌入已获批准的前线工程师以及安全与对齐研究人员,以提供额外的保证和监督。
对国内监视的澄清
2026 年 3 月 2 日发布的更新进一步阐明了协议对国内监视的立场。更新后的措辞明确禁止将 OpenAI 工具用于对美国个人和国民的国内监视,包括采购或使用商业获取的个人或可识别信息。
此外,战争部确认 OpenAI 服务不会被情报机构(如 NSA)使用;任何此类使用都需另行签订协议。
行业背景与合作
OpenAI 表示,此协议提供的保障比其他实验室(特别是 Anthropic)之前的协议更为负责任。OpenAI 已请求战争部将相同条款提供给所有 AI 公司,以促进政府与前沿 AI 实验室之间的合作与稳定关系。
作为此倡议的一部分,战争部计划召集由前沿 AI 实验室、云服务提供商以及部门的政策和运营社区的领导者组成的工作组,讨论新兴 AI 能力、隐私和国家安全挑战。