Anthropic 向 OSTP 提交的美国 AI 行动计划建议
TL;DR
Anthropic 已向科学技术政策办公室 (OSTP) 提交了一套包含六个要点的建议，认为美国必须立即在安全测试、出口管制、实验室安全、能源能力、政府 AI 使用以及经济数据收集方面采取行动，以在预计于 2026 年底出现的强大 AI 系统面前保持领先地位。
强大 AI 的预期到来
Anthropic 预测，在生物学、计算机科学、数学和工程学领域具有诺贝尔奖级专业能力的 AI 系统将在 2026 年底或 2027 年初出现。这些系统预计将：
- 在大多数科学学科中达到或超过人类顶尖的智力表现。
- 在所有数字接口上运行——文本、音频、视频、键盘、鼠标和互联网浏览。
- 进行长时间的自主推理，并在需要时寻求澄清，类似于一名能力极强的员工。
- 通过数字连接控制物理设备，如实验室仪器、机器人和制造工具。
Anthropic 引用其自身的 Claude 3.7 Sonnet 和 Claude Code 发布，以及其他前沿实验室的类似进展，作为通往此类强大 AI 的轨迹正在加速的证据。
六项关键政策建议
Anthropic 的提交内容侧重于六个领域，旨在共同获取经济利益、保护国家安全并广泛分配 AI 收益。
1. 国家安全测试
> 政府机构应建立强大的能力，以评估国内外 AI 模型的安全风险。
- 开发标准化的评估框架。
- 构建安全的测试基础设施。
- 组建专家团队以分析已部署系统的漏洞。
2. 加强出口管制
> 出口限制必须加强对先进半导体的管制，以防止 AI 基础设施落入对手手中。
- 管制高性能 H2O 芯片。
- 要求在托管大规模芯片部署的国家之间签署政府间协议。
- 降低触发许可要求的阈值。
3. 增强实验室安全
> AI 实验室应被视为战略资产，并与情报机构建立机密通信渠道。
- 为行业专业人士创建快速的安全审查程序。
- 为 AI 基础设施开发下一代安全标准。
4. 扩展能源基础设施
> 到 2027 年，需要实现 50 GW 的专用电力这一宏伟目标，以维持领先的 AI 开发。
- 简化新电力项目的许可和审批流程。
5. 加速政府 AI 采用
> 联邦政府应盘点可能从 AI 增强中受益的工作流程，并要求机构领导者实施高影响力的项目。
- 进行全政府范围内的 AI 就绪程度评估。
- 优先考虑能带来明确公共利益的项目。
6. 准备应对经济影响
> 现代化经济数据收集机制，以监测并应对 AI 驱动的劳动力市场和更广泛经济中的变化。
- 更新人口普查局的调查和相关数据管道。
- 为潜在的大规模经济转型做计划。
与 Anthropic 先前政策工作的衔接
这些建议扩展了 Anthropic 此前对负责任的扩展政策和第三方测试框架的倡导。该实验室强调一种平衡的方法，即在鼓励创新的同时，减轻由日益强大的 AI 系统带来的严重风险。
获取完整提交内容
完整的建议文件，包括详细的实施策略，可在 Anthropic response PDF 获取。
相关 Anthropic 公告：
Sources
相关
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch