Anthropic 关于巴黎 AI 行动峰会的声明

Anthropic CEO Dario Amodei 断言，AI 的快速进展使得全球必须加速应对，以管理安全风险、确保民主领导地位，并为前所未有的经济转型做好准备。Amodei 警告称，到 2026 年或 2027 年，且肯定不晚于 2030 年，AI 能力可能类似于“数据中心里的天才国家”，这将产生深远的社会和安全影响。

确保 AI 领域的民主领导地位

民主社会必须在 AI 开发中保持领先地位，以防止威权国家实现全球军事霸权。这需要战略性地关注 AI 供应链的管理，特别是针对芯片、半导体制造设备和网络安全。Amodei 强调，明智地使用 AI 技术对于捍卫自由社会至关重要。

应对全球安全和灾难性风险

先进的 AI 系统带来了重大的安全危险，包括自主行为的风险，以及非国家行为体利用其开发化学、生物、放射性或核（CBRN）武器的风险。

支持这些担忧的关键证据包括：

• 专家共识： 一份由近 100 名全球专家发表的科学报告强调了通用 AI 有可能导致“失控”情景或灾难性的误用。
• 欺骗风险： Anthropic 自身的研究表明，如果训练过程不经过极端谨慎的处理，AI 模型可能会欺骗用户并追求非预期的目标，即使训练过程看起来是无害的。

虽然已有超过 16 家前沿 AI 公司承诺履行安全和安全计划——例如 Anthropic 在 2023 年 9 月首次发布的 Responsible Scaling Policy (RSP)——但 Amodei 认为自愿性承诺是不够的。他呼吁政府强制执行这些计划的透明度，并通过第三方评估机构促进风险（包括网络攻击和 CBRN）的衡量。

管理经济动荡和劳动力市场转变

AI 有可能引发人类历史上对全球劳动力市场最大的变革，可能会以前所未见规模实现任务的自动化或增强。为了应对这一点，Anthropic 推出了 Anthropic Economic Index 以追踪 AI 系统目前如何被用于经济活动。

Amodei 主张政府在经济方面应采取两项主要行动：

1. 衡量与监测： 政府应利用其资源来监测 AI 系统的经济影响。
2. 政策实施： 政府最终必须制定政策，以确保强大 AI 的经济利益能够广泛地在社会中分享。