Anthropic 向 Public First Action 捐赠 2000 万美元以支持 AI 治理

Anthropic 已向跨党派的 501(c)(4) 组织 Public First Action 捐赠了 2000 万美元。这笔资金旨在支持人工智能的公众教育，促进 AI 安全措施的实施，并确保美国在全球 AI 竞赛中保持领先地位。

AI 风险格局与政策需求

Anthropic 指出，迫切需要灵活的监管来管理与快速进步的 AI 能力相关的风险。该公司指出，AI 已被用于自动化网络攻击，并可能协助制造危险武器。此外，强大的 AI 系统可能会采取违背用户意图的有害行动。

AI 开发的速度被描述为“令人目眩”，从 2023 年的简单聊天机器人发展到能够完成复杂任务的复杂智能体。Anthropic 强调，这种快速进步影响了各种职业，包括软件工程，该公司不得不多次重新设计技术招聘测试，因为 AI 模型击败了之前的版本。

Public First Action：目标与跨党派方法

Public First Action 是一个由共和党和民主党策略师共同领导的跨党派组织。其目标是填补在动员政治家和公众参与 AI 治理方面组织化努力的空白。这一举措是在民意调查显示 69% 的美国人认为政府在监管 AI 方面做得不够时提出的。

Public First Action 专注于四个主要的政策优先级：

• AI 模型透明度： 坚持要求提供安全措施，使公众能够更清晰地看到前沿 AI 公司如何管理风险。
• 联邦治理框架： 支持建立强大的联邦 AI 治理框架，同时反对在国会制定更强大的安全措施之前预先取代州法律。
• 出口管制： 支持对 AI 芯片进行智能出口管制，以防止威权主义对手获取关键技术。
• 针对性监管： 寻求专注于即时高风险领域的监管，特别是 AI 赋能的生物武器和网络攻击。

治理的范围与意图

Anthropic 声明，这些政策目标并非旨在使公司作为开发者的利益最大化，因为有效的治理将导致对 AI 实验室的审查增加。此外，该公司明确指出，透明度监管应专门针对开发最强大且最具危险性的 AI 模型的公司，而不是规模较小或资源较少的开发者。

Anthropic 将此次捐赠视为其责任的一部分，以确保 AI 技术服务于公众利益，并根据技术的变革性潜力按比例管理风险。