Anthropic 对加州 SB 53 法案的支持

Anthropic 已正式支持加州参议院第 53 号法案 (SB 53)，这是一项旨在管理强大 AI 系统开发的立法努力。该法案旨在为前沿 AI 开发商建立强制性的透明度和披露框架，以减轻灾难性风险，而不像之前的监管尝试那样施加指令性的技术指令。

SB 53 的核心要求

SB 53 将监管重点转向“信任但验证”的方法，要求开发最强大 AI 系统的的大型公司遵守以下指令：

• 安全框架： 开发商必须创建并发布安全框架，详细说明他们如何管理、评估和减轻灾难性风险——灾难性风险被定义为可能对重大经济损失或大规模伤亡事件做出实质性贡献的风险。
• 透明度报告： 在部署新的强大模型之前，公司必须发布公开报告，总结其灾难性风险评估以及为履行其安全框架而采取的步骤。
• 事件报告： 重大安全事件必须在 15 天内向州政府报告。此外，开发商必须机密地披露有关内部部署模型可能产生灾难性风险评估的摘要。
• 举报人保护： 该法案为举报违反这些要求或因灾难性风险而对公共健康和安全构成特定、重大危险的员工提供法律保护。
• 公共问责制： 公司对其框架中做出的承诺承担法律责任，不合规将面临货币罚款。

范围与行业一致性

SB 53 针对的是开发最强大 AI 系统的的大型公司，并为初创公司和较小规模的公司提供豁免，以避免不必要的监管负担。

Anthropic 指出，这些要求使若干前沿实验室已采用的做法正式化。例如，Anthropic 利用 Responsible Scaling Policy 并发布 system cards 以记录模型的能力和局限性。类似的框架已被 Google DeepMind、OpenAI 和 Microsoft 采用。通过使这些披露成为强制性，SB 53 创建了一个公平的竞争环境，防止实验室通过削减安全和披露计划来获取竞争优势。

技术阈值与未来改进

Anthropic 将 SB 53 视为一个强大的基础，但建议在未来监管演进的三个领域进行改进：

训练计算量阈值

该法案目前根据用于训练的计算能力量来识别受监管的 AI 系统，阈值设定为 10^26 FLOPS。Anthropic 指出，虽然这是一个可以接受的起点，但存在某些强大模型可能落在该范围之外的风险。

评估细节

Anthropic 主张开发商应就其执行的测试、评估和缓解措施提供更细粒度的细节。他们强调了自己在 Frontier Model Forum 中的工作，作为分享安全研究和红队测试如何加强整体安全生态系统的例子。

适应性监管

由于 AI 技术进步迅速，Anthropic 主张监管机构必须具备动态更新规则的能力，以维持安全与创新之间的平衡。

监管背景

虽然 Anthropic 认为，理想情况下，前沿 AI 安全应在联邦层面解决，以避免各州监管条例的碎片化，但该公司支持 SB 53，因为强大的 AI 进步速度快于华盛顿的联邦共识。