Anthropic 对加州州长 Newsom 的 AI 工作组草案报告做出回应

TL;DR

Anthropic 赞扬了 Newsom 州长 AI 工作组的草案报告，认为其强调了客观标准和透明度，并指出该实验室已通过其负责任的扩展政策 (Responsible Scaling Policy)、公共安全披露和第三方测试，遵循了报告中的许多建议，同时倡导采取轻度干预的政府措施，使这些做法成为普遍标准。

与工作组关注点的契合

Anthropic 同意客观、基于证据的标准对于前沿 AI 治理至关重要。该实验室特别支持报告中对透明度的强调，认为其是一种低成本、高影响力的工具，可用于：

扩展围绕新 AI 技术的研究证据库。
建立消费者信任。
鼓励 AI 公司之间的正和竞争。

Anthropic 对工作组要求实验室披露模型窃取保护措施和国家安全风险测试的呼吁表示欢迎。

与报告建议相符的 Anthropic 现有做法

Responsible Scaling Policy – 公开详细说明 Anthropic 如何评估滥用和自主性风险，并定义了触发更高安全和安全措施的阈值。
Safety and security testing disclosures – 每次重大模型发布时都会分享结果。
Third‑party testing – 外部审计作为内部评估的补充，正如 Anthropic 的第三方测试公告中所述。

这些做法与报告建议前沿实验室采用透明的安全和安全协议相一致。

呼吁轻度干预的政府措施

Anthropic 指出，目前，前沿 AI 公司并不要求：

发布安全和安全政策。
公开描述该政策。
记录他们所进行的测试。

该实验室认为，适度的、轻度干预的监管可以在不扼杀创新的情况下填补这一空白。在最近提交给白宫的一份政策建议书中，Anthropic 警告说，强大的 AI 系统可能最早在 2026 年底出现，这强调了建立透明政策体制的紧迫性。

经济影响关注点与未来贡献

工作组强调了对 AI 的经济影响进行更深入研究的需要。Anthropic 正在通过开发一个经济指数 (Economic Index) 来应对这一问题，以追踪 AI 驱动的经济变化。该实验室计划继续向工作组提供反馈，以帮助完成最终报告。

结论

Anthropic 赞赏 Newsom 州长启动 AI 工作组的举措，并承诺在加州处理前沿模型安全的方法上进行协作，同时敦促通过轻度监管促使整个行业广泛采用透明的安全和安全做法。