Anthropic 关于增加 NIST AI 测量资金的提案

Anthropic 建议美国政府雄心勃勃地增加对美国国家标准与技术研究院 (NIST) 的联邦资金，以支持其 AI 测量和标准工作。这项投资被视为有效 AI 监管的关键前提，因为客观量化 AI 系统的能力和风险对于确保它们达到安全阈值是必要的。

AI 政策中测量的角色

有效的 AI 治理需要能够准确描述和量化系统风险和能力。Anthropic 主张，测量工具是客观评估的主要赋能者，并指出“无法衡量的事物很难管理”。

这种对标准化测量的需求是由几个因素驱动的：

• 不可预测的涌现性： AI 系统可能会在更大规模模型的训练过程中突然表现出风险和能力，或者在部署后才被发现。
• 缺乏标准化方法： AI 领域目前缺乏广泛公认的方法来全面评估这些风险。
• 不可预测性： 开放式 AI 系统通常以不可预测的方式运行，这使得在开发过程中预测所有潜在风险变得困难。

NIST 的基础与当前的资金缺口

由于 NIST 在建立测量基础设施方面拥有长达一个世纪的历史，它被认为是这项工作的天然机构。该机构已经在 AI 领域建立了基础性工作，包括 AI Risk Management Framework、Face Recognition Vendor Test 以及 MNIST 手写识别数据集。

尽管有此基础，Anthropic 指出，近年来 NIST 在 AI 相关计划方面的“资源普遍不足且资金增长停滞，令人担忧”。为了解决这个问题，Anthropic 建议在 2023 财年基础上增加 1500 万美元的资金（这包括 NIST 自己申请的 500 万美元增额）。

增加投资的战略利益

雄心勃勃的资金支持将允许 NIST 在整个领域内标准化测量技术，并建立社区资源（例如测试床），以评估开放式 AI 系统的能力和风险。Anthropic 概述了这项投资的五个主要利益：

1. 增强安全性： 严格的测试可以识别并减轻风险，在系统发布到公众之前。
2. 增加公众信任： 对 AI 系统的独立第三方验证可以增加公众信心。
3. 政府信心： 政府可以获得更高的信心，确保先进系统对于公众使用是安全的。 n4. 促进创新： 开发者被激励去构建更好的技术并推动技术前沿。
4. 创造市场： 这项投资可以为系统认证创造一个市场，并为开发者提供积极的激励。

集成到治理的组合方案中

Anthropic 明确表示，测量和技术标准并不是解决所有 AI 风险的“万灵药”。相反，他们倡导一种 AI 治理的“组合方案”。在这个框架下，严格的系统评估将与其他安全杠杆相辅成成：

• 开发实验室内部的稳健内部控制和治理实践。
• 由独立组织进行的定期审计。
• 基于公共利益的监管和立法框架。