Anthropic 将签署欧盟《通用人工智能行为准则》

Anthropic 打算签署欧盟的《通用人工智能行为准则》（General-Purpose AI Code of Practice），以促进前沿人工智能开发的透明度、安全性和问责制。此举将公司的内部安全标准与欧盟监管框架对齐，从而在降低系统性风险的同时实现人工智能的部署。

欧洲的经济影响与创新

灵活的安全标准被视为一种在促进人工智能在整个欧盟范围内广泛部署的同时，保留创新能力的机制。根据引用的一项分析，到 2030 年代中期，人工智能有望每年为欧盟经济贡献超过一万亿欧元。

Anthropic 确定了几个在欧洲已经取得切实成果的人工智能应用领域：

• Pharmaceuticals: Novo Nordisk 正在利用人工智能加速突破性药物的研发。
• Legal Services: Legora 正在改变法律工作流程。
• Public Governance: 欧洲议会正在利用人工智能让公民能够更广泛地访问数十年的档案。

透明度与风险缓解框架

欧盟行为准则通过强制性的安全与保障框架建立了人工智能安全基准。这些框架要求公司记录它们如何识别、评估和缓解系统性风险，包括与化学、生物、放射性和核（CBRN）武器相关的灾难性风险。

Anthropic 指出，这些欧盟要求建立在其现有的《负责任扩展政策》（Responsible Scaling Policy, RSP）之上，该政策为随着模型能力的提升而管理风险提供了一种结构化方法。

灵活性与协作治理的角色

由于人工智能技术演进迅速，Anthropic 强调监管政策必须保持灵活性和适应性。该公司强调了其自身迭代的安全方法，指出其《负责任扩展政策》已根据实施过程中的见解进行了多次改进，例如根据更新的威胁模型明确了 ASL-3 安全标准的参与者范围。

为了保持这种灵活性，Anthropic 主张建立一个包含以下方的协作生态系统：

• The EU AI Office: 确保行为准则能够对新兴技术做出响应。
• Third-party organizations: 诸如 Frontier Model Forum 之类的组织被认为是建立通用安全实践和评估标准的关键，这些标准可以将技术见解转化为可操作的政策。