OpenAI 与 Appia 基金会:为先进 AI 建立共享标准

OpenAI 与 Appia 基金会:为先进 AI 建立共享标准

OpenAI 协助成立了 Appia 基金会(由 Linux 基金会托管),旨在创建开放的模块化规范,将国际标准转化为 AI 的实用评估标准。该倡议旨在通过允许第三方验证对标准的符合性并为国家和国际机构创建共享的技术语言,构建关键的信任层。

Appia 基金会的角色

Appia 基金会旨在弥合高级国际标准与实际技术实现之间的差距。通过制定模块化规范,Appia 将提供一个框架,使第三方能够检查对标准的符合性,并在不同组织开发模型、基础设施和应用时生成可重复使用的证据。

这种互操作性旨在确保在 AI 价值链的各个环节中,无论开发所在的司法辖区或组织如何,都能始终如一地管理安全和安保风险。

与国家和国际治理的整合

OpenAI 主张国家能力与国际合作必须相互强化。该组织倡导建立持久的美国框架以及加强的 AI 标准与创新中心(CAISI),以培养技术专长并支持独立评估生态系统。

OpenAI 表示,一套有能力的国家机构网络可以建立共享方法并认可可信证据,为各国政府提供在事件协调响应和兼容安全框架所需的共同技术理解。

评估实践中的技术严谨性

先进 AI 的标准必须以可信的评估实践为基础。OpenAI 已制定了可信第三方评估的共享手册,要求披露以下内容:

  • 被测试的系统
  • 工具访问和评估框架
  • 用于引出能力的方法
  • 可用资源
  • 用于验证结果的检查

这些原则已通过与美国 CAISI 和英国 AISI 的测试合作得以实施,重点在于前沿能力评估和生物滥用防护,以推动具体的系统改进。

OpenAI 的内部安全基础设施

Appia 基金会的工作补充了 OpenAI 现有的内部安全框架:

  • Preparedness Framework(准备框架):用于定义和落实对先进 AI 系统最严重风险的管理的基础。
  • Frontier Governance Framework(前沿治理框架):一份公共治理文件,聚焦监管义务,包括风险评估、模型报告、安全控制和事件响应。

通过将这些内部实践与 Appia 基金会的开放规范相结合,OpenAI 旨在将前沿开发的经验转化为技术上有依据的实践,供全球政府、企业和独立评估者使用。

SUMMARY: OpenAI 协助成立了 Appia 基金会,旨在制定开放的模块化规范,将国际 AI 标准转化为实用的评估标准,以确保组织和司法辖区之间的互操作性。

TITLE: OpenAI 与 Appia 基金会:为先进 AI 建立共享标准

Sources