OpenAI: 提高 AI 开发的可验证性

OpenAI 与来自学术界和工业界的各种机构的研究人员联盟共同推出了一项框架，旨在提高 AI 开发的可验证性。该倡议旨在为利益相关者（包括用户、监管机构和学者）提供手段，以验证 AI 系统是否确实反映了开发者所声明的伦理原则和安全主张。

AI 开发中的可验证性差距

AI 组织阐述的伦理原则与外部利益相关者在实践中验证这些原则的能力之间存在显著差距。这种透明度的缺乏造成了若干系统性风险：

• 增加社会危害： 关于系统属性的模糊性使得潜在风险可能被忽视或未得到解决。
• 竞争性偷工减料： 在缺乏外部验证的情况下，开发者可能会为了获得竞争优势而倾向于牺牲安全性或伦理最佳实践。
• 利益相关者不确定性： 用户、政策制定者和公民社会缺乏审查隐私、安全和风险相关主张的工具。

关键利益相关者关注点

该框架解决了利益相关者在与 AI 系统交互时面临的具体问题：

• 用户隐私： 用户需要验证在使用 AI 处理敏感任务（如机器翻译）时，所保证的隐私保护水平的相关主张。
• 监管审查： 监管机构需要能够追踪导致事故（例如在自动驾驶汽车中）的步骤，并建立衡量安全主张的标准。
• 学术研究： 独立研究人员通常缺乏工业界所拥有的计算资源，这阻碍了他们对大规模 AI 系统风险进行公正研究的能力。
• 开发者问责制： AI 开发者需要确保其竞争对手正在遵循最佳实践，而不是为了实现更快的部署而偷工减料。

拟议的验证机制

为了弥补可验证性差距，该报告确定了十种旨在帮助利益相关者验证 AI 主张的机制。虽然完整的技术讨论和注意事项在随附的研究论文中详细阐述，但这些机制旨在提供一种结构化的方法，使 AI 开发对社会其他部分更加透明且负责。