OpenAI董事会成立安全与安保委员会

OpenAI已成立安全与安保委员会，以监督其项目和运营中的关键安全与安保决策。此举正值公司开始训练下一代前沿模型之际，OpenAI预计该模型将在通往通用人工智能（AGI）的道路上显著提升能力。

委员会组成与领导

安全与安保委员会由OpenAI董事Bret Taylor（主席）、Adam D’Angelo、Nicole Seligman以及首席执行官Sam Altman领导。为确保技术深度，委员会还包括技术和政策专家，具体如下：

• Aleksander Madry：准备工作负责人
• Lilian Weng：安全系统负责人
• 对齐科学负责人：John Schulman
• Matt Knight：安全负责人
• 首席科学家：Jakub Pachocki

此外，退休的美国陆军将军Paul M. Nakasone在被任命为董事会成员后加入了委员会。委员会还将咨询外部专家，包括前网络安全官员Rob Joyce和John Carlin。

短期目标与90天审查

安全与安保委员会的主要职责是就关键安全与安保决策向全体董事会提出建议。

其首要任务是对OpenAI现有的流程和防护措施进行评估并在90天内进一步完善。该期间结束时，委员会将向全体董事会提交其建议。董事会审议后，OpenAI承诺在符合安全与安保要求的前提下，公开分享已采纳建议的最新进展。

前沿模型开发背景

OpenAI表示，其下一代前沿模型的训练已在进行中。公司称这些系统有望在通往AGI的道路上将组织的能力提升至新的水平。虽然OpenAI坚持其模型在能力和安全性方面均处于行业领先，但公司明确欢迎就此阶段的安全与安保进行“深入辩论”。