Paul Christiano 加入 OpenAI 基金会董事会

Paul Christiano 已加入 OpenAI 基金会董事会和安全与安保委员会（SSC），带来了在人工智能对齐和政府安全标准方面的专业知识。这一任命通过引入一位在评估前沿人工智能模型和缓解灾难性风险方面经验丰富的成员，加强了 OpenAI 的治理结构。

治理角色与职责

Paul Christiano 的任命涉及组织架构中的两个主要角色：

• OpenAI 基金会董事会： Christiano 将担任 OpenAI 基金会董事会成员，该慈善组织负责控制 OpenAI Group PBC 的运营。
• 安全与安保委员会（SSC）： 他将加入 SSC，与主席 Zico Kolter 一同工作。SSC 负责对整个组织（包括 OpenAI Group PBC）的安全与安保实践提供治理。
• OpenAI Group PBC 董事会： 他将作为非投票观察员在该董事会任职。

技术与政府经验

Christiano 拥有技术对齐研究和政府顾问经验的结合：

• 政府经验： 他是美国商务部国家标准与技术研究院（NIST）下属的 AI 标准与创新中心（CAISI）的高级技术顾问。他在 CAISI 和美国 AI 安全研究所的工作重点是评估具有国家安全影响的前沿人工智能模型，并制定风险缓解策略。
• 对齐研究： 他是对齐研究中心（ARC）的创始人，该非营利组织专注于使先进人工智能系统与人类利益保持一致。此前，从 2017 年到 2021 年，他曾领导 OpenAI 的对齐研究工作，为人类反馈强化学习（RLHF）的基础性研究做出了贡献。

任命的战略意义

OpenAI 强调，随着人工智能能力的提升，对强大安全、安保和治理的需求也随之增加。任命 Paul Christiano 的目的是提供一个技术基础扎实的视角，以挑战当前关于人工智能防护措施的普遍假设。

OpenAI 表示，基金会的治理因纳入那些认真对待先进人工智能可能带来的灾难性风险，并在行业现有防护措施上保持独立声音的个人而得到加强。