Paul Christiano 加入 OpenAI Foundation Board

Paul Christiano 已加入 OpenAI Foundation Board 與 Safety and Security Committee (SSC)，帶來了在 AI alignment 與政府安全標準方面的專業知識。此次任命強化了 OpenAI 的治理結構，增加了一個在評估前沿 AI 模型與緩解災難性風險方面具有豐富經驗的聲音。

Governance Roles and Responsibilities

Paul Christiano 的任命涉及組織結構中的兩個主要角色：

• OpenAI Foundation Board: Christiano 將擔任 OpenAI Foundation Board 的成員，該慈善組織負責維持對 OpenAI Group PBC 的控制權。
• Safety and Security Committee (SSC): 他將加入 SSC，與主席 Zico Kolter 並肩工作。SSC 負責對整個組織（包括 OpenAI Group PBC）的安全與安全實踐提供治理。
• OpenAI Group PBC Board: 他將擔任該董事會的非投票觀察員。

Technical and Government Expertise

Christiano 帶來了技術對齊研究與政府諮詢經驗的結合：

• Government Experience: 他是美國國家標準暨技術研究院 (NIST) 旗下 Center for AI Standards and Innovation (CAISI) 的高級技術顧問。他在 CAISI 與 U.S. AI Safety Institute 的工作重點在於評估具有國家安全影響的前沿 AI 模型，特別是那些具有國家安全影響的模型，並開發風險緩解策略。
• Alignment Research: 他是 Alignment Research Center (ARC) 的創始人，該非營利組織致力於使先進 AI 系統與人類利益保持一致。此前，在 2017 年至 2021 年間，他在 OpenAI 領導對齊研究，並為人類回饋強化學習 (RLHF) 的基礎工作做出了貢獻。

Strategic Importance of the Appointment

OpenAI 強調，隨著 AI 能力的進步，對強大的安全、安全與治理的需求也隨之增加。任命 Paul Christiano 的目的在於提供一個具備技術基礎的觀點，用以挑戰目前關於 AI 防護措施的普遍假設。

OpenAI 表示，透過納入對先進 AI 可能導致災難性風險持嚴肅態度，並在產業現有的防護措施上扮演獨立聲音的人士，強化了 Foundation 的治理。