Paul ChristianoがOpenAI Foundation Boardに参画

Paul Christianoは、AIアライメントと政府の安全基準に関する専門知識を携えて、OpenAI Foundation BoardおよびSafety and Security Committee (SSC) に参画しました。この任命は、フロンティアAIモデルの評価と壊滅的なリスクの軽減に精通した意見を加えることで、OpenAIのガバナンスを強化するものです。

ガバナンスの役割と責任

Paul Christianoの任命には、組織構造内における2つの主要な役割が含まれます：

  • OpenAI Foundation Board: Christianoは、OpenAI Group PBCを管理する慈善団体であるOpenAI Foundation Boardのメンバーとして務めます。
  • Safety and Security Committee (SSC): 彼はZico Kolter議長と共にSSCに加わります。SSCは、OpenAI Group PBCを含む組織全体における安全およびセキュリティの実践に対するガバナンスを提供することに責任を負います。
  • OpenAI Group PBC Board: 彼はこのボードの議決権のないオブザーバーとして務めます。

技術的および政府に関する専門知識

Christianoは、技術的なアライメント研究と政府のアドバイザリー経験を組み合わせて提供します：

  • 政府に関する経験: 彼は、米国商務省の機関であるNational Institute of Standards and Technology (NIST) 内のCenter for AI Standards and Innovation (CAISI) におけるSenior Tech Advisorを務めています。CAISIおよびU.S. AI Safety Instituteでの彼の活動は、フロンティアAIモデル、特に国家安全保障に影響を与えるモデルの評価、およびリスク軽減戦略の開発に焦点を当ててきました。
  • Alignment Research: 彼は、高度なAIシステムを人間の利益に合わせることに焦点を当てた非営利団体であるAlignment Research Center (ARC) の創設者です。以前は、2017年から2021年までOpenAIでアライメント研究を率いていました。そこでは、人間からのフィードバックによる強化学習 (RLHF) に関する基礎的な研究に貢献しました。

任命の戦略的重要性能

OpenAIは、AIの能力が進歩するにつにつれて、強力な安全、セキュリティ、およびガバナンスの必要性が高まると強調しています。Paul Christianoの任命は、AIのセーフガードに関する既存の前提に挑戦する、技術的に根拠のある視点を提供することを目的としています。

OpenAIは、Foundationのガバナンスは、高度なAIによる壊滅的なリスクの可能性を真剣に受け止め、業界の現在のセーフガードについて独立した意見を発信してきた個人を含むことで、強化されると述べています。

Sources