OpenAI取締役会が安全・セキュリティ委員会を設置

OpenAIは、プロジェクトと運用における重要な安全・セキュリティの意思決定を監督する安全・セキュリティ委員会を設置しました。この動きは、同社が次世代フロンティアモデルの訓練を開始した時期に行われ、OpenAIはこのモデルが汎用人工知能（AGI）への道において能力を大幅に向上させると見込んでいます。

委員会の構成とリーダーシップ

安全・セキュリティ委員会は、OpenAI取締役のBret Taylor（議長）、Adam D’Angelo、Nicole Seligman、そしてCEOのSam Altmanが率いています。技術的な深さを確保するため、委員会には以下の技術・政策の専門家が含まれています：

  • Aleksander Madry: 準備責任者
  • Lilian Weng: 安全システム責任者
  • アラインメント科学責任者: John Schulman
  • Matt Knight: セキュリティ責任者
  • 主任科学者: Jakub Pachocki

さらに、退役米軍将軍のPaul M. Nakasoneは取締役会への任命に伴い委員会に参加しました。委員会は、元サイバーセキュリティ担当官のRob JoyceやJohn Carlinを含む外部専門家とも協議します。

直近の目標と90日間レビュー

安全・セキュリティ委員会の主な責任は、重要な安全・セキュリティの意思決定に関して取締役会全体に提言を行うことです。

最初の主要課題は、90日間にわたりOpenAIの既存のプロセスと安全策を評価し、さらに発展させることです。この期間の終了時に、委員会は取締役会全体に提言を提示します。取締役会の審査の後、OpenAIは採用された提言に関する最新情報を公開することを約束しています。ただし、開示は安全・セキュリティ要件に合致する場合に限ります。

フロンティアモデル開発の背景

OpenAIは、次世代フロンティアモデルの訓練が現在進行中であると述べています。同社は、これらのシステムがAGIへの道において組織の能力を次のレベルへ引き上げると期待しています。OpenAIは、同社のモデルが能力と安全性の両面で業界をリードしていると主張する一方で、開発段階における安全・セキュリティに関する「活発な議論」を明確に歓迎しています。

Sources