OpenAIが次世代AIのための基準を構築

OpenAIは、先端AI開発のためのグローバル技術基準の策定に関する提案を発表しました。この取り組みは、AIシステムが自身の研究開発においてより自律的になる（いわゆる再帰的自己改善（RSI））プロセスが進む中で、人間の価値観と人間のコントロールの下に保たれるようにすることを目的としています。

再帰的自己改善（RSI）とAI研究

自動化されたAI研究により、AIシステムは次世代AIの開発に必要な作業の一部を担うことができます。この再帰的自己改善（RSI）プロセスがより自動化されるにつれて、AIの進歩は急速に加速する可能性があります。

OpenAIは、RSIに関連するいくつかの潜在的な利点とリスクを指摘しています。

• 利点: 自動化されたAI研究は、高度な知能のコストを低下させ、人々の生活を向上させ、能力のあるAIに対する防御策を構築するための自動化されたAI安全研究者として機能します。
• リスク: 完全に自律的なRSIは、人間がAI開発に対して実質的なコントロールを失う可能性があり、より危険で、人間の価値観と整合性の低いシステムを生み出す結果となるでしょう。OpenAIは、安全に実施できる場合を除き、完全に自律的なRSIを追求すべきではないと述べています。

国際基準の必要性

OpenAIは、分断を防ぎ、集団行動の問題を解決し、各国間の能力の不均衡に対処するために、国際基準が必要であると主張しています。高品質な証拠の共通定義や、技術的保護策の合意された基準がなければ、各国が独立して行動し、安全対策を無視する可能性のある「底辺競争」のリスクが生じます。

これらの課題は、オープンモデル開発者とクローズドモデル開発者双方に適用されます。OpenAIは、研究施設が安全に対する個人的な責任を負う一方で、国際基準が外部のステークホルダーが技術の進展に声を上げる手段を提供すると強調しています。

グローバル基準のための提案フレームワーク

OpenAIは、米国が他の国々と協力してこれらのグローバル技術基準を策定する取り組みを主導すべきだと提案しています。提案されるフレームワークは、以下の2つの主要な要素から構成されます。

1. 補完的な国家および国際基準のメカニズム

OpenAIは、オーストラリア、カナダ、ドイツ、フランス、ケニア、日本、韓国、シンガポール、インド、英国などに位置するAI安全研究所の既存ネットワークおよびAI基準とイノベーションセンター（CAISI）を活用することを提案しています。この取り組みは、能力ベンチマークによって測定される先端AIモデルおよび開発者に焦点を当て、自動化されたAI研究のリスク・ベネフィット管理を支援します。

これらの基準の主な特徴は以下の通りです：

• 技術的基盤: 能力測定、リスク評価、保護策の十分性に関する共通の基盤を提供します。
• 非拘束性: これらの基準はライセンスや義務的な事前レビューではありません。各国政府が自国の法制度にどのように組み込むかを独自に決定します。
• 包括的な開発: オープンモデル開発者、クローズドモデル開発者、学術界、独立した専門家を含む幅広い関係者と協議することで、特定の企業やビジネスモデルに有利にならないようにします。

2. 共通の測定基準とインシデント報告プロトコル

AI研究の自律性が高まる中で、OpenAIは以下の基準の策定を提案しています：

• RSI関連の進捗の評価: 企業内で自律的な研究がどれだけ行われているかを測定します。
• 人間の監視: 自動化された研究プロセスが、即時的人間によるレビューを引き起こすべき条件を定義します。
• 主権者間の通信: 政府および重要なインフラ運営者間で、国家安全保障上の懸念や新たな脆弱性について安全なチャネルを確立します。

米国の戦略的位置づけ

OpenAIは、AI開発のペースを調整することは、整合性研究が能力の進展を常に上回るようにすることにあると主張しています。彼らは、米国のAI産業が技術の先端に位置し、グローバルな金融、貿易、防衛において特権的な立場にあるため、この取り組みを主導するのに最も適していると述べています。この取り組みを主導することで、米国は分断され、対立が生じるシステムに反応するのではなく、グローバルAI枠組みを自ら塑造できるようになります。