サム・オルトマンのAIガバナンスに関する国連安全保障理事会演説
TL;DR
サム・オルトマンは国連安全保障理事会に出席し、人工知能（AI）が強力な人間の監視下に置かれ、協調的な国際基準によって管理されなければならないと強調した。これは、権力の集中や制御の喪失を防ぐためである。
演説の意義
この発言は、OpenAIが民主的で人間中心のAI開発に公にコミットしていることを示し、グローバル機関が実行可能な安全対策と監視枠組みを構築するよう呼びかけている。
核心メッセージ：強力なシステムに対する人間のコントロール
- 人間の主体性は譲れない – オルトマンは、AIが人間の判断や価値を補完するものであり、代替するものであってはならないと強調している。
- 制御の喪失リスク – 彼は、自己改善が連鎖的に進むことで、制度的な介入能力を追い越す可能性があると警告し、どの確率推定であれ、あらゆる深刻なリスクは許容できないと述べている。
- 権力の集中の危険 – 企業、国家、あるいは個人といった単一の主体が最先端モデルを独占的に扱うことは、世界人口に一つの世界観を強制する可能性を生む。
"これらのどのレベルもまったく受け入れがたい。そして、人間のコントロール下に保てるという極めて強い根拠を持てないモデルの訓練はすべきではない。" – サム・オルトマン
OpenAIが提唱する三つの指針
- 人間中心の意思決定 – アライメント作業は、システムが人間のコントロール下にあり、広く共有される人間の価値を反映していることを保証しなければならない。
- すべての人に利益をもたらす – AIは人間の主体性を代替するのではなく、科学的発見の加速、医療、教育、経済生産性の向上を促進すべきである。
- 個人のエンパワーメント – 情報技術は個人の自由とコミュニティの問題解決能力を拡大すべきであり、OpenAIは主人公ではなく、支援者としての立場を取るべきである。
潜在能力の実証による証拠
- 数学的ブレークスルー – OpenAIのモデルは数年間で小学校レベルの数学からミレニアム賞問題（ナビエ–ストークス方程式）の解決にまで到達した。これは能力成長の速さを示している。
- 応用の関連性 – ナビエ–ストークス方程式の解決は航空機設計、天気予報、医療研究に影響を与え、AIが現実世界の進歩を促進できる可能性を強調している。
国際協力の呼びかけ
- 基準の策定 – オルトマンは、AIの能力を測定し、リスクを評価し、セーフガードを検証するための、国家的および国際的な補完的基準の構築を提案している。
- 事故報告 – 失敗を災害に発展させる前に共有できるよう、迅速かつ正確な分類・報告プロトコルの導入を訴えている。
- 安全な通信経路 – 政府、重要なインフラ運営者、技術専門家間で、脆弱性情報を交換できる専用のリンクが必要である。
- 中立的な基準 – いかなる枠組みも既存の主体を固定化したり、特定のビジネスモデルを優遇したりしてはならない。オープンソースとクローズドソースの両開発者を支援すべきである。
"AIが民主的であるためには、最も重要な決定はサンフランシスコの研究室だけでなされることはあってはならない。それらは民主的プロセスによって、そして人々に責任を負う政府によって形作られるべきである。" – サム・オルトマン
オルトマンが描く分岐点
- 否定的な道 – 権力の集中、不透明な意思決定、人々に強制される技術
- 肯定的な道 – 民主的監視、生活を向上させる科学的進歩、広範な参加、個人の主体性の強化
オルトマンは、後者のビジョンこそがOpenAIが協力して構築しようとしている未来であると結論づけている。
政策立案者およびAIコミュニティへの影響
- 緊急性 – AIのタイムラインの急速な圧縮は、反応的な対応ではなく、即時な政策行動を必要としている。
- 協働 – OpenAIは政府や専門家と協力する意思を示しており、より良いアイデアや共同問題解決を歓迎している。
- 責任のベンチマーク – この演説は、他のAIラボが安全へのコミットメントを明確にし、透明性と人間中心の開発手法を採用するための公共の基準を設けている。
この記事は、OpenAIが2026年9月23日に国連安全保障理事会に発表したサム・オルトマンの演説全文を要約したものである。