OpenAIのAGIの分配と開発のための戦略計画
OpenAIのAGIの分配と開発のための戦略計画
OpenAIは、人工一般知能（AGI）が人類全体に利益をもたらすように、力とAI機能への広範なアクセスの分配を優先する戦略計画を発表しました。同社は、少数のエンティティによる力の集中を防ぎ、代わりにAIが個人が自分の目標を追求することを可能にするレジリエントなエコシステムを育むことを目指しています。
三つの主要な戦略的目標
OpenAIは、ポストAGI世界への移行を推進するために、3つの主要な目標を追求しています：
- 自動化されたAI研究者の構築: OpenAIは、研究プロセスを加速および自動化できるAIシステムを開発する意向です。同社は、2028年3月までに、その研究の相当な部分が人間の研究者と連携して作業するAIシステムによって行われる可能性があると考えています。これは、整合性問題への進展のための重要な要件と見なされています。
- 経済の加速: 目標は、科学の進歩、生産性、経済成長を促進し、その結果得られる経済的利益が社会全体に広く共有されるようにすることです。
- パーソナルAGIの提供: OpenAIは、地球上のすべての人にパーソナルAGIを提供し、個人が好きなようにテクノロジーを使用できるようにすることを目指しています。
OpenAIの第三フェーズ
同社は、現在の移行を「第三フェーズ」の進化として説明しています：
- フェーズワン: AGIに向けた基礎研究に焦点を当てていました。
- フェーズツー: 製品会社へと移行し、実際の世界にシステムを展開し、ユーザーとの相互作用から学んで安全性と整合性を確保していました。
- フェーズスリー: 高度なAIを豊富で、手頃で、安全で、アクセス可能なものにすることに焦点を当てています。現在の優先事項は、フロンティア能力を人々や組織が繁栄できる実用的なツールに変換することです。
人間の主体性と判断の役割
OpenAIは、すべてのタスクの完全な自動化が望ましい未来ではないと述べています。代わりに、AIは人間の能力を補完することを意図しています。同社は、AIシステムがより能力を高めるにつれて、方向性を設定し、トレードオフを行い、判断を適用し、仕事に価値と責任をもたらす人間の役割がより重要になると強調しています。人間の長期的な役割は、「価値があること」を決定することになります。
グローバルな調整と安全性
災害的なリスクを軽減し、商業および国家間の競争のインセンティブを管理するために、OpenAIは先進的なAIの取り組みを調整する国際組織の創設を提唱しています。この組織は共有の安全基準を確立し、必要に応じてフロンティア開発のペースを緩めるなどの行動を調整することで、社会のレジリエンス、安全性、および整合性が歩調を合わせられるようにする可能性があります。
AIのレジリエンスと力の分配
OpenAIは、「AIレジリエンス」を、AI駆動の混乱を予測し、回復するために社会が実装しなければならない集合的なシステム、組織、および個人として定義しています。同社は、力の集中が脆弱性を生み出し、力の広範な共有が社会をよりレジリエントで適応可能にすると主張しています。したがって、同社はアクセス、プライバシー、手頃な価格、および公的な監督が成功するAIの未来に不可欠な要素であると見ています。