OpenAI AIの進歩と推奨事項

OpenAIはAIの進歩のためのロードマップを発表し、システムが短期間のタスクの実行から2026年と2028年に自律的な科学的発見を行うように移行すると予測しています。この軌跡は、現在の消費者によるAIのチャットボットとしての利用と、システムが複雑な知的問題を解決する実際の能力の間のギャップが広がっていることを強調しています。

AI能力の軌跡と経済的影響

AIの能力は急速に進歩しており、特にソフトウェアエンジニアリングにおいて、システムは数秒で終わるタスクから1時間以上かかるタスクへと進化しています。OpenAIは、システムがすぐに人間の労力で数日または数週間かかるタスクを処理できるようになると予想していますが、人間の労力で数世紀かかるタスクを処理する能力は現在未定のフロンティアであるとも指摘しています。

主要な指標とマイルストーンには以下が含まれます：

Intelligence Cost: 知能単位あたりのコストは、過去数年間で年間約40倍減少していると推定されています。
2026 Forecast: AIは「非常に小さな発見」を行う能力があると予想されています。
2028 Forecast: OpenAIは、システムが「より重要な発見」を行う能力があると確信しています。

OpenAIは社会の慣性により日常生活は変わらないと感じると予測していますが、経済的移行は困難になる可能性があり、広く分配された豊かさの世界に対応するために基本的な社会経済契約を変更する必要があることを認めています。

スーパーインテリジェントシステムの安全と整合性

OpenAIは、スーパーインテリジェントシステムに関連するリスクを潜在的に災害的であると見なしています。組織は、堅牢な整合性と制御がなければスーパーインテリジェントシステムを導入すべきではないと主張しており、これにはさらなる技術的作業が必要です。

これらのリスクを軽減するため、OpenAIは以下を推奨します：

Shared Safety Principles: フロンティアラボは共有安全原則に合意し、新たなリスクに関する研究と学び、レースダイナミクスを減らすメカニズムを交換すべきです。
Control Evaluations: AIの制御評価のための業界標準を確立することが必要なステップとして提案されています。
Empirical Study: 安全と整合性に関する実証研究を活用し、システムが自己改善に近づく際に開発を遅らせるべきかどうかを含む、グローバルな意思決定に情報を提供すべきです。

規制枠組みとガバナンス

OpenAIはAIの進行に関する2つの主要な考え方を特定し、それぞれに異なるガバナンスアプローチを提案しています：

シナリオ1: AIとしての「通常の技術」

このシナリオでは、AIは印刷機やインターネットなどの以前の技術革命と同様に進展します。ガバナンスは以下に焦点を当てるべきです：

Promoting Innovation: 従来の公共政策ツールを使用する。
Privacy and Misuse: 連邦政府と提携し、会話のプライバシーを保護し、悪意ある行為者による悪用に対抗する。
Current Levelsでの最小限の規制: OpenAIは、現在の能力レベルのAIは最小限の追加規制負担で広く普及すべきだと主張しており、具体的には「50州のパッチワーク」の法律を避けるべきだとしています。

シナリオ2: 超高速スーパーインテリジェンス

このシナリオでは、スーパーインテリジェンスが前例のない速度で発展し、普及します。ガバナンスには以下が必要です：

Executive Coordination: 複数の国の行政部門と安全研究所との緊密な協力。
Targeted Mitigation: バイオテロリズムへのAI応用の防止と自己改善型AIの影響の管理に特化した焦点。
Accountability: 非伝統的な方法を通じて公共機関への説明責任を維持する。

AIレジリエンスエコシステム

OpenAIは、サイバーセキュリティ分野に類似した「AIレジリエンスエコシステム」の創設を提案しています。サイバーセキュリティが暗号プロトコル、監視システム、緊急対応チームを確立してインターネットを信頼できるものにしたように、AIにも同様のソフトウェアと標準のエコシステムが必要です。OpenAIは、国家政府が産業政策を活用してこのエコシステムの開発を促すべきだと提案しています。

個人のエンパワーメントとアクセス

OpenAIは、高度なAIを電気、清浄な水、食料と同様の将来の基盤となるユーティリティと見なしています。組織は、これらのツールを広く利用可能にし、広い社会的範囲内で使用される限り、個人が目標を達成できるようにエンパワーすることを提唱しています。