OpenAI 超知能ガバナンス提案

OpenAI は、非常に高度な AI システムの開発が安全であり、社会に円滑に統合されることを保証するために、超知能のガバナンスに関するフレームワークを提案しました。この提案は、開発者間の調整、国際的な規制機関の設立、そして技術的安全性研究の推進に焦点を当てています。

国際的な調整と開発速度

安全性を維持し、社会統合を確実にするために、OpenAI は主要な AI 開発活動が調整されるべきだと提案しています。この調整は、現在の取り組みを政府主導のプロジェクトに統合する形や、フロンティアにおける AI 能力の成長率を特定の年間率に制限するという共同合意など、いくつかの形を取ることが考えられます。

OpenAI は、このプロセスにおいて個々の企業が極めて高い責任基準を守らなければならないことを強調しています。

グローバル規制機関の設立

OpenAI は、超知能の取り組みを監督するために、国際原子力機関（IAEA）に類似した国際機関の設立を提案しています。この機関は、一定の能力または計算量の閾値を超えるシステムが出現した際に発動されます。

この提案された機関の主な機能は次のとおりです:

• システムの検査と監査の要求。
• 安全基準への適合性テスト。
• 展開レベルおよびセキュリティレベルに対する制限の設定。
• 実装可能性を確保するための計算量とエネルギー使用量の追跡。

提案では、この機関は存在的リスクの低減に専念すべきであり、各国が管理すべきコンテンツモデレーションポリシー（AI が何を言うことが許可されるかの定義）などの問題には対処しないことが明記されています。

技術的安全性と公共の監視

超知能の安全性を確保することは現在も未解決の研究課題です。OpenAI と他の組織は、超知能を安全にするためのこの技術的課題の解決に多大な努力を投じています。

技術的安全性を超えて、強力なシステムのガバナンスとその展開決定には強力な公共の監視が必要です。OpenAI は、AI システムの範囲とデフォルトを決定する民主的プロセスを提唱すると同時に、個々のユーザーが設定された範囲内で AI の挙動を大きく制御できるようにすべきだと主張しています。

超知能開発の根拠

OpenAI は、リスクがあるにもかかわらずこの技術の開発を継続すべき主な理由を二つ挙げています。

1. 社会的利益: この技術は、経済成長の大幅な促進、生活の質の向上、そして教育、創造的作業、個人の生産性などの分野における複雑なグローバル課題の解決につながると期待されています。
2. 不可避性: OpenAI は、超知能の創出を止めることは「直感に反してリスクが高く、困難」であると主張しています。開発コストの低下、関与するアクターの増加、そして現在の技術的トレンドにより、開発を止めるには世界的な監視体制が必要ですが、それでも失敗する可能性があります。したがって、焦点は開発を正しく行うことに置くべきです。