OpenAIによる米国のAI安全ガバナンスと逆連邦主義について
OpenAIによる米国のAI安全ガバナンスと逆連邦主義について
逆連邦主義を通じた米国のAI安全ガバナンス
OpenAIは、『逆連邦主義』に基づく国家レベルのAI安全フレームワークを提唱しています。ここで、複数の州で整合された立法が事実上の国家標準を作り出します。このアプローチは、AIラボだけではなく民主的な政府が重要なフロンティア安全の意思決定を行うことを確保し、米国主導のグローバルAIフレームワークの基盤を築くことを目的としています。
州レベルの整合と事実上の国家標準
正式な連邦フレームワークがない状況では、OpenAIは州がミラーレッド法を成立させることで共有の方向性を確立できると主張しています。これにより、イノベーションを妨げたり、スタートアップや中小企業のリソースを安全ではなく規制遵守に向ける「規制のパッチワーク」を防ぐことができます。
OpenAIによると、カリフォルニア州、ニューヨーク州、イリノイ州はすでに3つの核心要素に整合したフロンティア安全法を進めています：
- Documented Safety Frameworks: フロンティアモデルのリスク評価の要件およびそれらの評価と結果の公開開示。
- Incident Reporting: 重大な安全インシデントの義務付けられた報告。
- Governance and Accountability: 独立した客観的な監査を使用してコンプライアンスを確保。
OpenAIは、カリフォルニア州が核心の開示フレームワークを確立し、ニューヨーク州がアプローチの跨管轄可能性を示し、イリノイ州が開示の独立検証の要件を追加したことに言及しています。
連邦統合と国家安全保障
OpenAIは、フロンティアAIが国家安全保障リスクを伴い、個々の州の能力を超える技術的レビューを含むため、連邦フレームワークが不可欠であると主張しています。組織は、州が国家安全保障の意思決定を管理したり、機密システムへのアクセスを必要とする高度に技術的なレビューを行うべきではないと主張しています。
連邦テストとCAISIの役割
OpenAIは、連邦政府が最も高度なシステムのテストと評価をリードするべきだと提案しています。具体的には、Center for AI Standards and Innovation (CAISI) を強化して、害が発生する前にそれを防ぐために必要な持続可能な連邦能力を提供し、事後の責任に依存しないようにすることを提案しています。
サイバー評価と政府アクセス
トランプ政権は現在、サイバーセキュリティに関する特に能力の高いAIモデルの米国政府テストのためのフレームワークを開発する専門家と協力しています。OpenAIはこのフレームワークが早期8月に整備されることを期待しています。一貫した繰り返し可能なテストアプローチは、悪意のある行為者に対抗するために十分に早く、政府、重要インフラの防衛者、および同盟国に高度なAIツールを提供するために必要とされています。
法律の進展とフロンティア安全ブループリント
OpenAIは、ジェイ・オーバーノルテ下院議員やロリ・トラハン下院議員などの議会メンバーの現在の提案を、連邦フレームワークへの生産的なステップと見ています。この立法をガイドするために、OpenAIの「フロンティア安全ブループリント」は3つの主要な要件を示しています：
- Federal Leadership in Testing: 国家安全保障と公共の安全に対する最も重大なリスクがあるため、連邦政府は高度なシステムの評価をリードしなければなりません。
- Company Requirements: 最も能力の高いシステムの開発者は、独立した監査、インシデント報告、強固なセキュリティ基準、および whistleblower保護を遵守しなければなりません。
- Mutual Reinforcement: 連邦および州の取り組みは互いに補完し合うべきであり、州はAI教育、青少年保護、環境政策などのフロンティア以外の安全問題において「民主主義の実験室」として引き続き機能すべきです。
グローバルAIフレームワークへの進展
OpenAIは、一貫した国家標準が国際的なAI標準フレームワークをリードするための前提条件であると主張しています。このビジョンには、受け入れられた標準を確立し、リスクと能力の公平な分析を提供し、ルールを守る国家および企業に技術を提供する米国主導の国際フォーラムが含まれます。このグローバルなアプローチは、民主的価値およびAIに対する民主的ビジョンに基づくことを意図しています。