OpenAI 子供安全ブループリント

OpenAIは、AI時代における児童性的搾取および虐待（CSAM）と闘うために米国の子供保護フレームワークを強化することを目的とした政策フレームワーク「Child Safety Blueprint」を導入しました。このブループリントは、リスクを特定し対応を迅速化するために、法的、運用的、技術的な戦略を統合して被害を防止することを目指しています。

子供保護のための3つの主要優先事項

Child Safety Blueprintは、生成AIがもたらす進化する脅威に対処するための3つの主要な柱に焦点を当てています。

1. 法的枠組みの近代化

OpenAIは、AI生成・改変されたCSAMに特化して対処するために法律の近代化を提唱し、法的枠組みが生成AIの技術的能力に追いつくことを保証します。

2. 報告と連携の改善

このブループリントは、AIプロバイダーと法執行機関間の連携と報告プロセスの強化を強調し、児童搾取に関するより効果的な捜査を支援します。

3. Safety-by-Design の実装

OpenAIは、AIシステムに直接Safety-by-Designの対策を組み込むことを提案しています。このアプローチは、システムレベルでの誤用を防止・検出し、搾取の試みが発生する前に阻止することに焦点を当てています。

共同開発と業界標準

このフレームワークは、National Center for Missing and Exploited Children（NCMEC）、Thorn、Attorney General Alliance（AGA）などの主要な子供安全団体や専門家と協力して開発されました。特に、AGAのAIタスクフォース共同議長であるノースカロライナ州司法長官ジェフ・ジャクソンとユタ州司法長官デレック・ブラウンが関与しています。

レイヤードディフェンスと予防アーキテクチャ

州司法長官ジェフ・ジャクソンとデレック・ブラウンによれば、生成AIに対する効果的な保護策は単一の技術的制御ではなく「レイヤードディフェンス」を必要とします。彼らは、以下の組み合わせが必要であると強調しています。

検出メカニズム
拒否メカニズム
人的監視
新たに出現する誤用パターンへの継続的適応

AIと子供安全に関する専門家の見解

産業界と子供安全のリーダーは、リスクとセクター横断的協力の必要性の両方を強調しています。

"生成AIは、オンライン上の児童性的搾取という犯罪を、障壁を低くし、規模を拡大し、新たな形態の被害を可能にするなど、極めて憂慮すべき方法で加速させています。" — Michelle DeLaune, President & CEO, National Center for Missing & Exploited Children

"予防アーキテクチャを上流で正しく構築することは、業界が子供安全に対して行える最も高いインパクトを持つ投資です。" — State Attorneys General Jeff Jackson and Derek Brown