OpenAI、EUのAI生成コンテンツの透明性に関する行動規範への支援

OpenAIは、欧州委員会のAI生成コンテンツの透明性に関する行動規範への支援を発表しました。この取り組みは、ユーザーがAI生成コンテンツの出典と起源を特定できるより透明性の高いデジタルエコシステムを構築することにより、EU AI法を施行することを目的としています。

AIガバナンスにおけるコンテンツの出所の役割

コンテンツの出所は、コンテンツの出典、作成または編集プロセス、そして真正性についてユーザーに文脈を提供します。この透明性は、偽情報キャンペーンからデジタルエコシステムを保護し、選挙の信頼性を支えるために不可欠です。

OpenAIは、効果的な出所手法は相互運用可能であり、ニュース機関、デバイスメーカー、AIプロバイダー、オンラインプラットフォームを含むバリューチェーン全体で共同構築されるべきだと主張しています。

OpenAIの多層的出所戦略

メタデータが削除されたりファイルが変更されたりしても、出所シグナルが耐性を保つように、OpenAIはさまざまな技術的シグナルと製品セーフガードを組み合わせた多層的アプローチを採用しています：

技術的出所シグナル

• C2PA Content Credentials: OpenAIは2024年に、ChatGPTおよびOpenAI APIを通じて作成または編集されたDALL·E 3の画像にC2PAメタデータの統合を開始しました。
• Dual-Signal Marking: ChatGPT、Codex、およびOpenAI APIを介して生成された画像は、豊富な情報のためのC2PAメタデータと、さまざまなコンテキストでシグナルを保持するためのSynthIDウォーターマークの両方を利用します。
• Public Verification: openai.com/verify にあるツールを使用すると、ユーザーはサポートされている画像にOpenAIに関連する出所シグナルが含まれているかを確認できます。

エコシステムのコラボレーションとセーフガード

• Open Standards: OpenAIは2024年にC2PAステアリング委員会に参加し、ソフトウェア企業、カメラメーカー、メディア組織と協力しています。
• Product Safeguards: 出所シグナルは、分類器、報告チャネル、執行プロセスとともに使用され、類似性の悪用や選挙関連の欺瞞などの欺瞞的なAI使用を軽減します。

実装の課題と今後の展望

出所は、大きな技術的制限がある新興分野と説明されています。メタデータは削除される可能性があり、ウォーターマークは劣化する可能性があり、ラベルはユーザーが遭遇する場所でのみ効果があります。

OpenAIは、現在の技術的制限を考慮して、行動規範の実装は柔軟であり、実際に機能する方法に基づくべきだと強調しています。同社は、AI事務局およびEU加盟国と協力しながら、相互運用可能な標準の開発を続け、検証ツールの改善を行っていきます。