OpenAI コンテンツの出所と真正性に関する取り組み

OpenAIは、欺瞞的なAI生成メディアに対抗するために、コンテンツ出所に対する多層的アプローチを実装しています

OpenAIはC2PAステアリング委員会に参加し、視聴覚コンテンツの出所に関する透明性を提供する内部検出ツールを開発しています。これらの取り組みは、オープンな業界標準と独自の技術ソリューションを組み合わせ、ユーザーがデジタルコンテンツがOpenAIツールで作成または編集されたかどうかを検証できるよう支援します。

C2PAオープン標準の採用

OpenAIは、デジタルコンテンツ認証のために広く使用されている標準であるCoalition for Content Provenance and Authenticity（C2PA）のステアリング委員会に参加しました。この標準により、クリエイターやプラットフォームは、デジタルコンテンツが生のカメラ出力であるかAI生成画像であるかにかかわらず、その出所を証明できるようになります。

DALL-E 3 と Sora における実装

OpenAIは、ChatGPTおよびOpenAI APIを通じてDALL-E 3で作成または編集されたすべての画像にC2PAメタデータを統合しました。このメタデータは、使用されたツール（例：OpenAIのDALL-E）や実行された操作（例：フォーマット変換や編集）など、画像の履歴を追跡します。また、OpenAIはSora動画生成モデルの本格的なリリース時にC2PAメタデータを統合することも約束しています。

社会的レジリエンス基金

出所標準の採用と理解を促進するため、OpenAIとMicrosoftは200万ドルの社会的レジリエンス基金を設立しました。この基金は、Partnership on AI、International IDEA、AARPのOlder Adults Technology Servicesなどの組織を通じてAI教育を支援します。

独自の検出およびウォーターマーキングツール

OpenAIは、標準メタデータよりも削除に対して耐性が高い内部出所手法を開発しています。

DALL-E 3 画像検出分類器

OpenAIは、研究ラボやジャーナリズム非営利団体が画像検出分類器をテストできるようにResearcher Access Programを開始しました。このツールは、画像がDALL-E 3によって生成された可能性を予測します。内部テストでは以下のパフォーマンス指標が示されています。

  • Accuracy（精度）: DALL-E 3画像の約98%を正しく識別します。
  • False Positives（偽陽性）: AI非生成画像の0.5%未満が誤ってDALL-E 3画像としてタグ付けされます。
  • Robustness（ロバスト性）: クロッピング、圧縮、彩度変更などの一般的な加工でも性能を維持します。
  • Limitations（制限）: 他のAIモデルで生成された画像とDALL-E 3画像を区別する際の性能は低下し、他モデルの画像の5〜10%がDALL-E 3画像としてフラグ付けされます。

音声ウォーターマーキング

OpenAIは、限定的なリサーチプレビューで提供中のカスタム音声モデルVoice Engineに、改ざん耐性のある音声ウォーターマーキングを組み込みました。これは、削除が困難な見えない信号を音声に埋め込むことを意味します。

テキスト出所に関する研究

OpenAIは、リスクが高いと認識される視聴覚コンテンツを優先していますが、テキスト出所ソリューションの研究も積極的に行っています。現在の知見は以下の通りです。

テキストウォーターマーキング

OpenAIは、局所的な改ざん（例：言い換え）に対して有効だが、全体的な改ざんには脆弱なテキストウォーターマーキング手法を開発しました。翻訳システムの使用、別の生成モデルによる言い換え、特殊文字の挿入・削除などの方法でウォーターマークを回避できます。

さらに、研究によれば、テキストウォーターマーキングはAIを執筆ツールとして使用することに対してスティグマを付与し、英語が母国語でない話者に不均衡な影響を与える可能性があります。

テキストメタデータ

OpenAIは、テキストに対して暗号署名されたメタデータの利用を検討しています。メタデータが署名されているため、偽陽性が排除され、AI生成テキストの量が増加するにつれて重要になるとOpenAIは見込んでいます。

Sources