OpenAI トートレポート：濫用的通報活動の阻止

対象メディアとプラットフォームの焦点

「Tort Report」作戦は、Facebook と YouTube 上の独立系ベトナムメディアを標的としました。関与したアクターは、OpenAI のモデルを使用して英語とベトナム語の短いコメントを生成し、特定の投稿や動画に対する通報として提出することを意図しました。

技術的な行動と手法

この作戦は、動画そのものの詳細な内容ではなく、動画のタイトルと説明に焦点を当てました。アクターは AI モデルを使用して動画全体の内容を文字起こししたり取り込んだりしようとはしませんでした。モデルに提供された入力がタイトルとテキストに限られていたため、生成された結果は通常、一般的なもので、違反の具体的な証拠を示さずに「動画がプラットフォームの規則に違反している」と述べるだけでした。

影響評価と有効性

OpenAI は、この作戦をブレイクアウトスケール上のカテゴリ1（影響作戦（IO）における最低レベルの影響）として評価しています。この評価は以下の要因に基づいています：

• コンテンツの永続性：報告書作成時点で、作戦の対象となった Facebook または YouTube の投稿は一つも削除されていませんでした。
• 提出の証拠欠如：可視性が限られているため、OpenAI はプラットフォームに実際に通報が提出されたかどうかを確認できませんでした。
• 効果の欠如：プラットフォーム上の対象に対して観測された効果はなく、通報が提出されたとしてもコンテンツの制限やブロックに効果がなかったことを示しています。

文脈的比較

OpenAI は、この活動が 2021 年12月に Meta が説明した濫用的通報パターンと類似していると認識しています。