Operation False Witness: OpenAIがAIを活用した被害回復詐欺を阻止

OpenAIは、「Operation False Witness」と名付けられた詐欺活動を阻止しました。この活動は、ChatGPTを悪用して米国の法執行機関や法律専門家になりすまし、詐欺被害者を標的にするものでした。カンボジアを拠点とし、中国系の犯罪ネットワークに関連している可能性が高いこの活動は、AIを使用して専門家らしい法的なコンテンツや偽の資格情報を生成し、脆弱な個人から金銭を搾取していました。

被害回復詐欺の実行

悪意のある実行者は、「Ping（接触）」「Zing（信頼構築）」「Sting（金銭搾取）」という3段階のワークフローを用いて、標的の特定、懐柔、そして詐欺を行っていました。

1. 初期の接触 (Ping)

詐欺師はChatGPTを使用して、少なくとも6つの架空の法律事務所の宣伝コンテンツを作成しました。このコンテンツは、過去の詐欺による経済的損失の回復を求める個人を誘い込むために、ソーシャルメディアやオンライン広告を通じて配布されました。詐欺の兆候には以下が含まれていました：

• 州の弁護士資格の欠如。
• 不自然なウェブドメインの使用。
• 連絡先住所が存在しない。
• メッセージングアプリのみでの通信を指示。

2. 信頼構築 (Zing)

信頼性を確立するために、実行者はChatGPTを使用して専門的な弁護士の口調を模倣しました。彼らは、ソーシャルメディアから盗用した、あるいはAIで生成したプロフィール写真を使用して弁護士のペルソナを作成しました。場合によっては、同じ弁護士の身元が異なる偽の法律事務所で使い回されていました。また、この活動では、被害者を欺くためにFBIのインターネット犯罪苦情センター（IC3）になりすましたウェブサイトも作成されました。

3. 金銭の搾取 (Sting)

信頼が確立されると、詐欺師はChatGPTを使用して前払いを要求するメッセージを作成しました。これらの不正な請求には以下が含まれていました：

• 回収されたとされる資金の解放前に要求される15%の「サービス料」。
• アカウントを「有効化」するための預け金。
• さまざまな「相談料」。

被害者は、これらの支払いを暗号資産で送金し、証拠として取引のスクリーンショットを提供するよう指示されました。

詐欺ワークフローにおけるAIの役割

ChatGPTは、詐欺師の正当性を高めるために、活動の複数の段階で統合されていました。

コミュニケーションと翻訳

ChatGPTの最も頻繁な用途は、プライベートメッセージングアプリ上で詐欺師と標的との間のメッセージを翻訳することでした。具体的には、実行者はモデルに対し、専門的な外観を維持するために「アメリカ英語」で、あるいは弁護士のようなスタイルで返信を書くよう要求していました。

欺瞞的な資料の作成

アカウントの一部は、被害者が外部の助けを求めることを思いとどまらせ、詐欺の信憑性を高めるために、以下のような偽造文書を生成するためにOpenAIのモデルを使用していました：

• 偽の弁護士登録記録。
• 偽造された弁護士会会員証（例：ニューヨーク州弁護士会）。
• 架空の守秘義務契約書。

影響と帰属

OpenAIは総額の経済的損失を独自に検証することはできませんが、入力データは、個々の被害者が数千ドルを騙し取られた可能性があることを示唆しています。この活動は、過去の経済的損失に対する精神的な苦痛を悪用することで、高齢者を含む脆弱な人々を特に標的にしていました。

FBIおよびなりすまされた法律事務所の少なくとも1社は、この特定の詐欺に関して公的な警告を発しています。OpenAIは、詐欺や不正行為へのツールの使用を厳格に禁止するポリシーに従い、関連するアカウントを禁止しました。