Operation False Witness：OpenAI 瓦解 AI 驅動的詐騙追回行動
OpenAI 瓦解了一項名為「Operation False Witness」的詐騙行動，該行動利用 ChatGPT 冒充美國執法部門和法律專業人士，以詐騙受害者。該行動可能源自柬埔寨，並與中國主導的犯罪網絡有關，利用 AI 生成聽起來專業的法律內容和欺騙性證書，從弱勢群體手中騙取金錢。
詐騙追回行動的執行
這些惡意行為者採用了「Ping（接觸）、Zing（建立信任）、Sting（詐騙）」的三階段工作流程來識別、誘騙並詐騙目標對象。
1. 初步接觸 (Ping)
詐騙者使用 ChatGPT 為至少六家虛構的律師事務所製作宣傳內容。這些內容透過社交媒體和線上廣告傳播，以吸引那些試圖追回先前詐騙損失的個人。詐騙跡象包括：
- 缺乏州律師執照。
- 使用不協調的網域。
- 聯絡資訊中的街道地址不存在。
- 指示僅透過通訊軟體進行溝通。
2. 建立信任 (Zing)
為了建立信譽，行為者使用 ChatGPT 來模仿專業律師的語氣。他們創建了律師角色，並使用從社交媒體竊取或由 AI 生成的個人資料照片。在某些情況下，同一個律師身分會在不同的虛假律師事務所中重複使用。該行動還建立了一個冒充 FBI 網路犯罪投訴中心 (IC3) 的網站，以誤導受害者。
3. 金錢詐騙 (Sting)
一旦建立信任，詐騙者便使用 ChatGPT 起草要求預付款的訊息。這些欺詐性收費包括：
- 在發放據稱已追回的資金前，要求支付 15% 的「服務費」。
- 用於「激活」帳戶的押金。
- 各種「諮詢費」。
受害者被指示透過加密貨幣發送這些款項，並提供交易截圖作為證明。
AI 在詐騙工作流程中的角色
ChatGPT 被整合到該行動的多個階段中，以增強詐騙者所營造的合法性。
溝通與翻譯
ChatGPT 最頻繁的用途是在私人通訊軟體上翻譯詐騙者與目標之間的訊息。具體而言，行為者要求模型以「美式英語」或律師風格撰寫回覆，以維持專業形象。
製作欺騙性材料
部分帳戶使用 OpenAI 模型生成偽造文件，旨在阻止受害者尋求外部協助並增強詐騙的可信度，包括：
- 偽造的律師註冊記錄。
- 偽造的律師公會會員卡（例如：紐約州律師公會）。
- 虛假的保密協議。
影響與歸因
雖然 OpenAI 無法獨立核實總財務損失，但輸入數據顯示，個別受害者可能被騙取了數千美元。該行動特別針對弱勢群體（包括老年人），利用他們對先前財務損失的情緒困擾進行詐騙。
FBI 和至少一家被冒充的律師事務所已針對此特定詐騙發布了公開警示。OpenAI 已根據嚴格禁止將其工具用於欺詐或詐騙的政策，封禁了相關帳戶。