OpenAI 打擊 AI 協助的浪漫誘騙與養豬詐騙
OpenAI 已封禁一批由位於柬埔寨的網路使用的 ChatGPT 帳號，以阻止「養豬」詐騙。這些行動者利用 AI 翻譯對話並產生社群媒體互動，誘使目標投入詐騙性的加密貨幣與外匯投資。
目標社群媒體互動
該詐騙網路使用 ChatGPT 產生日文、中文與英文的短評論，以在 Facebook、X 與 Instagram 等平台上與潛在受害者建立聯繫。
目標策略
- 人口統計：此行動主要針對 40 歲以上的男性，常見於醫療領域的從業者。
- 興趣：詐騙者特別鎖定與高爾夫相關的貼文，以提升互動率。
- 視覺欺騙：帳號使用年輕女性的頭像，OpenAI 評估這些頭像是從真實的網紅與模特兒複製，而非 AI 生成。
- 手法：評論常以問題結尾以促使回覆，有時甚至針對數月或數年前的貼文。
AI 驅動的人格與對話管理
除了最初的公開互動外，這些行動者還利用 OpenAI 的模型管理持續的對話，並維持虛假的人格。
翻譯與語氣
這些行動者的主要語言似乎是中文。他們使用模型將訊息從中文翻譯成日文或英文，反之亦然，以與不同語言區域的目標溝通。
人格生成
詐騙者向模型提供大量傳記細節，以指導 AI 產生回覆。這些虛假人格通常包括：
- 特定的姓名、職業、所在地與學歷背景。
- 興趣與聲稱「涉獵」線上投資的陳述。
- 特定的「調情年輕女性」語氣。
「養豬」工作流程
OpenAI 辨識出這些行動者使用的六步工作流程，將目標從最初接觸推進至金融詐騙：
- 公開互動：在社群媒體上發表評論（常關於高爾夫）以啟動聯繫。
- 直接訊息：將對話轉移至私訊，使用 AI 生成的對話評論。
- 安全訊息：促使目標轉至 WhatsApp、LINE 等安全應用程式，常以不信任社群媒體或物流藉口為由。
- 浪漫互動：產生日益親密且充滿情感的訊息，以建立信任。
- 金融互動：吹噓加密貨幣、黃金或外匯投資的高回報，常將成功歸功於金融親屬。
- 詐騙：說服受害者將資金轉入交易應用程式，並在受害者嘗試提領獲利時製造藉口（如必須支付手續費）。
影響與基礎設施
OpenAI 指出，雖然許多嘗試以「失敗開局」告終，目標識破詐騙，但仍有對話提及數千美元的交易。
使用的工具
該網路使用多樣化的工具以規避偵測並管理目標，包括：
- 訊息服務：WhatsApp、LINE、X、Facebook、Instagram。
- 隱私工具：Apple 的「隱藏我的電子郵件」功能。
- 金融平台：各種加密貨幣與外匯平台。
OpenAI 表示，其政策嚴格禁止將其工具用於詐騙或欺詐。公司已將關於此被阻斷網路的資訊分享給業界同儕與相關主管機關。