OpenAI 破壞 VAGue Focus 行動的影響活動

OpenAI 已經破壞了「Operation VAGue Focus」——一個利用 ChatGPT 帳號產生社群媒體內容、翻譯訊息以及進行社交工程嘗試的網路。該行動利用 AI 創建冒充歐洲或土耳其專業人士的角色，以收集情報並影響線上討論。

威脅行動者概況與歸屬

OpenAI 識別出一個小型的 ChatGPT 帳號網路，主要在中國大陸的工作時間內運作，並以中文向模型發出提示。這些行動者利用模型建立前線組織，以促進情報收集與分析。

此類活動使用了三個主要的掩護實體：

  • Focus Lens News：描述為一家獨立的歐洲基地分析與報導機構。
  • BrightWave Media Europe：一個以地緣政治為焦點的前線組織。
  • Visionary Advisory Group (VAG)：一個據稱位於土耳其的地緣政治諮詢服務。

作業工作流程

Operation VAGue Focus 在四個主要功能領域中使用 ChatGPT，以支援其隱蔽活動：

1. 隱蔽影響與角色創建

行動者利用模型產生社群媒體貼文與線上角色的個人簡介。這些角色冒充 X（前身為 Twitter）上的記者與地緣政治分析師，以散布內容並建立可信度。

2. 政治通信

這些帳號被用來潤飾與翻譯致美國參議員的通信，內容關於行政官員的提名。OpenAI 指出，無法自行確認此通信是否真的寄出。

3. 網路工具查詢

行動者向模型詢問有關電腦網路攻擊與利用工具的基本資訊。OpenAI 報告稱，模型僅提供一般說明，且行動者的問題缺乏精緻度，顯示其在網路作業方面的技術專長較低。

4. 社交工程與情報抽取

ChatGPT 被用來將中文訊息翻譯成英文，旨在與未知目標互動並抽取資訊。這些包括：

  • 在社群媒體上對研究人員與記者的公開回覆。
  • 用於私人接觸的直接訊息。
  • 提供酬勞（最高每小時 2,000 美元）以進行關於美國經濟與金融政策的訪談。
  • 提供付費購買機密文件的提議。

技術指標與情報收集

該行動的情報收集工作聚焦於冒充歐洲或土耳其的專業人士。雖然 Visionary Advisory Group (VAG) 網站提供土耳其語與英文版，但一次技術疏失暴露了行動者的來源：英文版選單中出現了中文「聯絡」二字，這是整個域名唯一的中文文字。

此外，行動者聲稱該行動使用機器學習、自然語言處理與自動化資料抓取，以識別具影響力的社群媒體聲音與主題，然而 OpenAI 無法自行驗證這些說法。

影響評估

OpenAI 評估此行動的公開部分影響力低。根據布魯金斯學會的影響行動 Breakout Scale，此活動被歸類為 Category 2（低端），意味著雖然活動遍及多個平台，但幾乎沒有證據顯示真實使用者廣泛分享或參與內容。

大多數相關的社群媒體帳號未能獲得顯著的真實互動。與 Focus Lens News 相關的一個帳號擁有 17,000 名追隨者，但 OpenAI 指出該帳號可能已被入侵並重新利用，因其於 2014 年建立，沉寂十年，直至 2024 年中才再次活躍。

Sources