OpenAI 破壞針對半導體與學術領域的網路作戰

OpenAI 破壞與中國大陸相關的網路作戰

OpenAI 已封禁了一批被威脅行動者使用的 ChatGPT 帳號，這些帳號用於支援符合中國大陸情報需求的網路作戰。這些行動者主要利用模型提升現有工作流程的效率，特別是用於製作本地化的網釣內容與除錯例行的惡意軟體工具，而非開發全新攻擊能力。

威脅行動者識別與目標設定

OpenAI 發現此帳號群與業界合作夥伴追蹤的威脅組織 UNK_DROPPITCH（Proofpoint）和 UTA0388（Volexity）有重疊。至少有一次，註冊 ChatGPT 帳號所使用的電子郵件地址亦被用來發送網釣訊息。

這些作業顯示出符合中國大陸情報需求的特徵，具體表現在：

  • 語言使用： 大量使用中文。
  • 目標設定： 針對台灣的半導體產業、美國的學術界與智庫，以及與批評中共的族群與政治團體相關的組織（稱為「五毒」）。

LLM 使用行為分析

威脅行動者使用 ChatGPT 加速例行任務並提升其社交工程與技術工具的品質。其開發能力被描述為具備技術能力但缺乏複雜性，證據是雖然討論 C2 流量的 AES 加密細節，卻仍使用簡單的靜態金鑰。

網釣與社交工程

行動者遵循公式化的作業手冊，製作高度針對性的網釣內容，語言包括英文、日文以及簡體中文與繁體中文。他們利用模型來：

  • 產生簡潔、正式且禮貌的電子郵件，模擬學術、產業或會議人物的身份。
  • 調整語氣並替換區域用語，以提升真實感。
  • 限制： 儘管如此，行動者仍未能修正簽名區塊中不合理的聯絡資訊範例。

工具與惡意軟體開發

行動者請求程式碼片段與檢查清單，以加速低至中等成熟度惡意軟體的開發。他們的活動包括：

  • C2 基礎設施： 起草與修復使用 Go 語言的客戶端-伺服器程式碼，包含 AES-GCM 加密、會話重新金鑰以及系統資訊信標。他們希望將普通 WebSockets 轉換為安全的 WebSockets (wss://) 並將 HTTP 轉為 HTTPS。
  • 程序控制： 使用 Go 與 PowerShell 列舉程序、收集環境資訊，並終止特定的 Edge/WebView2 程序。
  • 偵察： 使用 PowerShell 進行防毒軟體偵測，並在商業 Linux 基礎設施上整合如 nuclei 與 fscan 等通用掃描器。
  • 作業安全 (OPSEC)： 請求簡單的混淆調整，例如重新命名函式、調整標頭以及隱藏字串，以逃避免疫。

OpenAI 指出，行動者基於 Go 的開發實作細節與被追蹤的惡意軟體 GOVERSHELL（Volexity）或 HealthKick（Proofpoint）有重疊。

與 LLM ATT&CK 類別的對映

行動者的活動對映至多個 LLM ATT&CK 類別，顯示出利用 AI 進行網路作戰的結構化方法：

  • LLM 優化的載荷製作
  • LLM 增強的異常偵測規避
  • LLM 輔助的事後妥協活動
  • LLM 輔助的偵察與發現
  • LLM 輔助的社交工程

影響與結論

OpenAI 停用所有相關帳號，並與業界夥伴共享指標。調查結論認為，模型未為行動者提供全新攻擊能力，因所有活動皆依賴已廣為記錄的公開技術。行動者獲得的主要優勢是語言流暢度、本地化以及在失敗時快速產生「黏合程式碼」與調整工具的增量效率。

Sources