OpenAI 打擊 SweetSpecter 與中國相關的網路活動
OpenAI 已識別並封禁了與 SweetSpecter 相關的帳號，該對手被懷疑為中國籍，試圖利用 ChatGPT 進行攻擊性網路行動，同時以魚叉式網路釣魚攻擊針對 OpenAI 員工及全球政府。這是首次公開確認 SweetSpecter 攻擊美國 AI 公司的案例。
針對 OpenAI 員工的魚叉式網路釣魚活動
2024 年 5 月，OpenAI 收到情報顯示 SweetSpecter 正在針對其員工的公司與個人電子郵件帳號。對手偽裝成尋求支援的 ChatGPT 使用者，誘使受害者開啟名為 ‘some problems.zip’ 的惡意附件。
攻擊的技術執行
此攻擊鏈利用惡意 LNK 檔案傳遞載荷：
- Lure：使用者會收到一個包含模擬 ChatGPT 錯誤與服務訊息的 DOCX 檔案。
- Payload：在背景中，SugarGh0st RAT（遠端存取木馬）被解密並執行。
- Objective：此惡意軟體旨在讓對手取得受感染機器的遠端控制，進而執行任意指令、資料外洩與螢幕擷取。
OpenAI 報告稱，現有的安全控制已成功阻擋這些電子郵件，未讓其進入公司收件匣。
基於 LLM 的戰術、技術與程序（TTP）
OpenAI 打斷了一群使用共享基礎設施的 ChatGPT 帳號，以執行漏洞研究與腳本任務。這些活動被映射至 MITRE ATT&CK® Framework 所提出的以 LLM 為主題的戰術、技術與程序（TTP）。
觀測到的對手活動
| 活動 | LLM ATT&CK 框架類別 |
|---|---|
| 詢問應用程式漏洞與特定 CVE 編號 | LLM 支援的偵察 |
| 搜尋 Log4j（Log4Shell）易受攻擊的版本 | LLM 支援的偵察 |
| 研究流行的外國內容管理系統 | LLM 支援的偵察 |
| 詢問建立全網路掃描器的方式 | LLM 支援的偵察 |
| 使用 sqlmap 上傳 Web Shell 至目標伺服器 | LLM 協助的漏洞研究 |
| 尋找針對知名汽車製造商基礎設施的漏洞利用 | LLM 協助的漏洞研究 |
| 編寫通訊服務以發送簡訊 | LLM 增強的腳本技術 |
| 除錯網路安全工具的擴充功能 | LLM 增強的腳本技術 |
| 開發程式化簡訊傳送的框架 | LLM 輔助開發 |
| 研究針對政府員工的社交工程主題 | LLM 支援的社交工程 |
| 製作不同版本的徵才誘餌訊息 | LLM 支援的社交工程 |
影響與防禦見解
OpenAI 結論認為，使用 LLM 並未為對手提供其他公開資源無法取得的新功能或新方向。
防禦中 AI 的運用
在調查期間，OpenAI 安全團隊使用 ChatGPT 來分析、分類與摘要大量對手互動資料集。公司預期未來的模型版本可協助逆向工程與分析惡意附件。
合作的重要性
OpenAI 強調，與產業夥伴的合作以及威脅情報的共享對於識別失敗的入侵嘗試至關重要，凸顯在 AI 時代集體防禦的必要性。