OpenAI 使用 AI 破壞與北韓相關的網路威脅行動者

OpenAI 已封禁與朝鮮民主主義人民共和國（北韓）相關的威脅行動者帳號，具體為稱為 VELVET CHOLLIMA（Kimsuky、Emerald Sleet）與 STARDUST CHOLLIMA（APT38、Sapphire Sleet）的團體。這些行動者使用 AI 工具協助開發網路入侵工具、進行偵查，以及精練社交工程手法。

行動者識別與偵測

OpenAI 在收到可信產業合作夥伴的舉報後偵測到這些帳號。被封禁的帳號顯示出與公開報導的北韓相關威脅行動者相符的活動模式，具體為 VELVET CHOLLIMA 與 STARDUST CHOLLIMA。

行為模式與 AI 使用

這些威脅行動者使用 OpenAI 的模型進行程式編寫協助、除錯，以及研究開源的安全相關程式碼。他們的活動聚焦於兩大領域：網路入侵作業與加密貨幣相關議題，這種組合是北韓相關團體的典型特徵。

技術性 AI 輔助活動

行動者利用大型語言模型（LLM）執行以下具體技術任務：

• LLM 驅動的偵查： 詢問各種應用程式的漏洞。
• LLM 輔助開發： 開發與除錯基於 C# 的 RDP 客戶端以執行暴力破解攻擊，並請求繞過安全警告以進行未授權的 RDP 存取之程式碼。
• LLM 增強腳本編寫： 請求用於 RDP 連線、檔案上傳/下載、從記憶體執行程式碼，以及混淆 HTML 內容以規避異常偵測的 PowerShell 腳本。
• LLM 最佳化載荷製作： 討論製作與部署混淆載荷以執行的方式。
• LLM 輔助的後期妥協活動： 研究開源的遠端管理工具（RAT）。
• LLM 支援的社交工程： 尋求針對加密貨幣投資者與交易者的定向釣魚方法，並編寫釣魚郵件以誘使使用者洩露敏感資訊。

安全影響與緩解措施

OpenAI 報告稱，提供給行動者的模型產出並未帶來任何新穎功能，因為提示與查詢主要基於現有的開源資訊。在許多情況下，模型甚至拒絕回應這些請求。

為了破壞這些行動，OpenAI 封禁了相關帳號，並將發現的載荷與安全社群分享。在調查行動者嘗試除錯自動啟動可擴充點（ASEP）位置與 macOS 技術的過程中，OpenAI 發現了先前安全廠商未曾知道的二進位檔案暫存 URL。透過將這些 URL 提交至線上掃描服務，OpenAI 使安全廠商現在能可靠偵測這些二進位檔案，為潛在受害者提供保護。