OpenAI 破壞俄語惡意軟體工具運營
OpenAI 已停用一批被俄語犯罪團體用於開發與完善惡意軟體的 ChatGPT 帳號，這些惡意軟體包括遠端存取木馬（RAT）與憑證竊取工具。此舉破壞了威脅行動者利用模型原型設計惡意軟體技術構件的工作流程，儘管模型內建的防護機制會拒絕直接請求惡意內容。
技術行為與方法論
威脅行動者使用 ChatGPT 產生「構件」程式碼，而非完整的惡意載荷。由於模型拒絕直接請求製作惡意軟體，操作人員在低階技術任務上反覆迭代，以在平台外組裝自己的惡意工作流程。
重點技術領域包括：
- 低階 Windows 平台知識： 行動者聚焦於 PE / Win32 API、DPAPI / AES GCM Cookie 處理，以及 Chrome DevTools / CDP 自動化。
- 混淆與規避： 行動者產生「加密器」模式的程式碼，例如插入垃圾序列與填充指令以改變 PE 簽名，從而規避防毒軟體（AV）或端點偵測與回應（EDR）系統。
- 後利用工具： 操作人員使用模型原型設計剪貼板監控、歸檔與傳送腳本，以及用於資料外洩的 Telegram 機器人上傳工具等元件。
- 作業支援： 行動者利用模型執行一般性任務，包括大量密碼產生與腳本化的求職申請。
惡意軟體組件與 LLM ATT&CK 對映
將威脅行動者的活動對映至 LLM ATT&CK 框架，以分類他們嘗試構建的具體攻擊能力：
| 活動 | LLM ATT&CK 框架類別 |
|---|---|
| 將 EXE 轉換為位置無關的 shellcode；構建記憶體載入器（VirtualAlloc / WriteProcessMemory / 遠端執行緒）；為載入器工具鏈進行語言轉換。 | LLM 優化載荷製作 |
| 插入混淆/打包層、加密器及其技術，以隱藏載荷免受 AV/EDR 檢測。 | LLM 增強異常偵測規避 |
| 產生腳本以提取/解密瀏覽器憑證與 Cookie、解析錢包 LevelDB、監控或替換剪貼板內容，並透過 Telegram 機器人頻道外洩資料。 | LLM 協助的事後妥協活動 |
| 構建與完善 C2 與隧道基礎設施，包括反向代理、SOCKS5 / OpenVPN 設定，以及遠端桌面隧道。 | LLM 協助的基礎設施概況分析 |
行動範圍與影響
OpenAI 已停用所有與此活動相關的帳號，並與業界夥伴共享指標。調查發現，模型的防護機制成功阻止了對漏洞利用與鍵盤記錄器的直接請求。
OpenAI 結論認為，使用 ChatGPT 並未為這些行動者提供「他們無法從多個公開資源獲得的全新能力或方向」。
行動者歸屬
OpenAI 評估此活動由一名使用俄語的操作者管理，該操作者使用多個帳號、代理與短暫託管基礎設施，並在專屬於俄語犯罪團體的 Telegram 頻道上發布其活動證據。