OpenAI 破壞韓語惡意軟體開發行動

OpenAI 已識別並封鎖一批使用韓語的 ChatGPT 帳號，這些帳號被韓語操作人員用於從事惡意軟體與指揮控制（C2）開發。此舉破壞了利用 AI 進行網路作戰的協調行動，儘管 OpenAI 未發現模型啟用了超出公眾已可取得的功能。

威脅行動者識別與歸屬

OpenAI 觀察到一批帳號，其活動與 Trellix 報告中針對南韓外交機構的魚叉式釣魚活動、XenoRAT 惡意軟體的部署，以及使用基於 GitHub 的倉庫作為 C2 的情況相重疊。

雖然觀察到的活動——包括使用韓語、作業主題以及與 UTC+8 與 UTC+9 時區相符的活動——與安全社群對北韓（DPRK）行動者的認知相符，OpenAI 表示無法自行進行歸屬，並持續對北韓的服務實施封鎖。

操作人員採用了結構化的工作流程，讓多個帳號在狹窄的時間窗口內活躍，每個帳號專注於特定的技術使用案例，而非跨領域。主要行為包括：

基礎設施與平台實驗： 行動者嘗試使用 API 腳本以及為雲端儲存服務（包括 GDrive、pCloud、file.io）構建直接連結，同時透過 GitHub 進行原始內容擷取與令牌處理。
憑證竊取與 API 鉤掛： 與模型的互動聚焦於 Windows API 鉤掛、使用 DPAPI 的瀏覽器憑證與 Cookie 存取工作流程，以及製作類似驗證頁面（如 reCAPTCHA 複製品）。
釣魚活動： 行動者撰寫以加密貨幣、政府機構與金融服務提供者為主題的韓語釣魚郵件。

威脅行動者產生模型輸出以支援五個主要作業領域：

操作人員探索反射式 DLL 載入、記憶體內執行以及 Windows API 鉤掛技術，以支援遠端存取木馬（RAT）開發。

操作人員產生、修改與除錯腳本，以提取瀏覽器加密金鑰、Cookie 與已儲存的密碼，特別是使用 Chrome 與 Edge 的 DPAPI 工作流程。

行動者嘗試 HTML 混淆與 reCAPTCHA 代理，以製作可信的登入頁面，同時撰寫加密貨幣主題的釣魚內容。

請求聚焦於 Safari 與 Finder 擴充功能的開發，以及產生範例 App Store 隱私政策。

操作人員使用模型來排除 API 呼叫與錢包互動的問題。

OpenAI 停用所有相關帳號，並與合作夥伴分享指標。OpenAI 指出，許多請求屬於「"雙重用途活動的灰色地帶"」，即合法的軟體除錯或密碼學任務被重新利用於惡意目的。關鍵是，公司未發現 Trellix 所描述的活動中使用的惡意二進位檔是由 OpenAI 的模型產生的。