OpenAI 打擊欺騙性 IT 就業計畫
OpenAI 已封禁與多個欺騙性就業活動相關的 ChatGPT 帳號，這些活動旨在全球範圍內詐騙性地獲取遠端 IT 與軟體工程職位。這些威脅行動者利用 AI 自動化生成可信的人格與履歷，並研究繞過企業安全與身份驗證的方法。
威脅行動者概況與歸屬
OpenAI 辨識出與公開歸因於北韓（DPRK）相關 IT 工作者計畫的活動相符的行為。此行動似乎採用了分層結構，包括核心操作員與承包商。部分承包商可能位於北美，並被招募代替核心團隊接收公司筆記型電腦，以促進遠端存取。
作業行為與 AI 整合
威脅行動者將 AI 整合至就業流程的每個階段，以提升作業效率。此流程分為兩類操作員：
核心操作員
核心操作員專注於詐騙計畫的基礎設施與自動化。他們的活動包括：
- 自動化履歷生成：使用特定的職位描述、技能範本與人格設定，自動生成量身訂做的履歷。
- 招募：產生內容以在全球招募承包商，讓其充當求職申請與硬體操作的代理人。
- 基礎設施研究：使用
ChatGPT研究遠端工作配置，以及招募美國本土人士接收公司筆記型電腦以進行遠端存取。 - 安全規避：研究如
Tailscale點對點 VPN、OBS Studio、vdo.ninja直播注入以及 HDMI 捕捉迴路等工具，以繞過企業安全並在即時視訊會議中規避身份驗證。
承包商操作員
承包商操作員使用 ChatGPT 進行戰術執行，包括：
- 申請任務：完成工作申請需求與程式碼作業。
- 溝通：產生訊息給核心操作員，說明付款情況與申請所使用的人格。
大型語言模型的技術使用案例
OpenAI 將其模型的惡意使用分類為四個主要技術領域：
- LLM 支援的社交工程：自動化符合產業標準的詳細履歷，並根據上傳的履歷回答與就業相關的問題或程式碼作業。
- LLM 增強的異常偵測規避：尋求設定公司筆記型電腦以隱蔽地理位置並規避端點安全的指導。
- LLM 協助的開發：編寫工具以自動化滑鼠移動或遠端保持電腦喚醒，維持在企業網路上的持續存在。
影響與偵測
雖然 OpenAI 無法自行評估這些作業的成功率，但對 AI 的依賴提升了威脅行動者的曝光度。行動者使用的詳細提示與自動化迴路讓 OpenAI 瞭解了整個活動的工作流程，這些資訊已與業界同儕及主管機關共享，以提升整體偵測與回應能力。