OpenAI 打擊 AI 輔助的欺詐就業計畫
OpenAI 已封禁了數十個帳號，這些帳號被用於協助一項欺詐就業計畫，該計畫的行動者利用生成式 AI 詐騙性地獲取西方公司的職位。此活動與先前微軟與 Google 歸因於可能與北韓有關的 IT 工作者計畫的戰術、技術與程序（TTP）相符。
AI 驅動的招聘全流程欺詐
行動者使用 OpenAI 模型在招聘過程的每個階段產生相互支援的欺詐內容。此計畫透過四個主要向量運作：
1. 捏造候選人身份
操作人員為虛構的求職者生成個人文件，包括履歷、線上職位檔案與求職信。這些文件常針對特定職缺進行客製化，以提升看似高度合格候選人的可能性。
2. 建立支援角色
除了主要的申請者外，行動者還建立了「支援」角色。這些角色被用來提供欺詐性的參考檢查，並為虛構的申請者推薦就業機會。
3. 招募不知情的同夥
行動者編寫社群媒體貼文，以招募真實個人來支援此計畫。這些招募對象被用於特定目的，例如在家中接收與安置公司筆記型電腦，或借用其身份協助申請者通過背景檢查。
4. 面試與就業支援
在面試過程中使用 AI 模型產生合理的技術與行為問題回應。獲得職位後，行動者利用模型執行與工作相關的任務，包括撰寫程式碼、排除故障、與同事溝通，並編造掩飾故事以解釋可疑行為，例如避免視訊通話或從未授權的國家存取系統。
作業基礎設施與戰術
為了隱匿其來源並維持位於美國的外觀，行動者使用了多項技術工具：
- Network Masking: 虛擬私人網路（VPN）被用來隱藏實際位置。
- Remote Access: 如 AnyDesk 等工具被用於系統存取。
- VOIP: 網路電話（VOIP）被用來維持美國的外觀。
OpenAI 發現部分生成內容被發佈至 LinkedIn，儘管公司指出對所有內容的分發方式可見度有限。
影響與回應
OpenAI 表示其政策嚴格禁止將其工具用於詐騙或詐欺。針對此發現，OpenAI 封禁了已識別的帳號，並與產業夥伴及相關主管機關分享有關詐騙網路的情報，以提升對此類威脅的集體偵測與防範。