OpenAI 破壞 STORM-2035 伊朗影響行動
OpenAI 已透過封禁用於在多平台產生欺騙性政治內容的 ChatGPT 帳號，破壞了一個伊朗來源的影響行動，該行動被識別為 Storm-2035。此行動凸顯了 AI 用於大規模產出長篇文章與短篇社群媒體互動，以模擬多元政治觀點的情形。
OpenAI 識別並封禁了一組用於協調影響行動的 ChatGPT 帳號，這些帳號產生英文與西班牙文內容。該行動者的活動跨多平台連結，包括超過十餘個在 X 上的假身分、一個 Instagram 帳號，以及五個獨立網站。
OpenAI 對該行動者行為的可見性，使得首次能將特定的社群媒體發文活動與相關網站連結起來。
Storm-2035 的識別與歸屬
Attribution was achieved through cross-industry collaboration:
- Microsoft 先前已報告過與該行動者相關的部分網站，名稱為「Storm-2035」。
- Meta 確認已識別的 Instagram 帳號與一個伊朗網路有關，該網路於 2022 年 12 月被 Meta 破壞。
作業工作流與策略
The actor employed two parallel workstreams to disseminate content and build fake personas.
長篇文章生成
該行動者使用 OpenAI 模型產出英文文章，篇幅通常在 700 至 900 字之間。這些文章發佈於五個網站，這些網站偽裝成進步或保守立場，以針對不同意識形態的受眾。文章的主要焦點是美國，特別提及當前選舉週期的總統與副總統候選人。
社群媒體互動
此行動利用 AI 為 X 與 Instagram 產生英文與西班牙文的短評論。這些身分採取多樣角色以顯得真實：
- On X: 帳號偽裝成美國總統大選兩位主要候選人的支持者。
- On Instagram: 帳號偽裝成蘇格蘭獨立的支持者。
為了支援這些活動，這些帳號使用 ChatGPT 進行基礎研究，包括尋求提升社群媒體互動的技巧。有一次，有使用者試圖產生一篇文章，聲稱 Microsoft 曝光此行動證明伊朗的網路作戰比俄羅斯或中國更具影響力，然而 OpenAI 並未發現此特定文字已在網路上發布的證據。
內容主題與策略
The generated content focused on highly polarized geopolitical and social issues to drive influence. Key themes included:
- 全球衝突： 加薩衝突以及以色列在奧運會的參與。
- 美國政治： 美國總統大選以及美國拉丁裔社群的權利。
- 國際事務： 蘇格蘭獨立與委內瑞拉的政治。
為了提升帳號的真實感並嘗試建立追隨者，行動者亦產生並發布有關美容與時尚的通用內容。OpenAI 的 DALL·E 3 分類器判定這些美容貼文所使用的圖像並非由 OpenAI 服務產生。
影響與範圍
儘管內容產量龐大，此行動未能取得顯著的受眾互動。大多數社群媒體貼文在相關帳號被停用前，互動率低甚至為零，且沒有證據顯示長篇文章在社群媒體上被廣泛分享。