OpenAI 破壞伊朗影響行動 Storm-2035

OpenAI 已識別並封禁一批與 Storm-2035 相關的 ChatGPT 帳號，Storm-2035 是一個隱蔽的伊朗影響行動。此舉旨在防止在 2024 年選舉周期中透過 AI 生成的內容操縱公共輿論與政治結果的影響。

Storm-2035 行動的能力與戰術

Storm-2035 使用 ChatGPT 進行兩個主要工作流程，以在多個平台上創建內容：

• 長篇內容： 該行動製作有關美國政治與全球事件的文章，並在五個偽裝成進步與保守新聞網站的網站上發表。
• 短篇內容： 該行動生成英文與西班牙文的短社交媒體評論。內容包括請求 AI 模型改寫其他使用者已發表的評論，以融入其中。

為了維持真實性的假象，行動者將政治訊息與關於時尚與美容的非政治內容交錯混合。

目標主題與地理焦點

Storm-2035 將內容生成聚焦於多項關鍵的地緣政治與社會議題，針對政治光譜的雙方：

• 美國總統選舉： 從進步與保守兩個角度對候選人進行評論。
• 全球衝突： 加薩衝突以及以色列在奧運會的參與。
• 區域政治： 委內瑞拉的政治、蘇格蘭獨立以及美國拉丁裔社群的權利（以英文與西班牙文製作）。

影響評估與參與指標

儘管行動規模龐大，但其活動未能獲得顯著的受眾參與。根據布魯金斯突破指標（Brookings Breakout Scale）的影響評估（1 為最低，6 為最高），OpenAI 將此行動歸類於第 2 類別的低端。這表明雖然活動遍及多個平台，但沒有證據顯示真實使用者廣泛分享或採用這些內容。

大多數被識別的社交媒體貼文僅收到少量或沒有讚、分享或評論，且網路文章也未在社交平台上廣泛傳播。

緩解措施與產業合作

OpenAI 已封禁相關帳號，並持續監控是否有進一步的政策違規。為協助更廣大的社群阻止類似活動，OpenAI 與政府、競選團隊及產業相關方分享威脅情報。此調查亦得到微軟先前發布資訊的協助。

OpenAI 表示正利用自家的 AI 模型以更好地偵測與了解濫用行為，並持續致力於與產業、民間社會及政府合作，發掘並大規模緩解隱蔽的影響行動。