OpenAI 破壞「Stop News」俄羅斯影響行動
OpenAI 已封禁了一批與俄羅斯發源的影響行動「Stop News」相關的 ChatGPT 帳號。該行動利用 AI 生成的內容冒充新聞媒體與社群平台帳號，跨多個平台散布特定敘事與宣傳素材。
行動概述與行動者概況
「Stop News」行動起源於俄羅斯，似乎由一家行銷公司運營。OpenAI 在 Meta 2024 年第二季威脅報告中發現平台外指標後展開調查。該行動的主要目標是產生英語、法語與俄語內容，並分發至各種網站與社群平台。
AI 驅動的內容生成與分發
Stop News 使用 OpenAI 模型生成多樣化的內容，包括短評論、長篇文章與影像。其分發策略依語言與目標區域而異：
- 英語與法語： 長篇文章發佈於冒充英國與非洲新聞媒體的網站。短評論則透過 X（前身為 Twitter），以及可能的 Facebook 與 Instagram 進行散布。
- 俄語： 內容作為俄語論壇與網站上的宣傳素材，包括回應聖彼得堡地區公司客戶的意見。
視覺與影像的使用
該行動在使用 DALL·E 生成影像方面尤為頻繁。這些影像通常採用卡通風格、鮮豔色彩或戲劇性色調，以吸引注意並提升互動。OpenAI 指出，這些影像並非用作深偽或虛假呈現事件，而是為了讓貼文更引人注目。
此外，該行動將現代 AI 與較舊技術結合。雖然內容使用 DALL·E，社群帳號的頭像則常以生成對抗網路（GAN）製作，這是自 2019 年以來在影響行動中常見的技術。
內容主題與敘事
Stop News 產生的內容根據目標受眾聚焦於不同主題：
- 英國：
britishtalks[.]com的內容聚焦於非政治新聞、體育與文化。然而，euronewstop[.]co[.]uk將此類內容與對烏克蘭及英國支援烏克蘭的批評混合。 - 非洲（法語）： 文章與評論聚焦於西非音樂與文化，並穿插對烏克蘭與法國的批評，包括指控法國在巴黎奧運會的組織上失敗。
- 俄羅斯： 內容主要宣傳俄羅斯西北部，尤其是聖彼得堡地區的商業服務。
影響與互動分析
儘管使用了 AI，該行動的社群媒體互動仍然偏低。大多數 X 帳號的追蹤者僅為兩位數，Meta 報告顯示 Facebook 與 Instagram 的總追蹤人數為 2,100。
然而，該行動在與合法在地組織建立「資訊合作夥伴」方面取得了獨特的成功。這些夥伴包括威爾斯的一所學校、約克郡的一間教會，以及加州的商會協會。這些組織在自家網站上公布合作資訊，使該行動的「新聞」品牌得以透過聯合出版與社區外展與其成員互動。
爆發規模評估
OpenAI 將此行動評定為爆發規模（Breakout Scale）三類（1 至 6 級）。此評分基於以下因素：
- 活動性： 發文活動遍及多個平台。
- 互動性： 有證據顯示真實人士，特別是「資訊合作夥伴」，與該行動互動，但其病毒式傳播程度不及大型俄羅斯「巨魔」行動。
相關網域
OpenAI 辨識出以下與「Stop News」行動相關的網域：
Euronewstop[.]co[.]ukNewstop[.]africaBritishtalks[.]comBritishattitudes[.]com