OpenAI 打擊「Bad Grammar」俄羅斯關聯的影響行動
OpenAI 已封禁一個與俄羅斯個人相關聯的帳號網路，該網路使用 AI 模型自動生成政治評論，並在 Telegram 上分發。此行動因頻繁使用不合文法的英文且難以建立受眾而被稱為「Bad Grammar」，它代表了利用生成式 AI 擴大影響行動（IO）的嘗試。
評論垃圾訊息的技術流程
「Bad Grammar」網路建立了一條結合 AI 模型與自動化工具的評論垃圾訊息流程。此過程分為三個主要階段：
- 程式除錯：操作人員使用 OpenAI 模型除錯旨在自動化 Telegram 發文流程的程式碼。
- 內容生成：模型被用來產生俄文與英文的評論，特別針對目標貼文回覆。
- 分發：該網路使用至少十餘個 Telegram 帳號發布生成的內容。
目標受眾與人物角色開發
該網路的目標受眾包括俄羅斯、烏克蘭、美國、摩爾多瓦以及波羅的海國家。內容生成的方式依語言而異：
- 英文內容：操作人員創建了代表美國各種人口統計與政治光譜的虛假人物角色，以模擬多元的國內觀點。
- 俄文內容：指示較為主題化，較少聚焦於特定人物角色。
活動高度集中於少數 Telegram 頻道。提及次數最多的頻道是親俄頻道 @Slavyangrad，其次是 @police_frequency 與 @SGTNewsNetwork（此頻道先前由 Meta 報導為伊朗起源）。
政治主題與內容策略
此活動聚焦於多語言的多個關鍵政治主題：
- 烏克蘭戰爭：兩種語言的主要議題。
- 區域穩定：摩爾多瓦與波羅的海國家的政治情勢。
- 美國政治：英文評論聚焦於移民、經濟困境與時事，旨在反對美國對烏克蘭的支持。
- 俄文評論：這些評論指控烏克蘭與摩爾多瓦總統貪污，並背叛其人民，受西方「干涉」所致。
在 3 月 22 日莫斯科恐怖襲擊之後，該網路擴大活動，新增一批聚焦塔吉克斯坦的 Telegram 帳號，呼籲塔吉克人與俄羅斯人團結，並尊重俄羅斯法律。
影響行動影響評估
儘管使用了生成式 AI，「Bad Grammar」網路在現實世界的影響仍極為有限。OpenAI 將此行動評估為突破量表（Breakout Scale）中的第 1 類——最低影響層級，原因如下：
- 互動低：極少評論獲得讚或回覆。
- 觸及範圍有限：該網路的評論通常只佔單篇貼文回覆的少數，未能壓制其他觀點。
- 擴散有限：沒有證據顯示網路外的使用者對其進行顯著擴散。
此外，OpenAI 觀察到該網路偶爾使用模型生成私人訊息，似乎是與加密貨幣詐騙者的互動。