OpenAI 打斷「腐敗評論」影響行動

OpenAI 已封禁與一個名為「腐敗評論」的影響行動相關聯的一批 API 活動。此行動利用 OpenAI 模型在 X（前身為 Twitter）上生成英語評論，以批評由已故阿列克謝·納瓦爾尼創立的反腐基金會（FBK）及其領導層。

行動機制與行為

「腐敗評論」行動利用 OpenAI 的 API 生成英語文字，隨後由假帳號在 X 上發布。這些帳號主要針對反腐基金會的高層人物以及納瓦爾尼的關係人。

• 缺乏情境感知：雖然生成的評論被作為回覆貼在現有貼文上——這些貼文常常是俄文寫成——但沒有證據顯示模型被用來閱讀、分析或生成對這些貼文內容的相關回應。這些評論是事先生成的，並未對社群媒體內容作出即時回應。
• 帳號概況：涉及的 X 帳號大多於 2023 年 12 月創建。這些帳號通常沒有任何追隨者，且其貼文也未收到任何回覆。
• 視覺欺騙：這些帳號使用的頭像要麼是從網路上複製的風景圖像，要麼是使用生成對抗網路（GAN）製作的偽造圖像，該技術可追溯至 2019 年。

內容策略：「主題與變奏」

生成的內容聚焦於批評反腐基金會，特別是質疑其透明度。該行動採用了「主題與變奏」策略，即在多篇貼文中重複相同的核心訊息，僅以微小的措辭變化來避免被偵測或營造多元意見的假象。

影響評估

OpenAI 評估此行動的影響有限。大多數被識別的帳號沒有任何追隨者，也未收到任何互動（回覆）。此外，該網路產生的英語回覆通常被與此行動無關的第三方俄語回覆所超過，顯示該網路未能成功淹沒平台上的討論。