OpenAI 阻止「叔叔垃圾」行動的影響活動

OpenAI 已封禁一系列與源自中國的影響行動「Operation Uncle Spam」相關的 ChatGPT 帳號。該行動利用 AI 生成兩極化的社群媒體內容，針對美國政治討論，旨在利用既有的分歧而非推廣單一意識形態。

AI 驅動的內容生成與放大

Operation Uncle Spam 使用 OpenAI 的模型生成社群媒體評論，並計算放大策略。該網路主要聚焦於具爭議性的議題，例如關稅，於同一作業階段內產出支持或批評該議題的內容。

為了最大化訊息的影響，威脅行動者向模型請求最佳發文時間，以提升受眾參與度。這顯示出他們在 X 與 Bluesky 等平台上有計算性的放大兩極化內容的手法。

人格創建與視覺識別

該行動利用 AI 影像生成技術，為虛構人物製作風格化的標誌與個人檔案圖片。主要重點在於打造看似美國退伍軍人、批評現任美國政府的人格，包括為「Veterans for Justice」等實體設計標誌。

資料提取與使用者分析

威脅行動者持續請求程式碼與方法，以從社群平台提取個人資料，包括 X 與 Bluesky 的使用者檔案與追隨者名單。他們使用了 Tweepy、Nitter 以及 Bluesky 公開 API 等工具。

除了提取之外，這些帳號還利用 OpenAI 的模型獲取分析個人檔案資料的指導，以辨識個人特徵與組織關聯，這可能使行動能夠對個人進行分類或推斷其關聯與屬性。

影響評估

根據影響行動（IO）的 Breakout Scale，OpenAI 將 Operation Uncle Spam 評估為第 2 類。此分類表示該行動在多個平台上活躍，但幾乎沒有突破或真實的互動。

儘管部分帳號的追隨者數以千計，OpenAI 模型生成的內容卻很少獲得讚或轉貼。追隨者數量並未轉化為對貼文的真實互動。