行動 Nine—emdash 線:破壞中國來源的影響活動
OpenAI 已封禁一個與源自中國的隱蔽影響行動相關的 ChatGPT 帳號網路。該行動利用 AI 產生跨平台的社群媒體內容,並進行偵查,以影響東南亞、香港與美國的政治敘事。
行動概覽與目標敘事
該網路專注於大量產生社群媒體貼文,以支援中國在南海與西菲律賓海的領土主張,特別提及「九段線」邊界。由於該行動在 AI 生成的文字中頻繁使用 em-dash,OpenAI 將此活動命名為「Nine—emdash line」。
- 菲律賓: 產生批評總統 Ferdinand Marcos 的貼文,包含關於吸毒與選舉操縱的虛假指控。
- 越南: 創建有關越南的內容——特別是其在南海的所謂環境影響。
- 香港: 產出粵語貼文,以抹黑民主運動人士與政治人物,如 Jimmy Lai、Nathan Law 與 Agnes Chow,同時表達對香港國安法的支持。
- 美國: 產生關於政治議題的英文內容,包含芬太尼危機。
AI 在內容與偵查上的運用
威脅行動者使用 ChatGPT 不僅僅是產生文字;他們還利用模型進行研究、策略規劃與人物角色開發。
研究與偵查
操作人員利用模型找出歐洲、美洲與東南亞的利基部落格、論壇以及較少受規範的社群平台。他們亦請求常見的藏族姓名清單,OpenAI 將此手法視為製造不真實社群人物的方式。OpenAI 指出,雖然此 AI 研究的使用提升了便利性,但相較於傳統搜尋引擎,未必提升行動者的整體能力。
社群媒體成長策略
在一項新穎的應用中,該網路尋求成長策略的建議,包括如何發起 TikTok 挑戰。具體而言,他們嘗試利用現有的 #MyImmigrantStory 標籤,請求模型構思並產生 TikTok 影片的文字稿,同時要求背景音樂與影像的建議。
技術連結與歸屬
雖然這些社群媒體帳號在行為上與「Spamouflage」——一個長期運作的中國來源行動——呈現相似性,OpenAI 並未發現兩者之間的直接技術連結。然而,部分在「Nine—emdash line」行動中使用的影片,先前已被澳洲戰略政策研究所辨識為與早期 Spamouflage 活動相似的作業之一。
影響評估
OpenAI 將此行動評估為 IO 影響突破量表的第 2 類,表示其在多個平台上活躍,但取得的突破性互動極少或無。
此行動的影響受以下幾項因素限制:
- 低互動度: 大多數貼文的互動極少,且許多回覆或轉貼是由同一控制網路內的其他帳號產生。
- 缺乏精緻度: 這些人物使用庫存圖像作為頭像或預設帳號名稱,並採用其他中國來源行動常見的協調行為特徵。
- 外部偵測: Philstar.com 獨立發現並報導了該網路在 X 上的一部分,即使 ChatGPT 帳號已被封禁,仍持續運作。