OpenAI 行動 Zero Zeno：與以色列相關的影響活動

OpenAI 已封禁由 STOIC（以色列的一家政治活動管理公司）操作的一組帳號，以阻止一個代號為「Zero Zeno」的影響行動。該網路使用 OpenAI 模型生成與編輯內容，為針對加拿大、美國、以色列與印度受眾的多平台活動服務，同時也在為加納的活動做準備。

AI 驅動的內容生成與人物塑造

STOIC 使用 OpenAI 模型自動化產生網路文章、社群媒體評論以及虛構人物。此行動的技術方法包括：

• 內容創建： 在 X、Facebook、Instagram 與 YouTube 上生成網路文章與社群回覆。
• 人物發展： 根據年齡、性別、地點等變數創建虛構的個人簡介與人物。
• 研究嘗試： 使用模型調查在以色列公開評論 Histadrut 工會的個人。OpenAI 注意到模型在回應此類提示時拒絕提供個人資訊。
• 視覺身份： 利用生成對抗網路（GAN）製作個人頭像。OpenAI 觀察到多個帳號常共享相同的 GAN 生成圖像，且在某些情況下，多個使用相同圖片的帳號會回覆同一篇貼文。

範圍與主題活動

Zero Zeno 行動被劃分為多個主題叢集，針對不同地區與敘事：

• 加薩與宗教關係： 大多數活動聚焦於加薩衝突以及猶太與穆斯林信仰之間的關係。
• 加拿大： 內容批評該活動所稱的加拿大「激進伊斯蘭主義者」。
• 美國： 活動聚焦於大學，指控親巴勒斯坦抗議者宣揚恐怖主義與反猶主義。
• 卡塔爾： 敘事將卡塔爾在美國的投資描繪成對美國生活方式的威脅。
• 以色列： 以希伯來文發表的貼文讚揚 Histadrut 工會的領導與組織。
• 印度： 5 月時，該網路產生批評執政的 BJP 黨並讚揚在野的國大黨的評論。OpenAI 在此活動開始後 24 小時內即予以阻止。
• 聯合國巴勒斯坦救濟機構（UNRWA）： 早期研究發現該網路批評聯合國在巴勒斯坦的救濟機構。

分發策略與手法

該網路採用了多種手法以維持能見度並模擬互動：

• 跨平台部署： 內容發佈於四個偽裝成行動團體的網站：uc4canada.com、the-good-samaritan.com、ufnews.io 與 nonagenda.com。
• 人工放大： 使用假帳號在該行動自己的貼文下留言，以製造觀眾互動的假象。
• 主題切換： 部分帳號在不同區域的活動之間切換焦點（例如，從聚焦加拿大的內容轉向印度或美國）。
• 不相關互動： 該網路對知名西方人物發表與原貼文毫無關聯的 AI 生成回覆，例如在回覆關於唐納德·特朗普音樂偏好的貼文時，發表關於卡塔爾投資的內容。

影響評估

Zero Zeno 行動被歸類為 Breakout Scale（突破尺度）上的第 2 類行動，表示其在多個平台與網站上活躍，但未能獲得有機使用者的顯著擴散。OpenAI 報告稱，該活動除其自身的非真實帳號外，幾乎未獲得任何互動。例如，與加拿大活動相關的 YouTube 頻道僅上傳了一支影片，截至 2024 年 4 月 25 日，觀看次數為零。