以色列出資的漢諾威研究所與生成式引擎優化的崛起

漢諾威研究所:AI 影響力作戰的案例研究

以色列政府資助成立了一個虛假的美國智庫——漢諾威公共政策研究所,以系統性地影響 AI 聊天機器人所產生的敘事。透過發布大量為機器可讀性而優化的準學術內容,該行動企圖確保 AI 模型在敏感的地緣政治議題上(包含戰爭罪與加薩的人道主義局勢)會引用親以色列的論點。

生成式引擎優化 (GEO) 與 LLM 餵養

漢諾威研究所的行動利用了一種稱為生成式引擎優化(GEO)的策略——即專門撰寫內容,使其被大型語言模型(LLM)評估為可信的作法。

技術實作

  • 機器可讀格式:該網站最初使用了 llms.txt,這是由 AI 原生內容平台 Res 提供的標準檔案,用於告知 AI 系統如何閱讀與解讀網站內容。該檔案後來被替換為專為機器閱讀器設計的客製化版本。
  • 基於查詢的結構:該研究所發布的 124 份報告中,幾乎所有報告的開頭都是模仿典型使用者提示詞格式的問題(例如:「以色列是否在加薩進行種族滅絕?」),這增加了該內容被聊天機器人當作直接答案檢索的機率。
  • 高產量輸出:在 8 月 6 日至 14 日期間,該網站透過 124 份報告發布了超過 56 萬字,其中在短短兩天內(8 月 12 日至 13 日)就產生了高達 35.4 萬字的內容高峰。

訓練資料管道

除了在 RAG(檢索增強生成)系統中被直接引用外,該行動還瞄準了底層的訓練資料。透過將內容植入 Common Crawl 等儲存庫(這些儲存庫為商業 LLM 提供原始資料),該活動旨在將敘事直接嵌入模型的權重中。當模型在未引用來源的情況下覆述訓練資料時,終端使用者實際上將無法對這些資訊進行事實查核。

作業鏈與資金來源

該活動透過複雜的中間人網絡執行,以掩蓋以色列政府與內容產出之間的直接關聯。

  • 資金來源:以色列政府廣告機構 LaPam 在 2019 年至 2023 年間,向 Havas Media 實體授予了總額超過 1.4 億美元的非競爭性合約。
  • 中間人:Havas Media Germany GmbH 作為主要中間人,將資金路由至數家美國分包商。
  • 執行:紐約媒體公司 Piro Inc 獲得 100 萬美元的合約,負責提供「AI 故事優化」。Piro 的工作包含在「受信任的第三方資產」上撰寫為 LLM 可信度而設計的內容。
  • 其他參與者:由前川普競選總幹事 Brad Parscale 經營的 Clock Tower X,從 Havas 獲得了 1500 萬美元的報酬。由 Parscale 公司管理的七個網站已經在 Common Crawl 的 7 月索引中出現了 294 次。

內容策略與框架

漢諾威研究所的內容旨在看起來具有學術性,同時巧妙地轉移敘事以削弱對以色列的批評。

  • 學術偽裝:報告的引用來源一絲不苟,引用了世界銀行、聯合國機構和《防止及懲治滅絕種族罪公約》,以營造中立的表象。
  • 策略性框架:報告經常使用特定的措辭來中和指控。例如,124 份報告中有 20 份強調,關於種族滅絕或種族隔離的指控「沒有任何法院作出判決」。
  • 循環引用:一份關於歐洲 Facebook 頁面上反猶太主義評論的 2022 年研究,在 88 份報告中被引用了 454 次,且通常出現在與原始研究無關的語境中,藉此暗示討論以色列政策可能會助長反猶太主義。

影響與成效

儘管該行動成功影響了聊天機器人的回應,但其對更廣泛公眾輿論的影響似乎有限。

  • 聊天機器人回應:測試顯示,ChatGPT 提供了漢諾威研究所報告的連結,但也包含了關於該研究所資金來源與存在爭議的警告。
  • 公眾輿論:蓋洛普和皮尤的美國民調顯示,對以色列的支持度已經崩盤,尤其是在年輕人中;截至 2026 年 4 月,60% 的美國人對以色列持負面看法。
  • 內部批評:以色列官員向 Ynet 簡報時表示該活動已經失敗,一名官員將此行動形容為「可怕的惡作劇」,並指出政府「花了很多錢,但情況卻只變得更糟」。

「無論是外國政府、企業,甚至只是一個擁有冰淇淋店的老闆——LLM 餵養、投毒,或者你想稱呼它什麼,都是我們現在所處新現實的一部分。」 — Nick Cleveland-Stout, Research Associate at the Quincy Institute

Sources

相關