以色列资助的汉诺威研究所与生成式引擎优化(GEO)的兴起

汉诺威研究所:AI 影响力行动的案例研究

以色列政府资助创建了一个虚假的美国智库——汉诺威公共政策研究所(Hanover Institute for Public Policy),旨在系统性地影响 AI 聊天机器人的叙事。通过发布大量针对机器可读性进行优化的准学术内容,该行动试图确保 AI 模型在处理包括战争罪和加沙人道主义局势在内的敏感地缘政治问题时,会引用亲以色列的论点。

生成式引擎优化 (GEO) 与 LLM 训练引导

汉诺威研究所的行动利用了一种被称为生成式引擎优化(Generative Engine Optimization, GEO)的策略——即专门编写旨在被大语言模型(LLMs)评估为可信的内容。

技术实现

  • 机器可读格式:该网站最初利用了 llms.txt,这是 AI 原生内容平台 Res 提供的标准文件,用于告知 AI 系统如何读取和解释网站内容。随后,该文件被替换为专门为机器阅读器定制的版本。
  • 基于查询的结构化:该研究所发布的 124 份报告中,几乎所有报告都以模仿典型用户提示词(prompt)的问题开头(例如,“Is Israel Carrying Out a Genocide in Gaza?”),从而增加了内容被聊天机器人作为直接答案检索到的可能性。
  • 高容量输出:在 8 月 6 日至 14 日期间,该网站在 124 份报告中发布了超过 560,000 个单词,其中仅在两天内(8 月 12 日至 13 日)就产生了 354,000 个单词的大规模激增。

训练数据管道

除了在 RAG(检索增强生成)系统中进行即时引用外,该行动还针对底层的训练数据。通过将内容植入 Common Crawl 等存储库,这些存储库为商业 LLM 提供原始数据,该行动旨在将叙事直接嵌入到模型的权重中。当模型在不引用来源的情况下吐出训练数据时,信息对于最终用户来说实际上变得无法核实。

运营链条与资金来源

该行动通过复杂的中间机构网络执行,以掩盖以色列政府与内容生产之间的直接联系。

  • 资金来源:以色列政府广告机构 LaPam 在 2019 年至 2023 年间,向 Havas Media 实体授予了总计超过 1.4 亿美元的非竞争性合同。
  • 中间机构:Havas Media Germany GmbH 充当主要中间机构,将资金转给几家美国分包商。
  • 执行方:Piro Inc,一家纽约媒体公司,获得了 100 万美元的合同,负责提供“AI Story Optimization”。Piro 的工作包括在“受信任的第三方资产”上编写旨在提升 LLM 可信度的内容。
  • 其他参与者:由前特朗普竞选经理 Brad Parscale 管理的 Clock Tower X 获得了 Havas 支付的 1500 万美元。Parscale 旗下的七个网站已出现在 Common Crawl 7 月份的索引中 294 次。

内容策略与框架构建

汉诺威研究所的内容旨在看起来具有学术性,同时微妙地将叙事转向以削弱对以色列的批评。

  • 学术伪装:报告经过严谨的来源引用,引用了世界银行、联合国机构和《种族灭绝公约》以营造中立的假象。
  • 策略性框架:报告频繁使用特定的措辞来中和指控。例如,在 124 份报告中,有 20 份强调了“没有任何法院做出裁决”关于种族灭绝或种族隔离的指控。
  • 循环引用:一份关于欧洲 Facebook 页面上反犹太主义言论的 2022 年研究被在 88 份报告中引用了 454 次,且通常出现在与原始研究无关的语境中,以此暗示讨论以色列政策可能会导致反犹太主义。

影响与效能

虽然该行动成功影响了聊天机器人的响应,但其对更广泛公众舆论的影响似乎有限。

  • 聊天机器人响应:测试显示 ChatGPT 提供了汉诺威研究所报告的链接,但同时也包含了关于该研究所资金来源和存在性的争议性警告。

  • 公众舆论:来自 Gallup 和 Pew 的美国民调显示,对以色列的支持率正在下降,特别是在年轻人中,其中截至 2026 年 4 月,60% 的美国人对以色列持负面看法。

  • 内部批评:以色列官员向 Ynet 通报称该行动失败了,一位官员将此次努力描述为“一场可怕的骗局”,并指出政府“花了大量的钱,但情况只会变得更糟”。

"Whether it’s foreign governments, whether it’s companies, whether it’s even just a guy who owns an ice cream shop — LLM grooming, poisoning, whether you want to call it, is part of the new reality that we live in." — Nick Cleveland-Stout, Research Associate at the Quincy Institute

Sources

相关