イスラエルのハノーバー研究所という架空のシンクタンクがAIチャットボットを標的に

イスラエルが捏造した「ハノーバー研究所」はAIチャットボットを操作するように設計されている

1週間も経たないうちに、ハノーバー研究所 for Public Policyは100件以上の報告書を発表した。これらは中立的でデータ駆動型のシンクタンク分析のように見えるように作られているが、実際にはイスラエル政府広報庁とPR会社Piro, Inc.が設立した表向きの組織である。この目的は、ClaudeやGemini、ChatGPTといった大規模言語モデル（LLM）に信頼性のあるように見えるコンテンツを供給し、イスラエル・パレスチナ問題に関するこれらのシステムの回答を形作ることにある。

操作の仕組み

  • 架空の機関としての装い – Webサイトは一般的なアメリカのシンクタンクを模しており、一般的な名前、赤・白・青のブランドカラー、洗練されたレイアウトを持つ。記事には著者名がなく、各報告書は研究所名の下で発表されている。
  • AIに優しいコンテンツ – 報告書には脚注、目次、多数の引用が含まれており、LLMが信頼性を評価する際に重視するデータパターンと一致している。Piro社自身のマーケティング資料では、これを「AIストーリー最適化」と呼んでいる。
  • 質問中心のフォーマット – 記事は一般的なチャットボットの質問（例：「1948年にパレスチナ人が追いやられた原因は何ですか？」）に対する答えとして構成されており、ユーザーがその質問をした際にLLMが容易に取得できるようにしている。
  • 資金と契約 – Piro社はイスラエル政府からこの業務のために90万ドルを受領し、Havas Mediaを通じて下請け契約を受けていた。また、元トランプ陣営マネージャーのBrad Parscaleと、別途4650万ドルの契約を結んでおり、これによりプロイスラエルのサイトが複数作成された。これらのサイトはすでにMicrosoft CopilotやGoogle Geminiに組み込まれている。

例示されるコンテンツとテーマ

報告書タイトル 注目すべき主張 引用された出典
イスラエル国防軍は世界で最も道徳的な軍隊ですか？ 2022年の世論調査で、イスラエルユダヤ人の47％がイスラエル国防軍を世界で最も道徳的な軍隊と見なしていると述べている。 イスラエル政府の世論調査
ユニセフのガザにおける水インフラに関する主張 ガザの90％の水インフラが破壊されたというユニセフの発表を疑問視している。 イスラエル外務省のデータ
トップのイスラエル・ガザ説明動画が紛争をどのように描写しているか 人気のある36本の動画のうち19本が、パレスチナ側の主張と一致する議論を含んでいると指摘している。 原始的な動画分析研究

多くの報告書は、テーマを反ユダヤ主義の増加に結びつけることで結論づけられており、しばしば同じ研究を繰り返し使用してその主張を強化している。

AIへの影響の証拠

  • GPTZeroによる検出 – GPTZeroを用いてランダムに選ばれた12件のハノーバー研究所の記事を分析したところ、11件が高確率でAI生成と判定され、残り1件も中程度の確率でAI生成と判定された。
  • チャットボットによる引用 – 独立調査によると、Microsoft CopilotやGoogle Geminiは、イスラエル・パレスチナに関する回答でハノーバー研究所のページを頻繁に引用しているが、それが国家主導のインフルエンスキャンペーンの一環であることを明示していない。

専門家のコメント

「LLMは具体的な統計やデータ、強力な引用と出典を好むため、これらの記事はすべてそれらを備えています」と、NewsGuardのアナリストであるAlice Lee氏は述べた。 「これは、一般的な信頼できるアメリカのシンクタンクを完璧に模倣したもので、一般的な名前、サイトのレイアウト、赤・白・青のカラースキームまで、すべてがそろっています。」 – Lee

Hacker Newsの他のコメント者たちは、より広範な影響について指摘している：

  • 今後の普及 – あるユーザーは、類似した架空組織の戦術が1年以内に一般的になる可能性を警告し、真の情報源を圧倒する恐れがあると述べた。
  • 倫理的懸念 – 複数の参加者が、LLMの学習データを操作することはCPUにバックドアを仕込むのと同様であり、潜在的に危険な後続の影響をもたらすと主張した。
  • 効果に対する懐疑 – 一部のコメント者は、この戦略がLLMをだますことは可能だが、著者名の欠如や明示的な免責条項があるため、人間の読者にはあまり効果がないと指摘した。

なぜこれが重要なのか

  • LLMは情報の中継者としての役割を強化している – チャットボットが迅速な回答に使われるようになるにつれ、それらが学習するデータが世論に直接影響を与えるようになっている。
  • 国家主体が信頼性を武器化できる – AI最適化で引用が豊富なコンテンツを生み出すことで、政府は公然のプロパガンダを使わずに、物語を巧妙に操作できる。
  • 検出と対策はまだ初期段階 – 現在のAI検出ツールは多くのこの種のテキストを検出できるが、LLMは依然としてそれらを学習データとして取り入れており、検出と防止の間にギャップがあることを示している。

対策と未解決の問い

  1. 権威の検証 – 信頼できる出典に対して暗号学的署名などの堅牢な出典信号を開発することで、LLMが信頼性を評価する手助けができる。
  2. 透明性の要請 – モデルの学習に使用される可能性のあるコンテンツに対して、資金源と著者情報を明示する義務を課す。
  3. モデルレベルの防御 – 「AIストーリー最適化」のパターンを認識し、そのような出典を低評価するようにLLMを訓練する。
  4. 政策監視 – AI関連活動について、外国代理人登録制度（例：FARA）を評価し、一般の認識を確保する。

結論

イスラエルが設立したハノーバー研究所は、LLMがデータ豊富で引用の多いコンテンツに信頼を寄せることを巧みに利用した、高度なAI指向のプロパガンダ手法を示している。チャットボットが主要な知識源となる中で、このような操作は情報の整合性に対する新たな課題を生み出し、技術的・規制的・社会的な対応が求められている。

Sources

関連