「バイブ・サイティング（Vibe Citing）」の台頭：AIのハルシネーションがいかにしてビッグ4のaレポートを汚染したか

プロフェッショナル・サービス業界は現在、生成AIの統合に関して重大な局面を迎えています。効率性の向上という約束は魅力的ですが、GPTZeroによる最近の調査は、世界で最も権威のあるコンサルティング・ファームの一つにおける品質管理の致命的な失敗を明らかにしました。

EY Canadaによる『Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems』と題されたレポートは、GPTZeroが「バイブ・サイティング（vibe citing）」と呼ぶ現象のケーススタディとなっています。これは、LLMが、正しく見えるものの、現実には何の根拠もない偽の参照文献を生成することを許容してしまう慣行のことです。この現象は単なる技術的な不具合ではありません。それは、プロフェッショナルによる検証を欠いたシステム的な失敗であり、デジタル知識のグローバルな蓄積を汚染する恐れがあります。

ハルシネーションによるレポートの解剖

GPTZeroの調査によると、この44ページのレポートは「バイブ・サイティング、誤った帰属、偽の統計、そしてAIが書いたテキストのコラージュ」です。失敗は些細なものではなく、壊れたURLから完全に捏造された情報源まで多岐にわたります。

捏造された情報源と情報の「ロンダリング」

最も憂慮すべき発見の一つは、「情報のロンダリング」というプロセスです。このレポートは、未利用のロイヤリティ・ポイントの価値に関する2022年のMcKinsey & Companyのレポートを引用しています。しかし、そのMcKinseyのレポートは存在しません。

調査の結果、EYは恐らく、Financial ITによる無名のフィンテック・ブログの投稿からこの引用を引用したことが判明しました。そのブログ投稿自体が、McKinseyの引用をハルシネーション（幻覚）させていました。ブログを引用することで、EYは低品質な情報源からのハルシネーションを「ビッグ4」の出版物へと事実上ロンダリングし、不当に権威ある外観を与えてしまったのです。

内部矛盾と「AIスロップ（AI Slop）」

偽の引用に加えて、このレポートは「AIスロップ（AI slop）」の特徴である内部矛盾に満ちています。例えば：

2000億ドルの不一致: エグゼクティブ・サマリーにおいて、レポートは世界のロイヤリティ・ポイント市場が2000億ドルであると主張しています。しかし、その後の10ページ目では、その2000億ドルは未利用のポイントのみの価値であると主張しています。もしレポートの主張通りにポイントの30-50%が使用されないのであれば、市場全体は4000億ドル以上である必要があります。
誤った帰属の統計: ロイヤリティ・プログラムの72%が不正を報告しているという主張は、6ページ目ではPaystoneによるものとされていますが、11ページ目ではForterによるものとされています。実際には、元の情報源は2017年のIpsosの調査であると思われます。

システム的なリスク：情報の井戸を汚染する

バイブ・サイティングの危険性は、単一の誤ったレポートにとどまりません。EYのようなブランド力を持つ企業が捏造されたデータを公開すると、誤情報のフィードバック・ループが形成されます。

第一に、レポートは信頼できるニュース媒体（Canberra Timesなど）によって引用され、それによって偽のデータがさらに正当化されます。第二に、これらのレポートはAIの「ディープ・リサーチ」ツールによって取り込まれます。これらのツールは人間とは異なるシグナルに依存しているため、この種のデータ汚染に非常に脆弱です。一度、権威あるドメインによってハルシネーションが公開されると、それは将来のAIエージェントや人間の研究者にとっての「真実」となってしまいます。

人間の要素：なぜこれが起こるのか

Hacker Newsでのコミュニティ・ディスカッションでは、企業環境におけるより深い文化的な問題が浮きき彫りになっています。問題はAIの不足ではなく、人間による検証の不足です。

「多くの専門職において見られている問題は、AIの出力が知識のある人々によって検証されていないことです... 最良のケースでは、彼らは内容をざっと見るだけで、最悪の場合、公開される前に全く内容を確認していないことさえあります。」

複数の寄稿者は、「ガーベッジマキシング（garbagemaxxing）」という傾向を指摘しています。これは、企業のレイオフの最中、「より少ないリソースでより多くのことを行う」という方針のもと、シニア・マネジメントが、実用的な情報が全く含まれていないAI生成の「中身のないテキスト（fluff）」を大量に流出させてしまう現象をものです。その結果、危険なギャップが生じます。コンテンツを検証するために必要な専門知識を持つ人々が、過負荷の状態にあるか、あるいは不在であるため、プロフェッショナルとしての権威という「バイブ（雰囲気）」が、実際の厳密さの代わりを務めることになってしまうのです。

結論

EY Canadaの事例は警告として機能します。情報源の権威威信は、もはやコンテンツの正確性を保証するものではありません。生成AIの時代において、引用文献の検証という手間（フリクション）は、品質を確保するための主要な障壁です。その手間が、人間による適切な監視の増加なしに自動化によって取り除かれてしまうと、その結果は効率化ではなく、公衆の信頼の毀損と、グローバルな知識ベースの劣化につながります。