偽の引用と AI 生成論文がピアレビューを氾濫させる：証拠、影響、そして緩和策

危機の概要

2 人のレビュアーが NeurIPS、WACV、TerraBytes ワークショップの 22 件の投稿で捏造された引用と著者リストを指摘しました。68 % の論文に明らかな LLM 生成の痕跡が見られ、捏造された著者がいる 2 本の論文は口頭発表として受理されました。幻覚的な参考文献の蔓延は数万件の出版物で記録されており、AI 生成レビューが一般化しつつあります。

問題の範囲

会場 レビュアー 指摘された論文数 総レビュー数
NeurIPS（Datasets & Benchmarks） Caleb 5 件中 2 件 5
NeurIPS（Position Paper） Isaac 2 件中 2 件 2
TerraBytes（ECCV ワークショップ） Caleb 2 件中 1 件 2
Isaac 5 件中 4 件 5
WACV Caleb 4 件中 3 件 4
Isaac 4 件中 3 件 4
合計 Caleb 11 件中 6 件（55 %） 11
Isaac 11 件中 9 件（82 %） 11

これらの数字は大きな傾向の一部にすぎません：

  • Nature（2026 年 4 月） は、2025 年の論文のうち数万件が無効な AI 生成引用を含んでいると推定しています。
  • Zhao et al.（arXiv 2026‑05‑07） は、arXiv、bioRxiv、SSRN、PubMed Central の 2025 年分で約 146,900 件の幻覚的引用をカウントし、そのうち 85.3 % が出版版に残っていると報告しました。
  • The Lancet（2026） は、少なくとも 1 つの捏造引用を含む論文の割合が 2023 年の 1/2,828 から 2026 年初頭の 1/277 に上昇したと指摘しています。
  • Ansari（arXiv 2026‑02‑05） は、NeurIPS 2025 の 100 件の捏造引用を監査し、すべてが 3‑5 人の専門レビュアーを通過、受理論文の約 1 %（53 本）が議事録に残っていると述べています。

AI 生成レビューも広範囲に

  • Pangram（2025） は、ICLR 2026 のレビューの 21 % が完全に AI 生成であり、半数以上が何らかの AI 関与を示すと検出しました。
  • Gartenberg et al.（2026） は、Organization Science への投稿が ChatGPT 後に 42 % 増加し、ピアレビューの 30 % 超が AI を使用していると報告しています。
  • ICML 2026 は、全レビューの約 1 %（795 件）が「LLM 禁止」ポリシーに違反していることを特定しました。
  • Li et al.（2026） は、対抗的に書き換えた要旨が AI レビュアーのスコアを +1.31（Gemini 3 Flash）または +0.88（GPT 5.4 Mini）上げる攻撃が 38 % のケースで成功したと示しました。

レビュアーが観察したこと

最も悪質なケース

Isaac: 2 件の投稿で実在の著者を捏造した名前に置き換え、両方とも参考文献を修正する条件で口頭発表が受理された。

Caleb: 53 ページにわたる NeurIPS 論文が幻覚的な専門用語と意味不明な引用で埋め尽くされ、別の 40 ページの論文は各引用の横に埋め込まれた LLM メモが付いていた。

偽引用と偽著者の相対的深刻度

両レビュアーは、捏造された著者リストは完全に偽の引用と同等に有害であると合意しました。これは基本的な注意義務の欠如を示し、論文全体への信頼を揺るがすからです。

信頼できる「LLM 執筆」サイン

ランク Caleb の指摘 Isaac の指摘
1 繰り返しのフレーズ（「It’s not X, it’s Y」）、太字、エムダッシュ テキストと表のメトリック不一致
2 過度に密集し読みにくい文 数字を単に繰り返す冗長な議論セクション
3 結果の過大宣伝 コロン/セミコロンの異常使用、マーケティング調の文体

レビュー作業フローの変化

  • 文献リストを最初に確認: レビュアーは要旨の直後に参考文献リストをスキャンし、bib‑audit スキルを使用することが増えました。
  • デスクリジェクトへの注力増加: レビュアーは、論文がフルレビューに値するかどうかを判断するため、捏造引用の探索に多くの時間を割くようになっています。
  • 時間配分: 多くのレビュアーが、科学的価値の評価よりも AI アーティファクトの検出に相当量の労力を費やしており、持続可能性への懸念が高まっています。

緩和ツール：bib‑audit

bib‑audit は Claude ベースのプラグインで、

  1. .bib、.bbl、または PDF の文献リストを構造化フィールドに解析します。
  2. 各エントリを Crossref、arXiv、DataCite、Semantic Scholar と照合します。
  3. 存在しない作品、捏造著者、メタデータ不一致、書式エラーを最悪から順にフラグ付けします。
  4. DOI や arXiv ID が欠如しているエントリに対し助言的警告を提供します。

インストール（CLI）

claude plugin marketplace add isaaccley/skills
claude plugin install bib-audit@isaaccley-skills

提出前に文献リストに対してスキルを実行してください。CI パイプラインに読み取り専用の事前提出ゲートとして組み込むことも可能です。

ポリシー状況

  • NeurIPS 2025‑2026: AI 補助レビューは認可された実験でのみ許可され、レビュアーは外部 LLM に投稿抜粋を共有してはなりません。
  • WACV 2026‑2027: AI 生成レビューを「極めて無責任」とラベル付けし、規則違反者に制裁を課します。
  • ECCV 2026: レビュー執筆や実質的な投稿資料の共有に LLM の使用を全面禁止します。

コミュニティの視点（抜粋 HN コメント）

"この時点で論文は AI が執筆し、AI がレビューし、AI が読む——人間を学術ループから自動化で排除している。" – nneonneo

"偽引用は盗作と同等に扱うべきだ。さもなければインセンティブ構造は壊れたままになる。" – DarkUranium

"会議が著者に参考文献 PDF をアップロードさせれば、多くの幻覚は自動的に捕捉できるだろう。" – leikarnes

"デスクリジェクト機構やフラグツールが必要だ。開示ポリシーだけでは悪質な行為者は止められない。" – Isaac

誰が責任を負うべきか？

両レビュアーは、著者 が低品質な AI 生成原稿を提出することが主因であると主張します。しかし同時に、指導教官、プログラム委員長、会議主催者 がより厳格なデスクリジェクト基準とツール（例：bib‑audit）を提供し、レビュアーを保護すべきだと指摘しています。

研究者とレビュアーへの要点

  1. 未検証の参考文献を含む論文は決して提出しない。 提出前に自動文献監査と手動チェックを行うこと。
  2. LLM を使用する場合は徹底的に編集する。 生成されたすべての引用、指標、主張を元情報と照合すること。
  3. レビュアーは捏造引用をデスクリジェクトの根拠とみなすべき。 初期段階で小規模な文献スキャンを割り当て、無駄な作業を防ぐ。
  4. 会議は実効性のあるポリシーとツールを導入すべき。 開示だけでは不十分で、自動フラグと明確な罰則が必要。

参考文献（人手で検証済み）

  • Naddaf & Quill, Nature 2026 – 文献を汚染する幻覚的引用。
  • Zhao et al., arXiv 2605.07723 – 存在しない引用の大規模証拠。
  • Topaz et al., The Lancet 2026 – 250 万件の生物医学論文にわたる捏造引用。
  • Ansari, arXiv 2602.05930 – NeurIPS 2025 における 100 件の捏造引用の分類。
  • Emi, Pangram ブログ 2025 – ICLR 2026 レビューの 21 % が AI 生成。
  • Li et al., arXiv 2606.10159 – AI 補助ピアレビューのゲーム化。
  • Gartenberg et al., Organization Science 2026 – 投稿とレビューにおける AI の急増。
  • Kamath, ICML ブログ 2026 – LLM レビュー規則違反。
  • Lipton & Steinhardt, Queue 2019 – ML 論文における「数学的ごちゃごちゃ」への初期批判。

言及されたツールとポリシー

Sources

関連