arXivによるハルシネーション引用への取り締まり：AI時代の責任の所在

大規模言語モデル（LLM）の学術ワークフローへの統合は、研究成果の出力を加速させましたが、同時に危険な傾向ももたらしました。それは「スロップ（slop）」、つまり、権威があるように見えて事実に反するAI生成コンテンツの蔓延です。特に、存在しない論文を引用する「ハルシネーション（幻覚）引用」という現象が、科学的記録を汚染し始めています。

これを受けて、arXivは学術コミュニケーションの完全性を確保するために、厳格な新しいポリシーを導入しています。この取り組みの核心は、学術的な責任の基本への回帰です。つまり、生成に使用されたツールに関わらず、人間の著者が自身の投稿におけるすべての言葉と引用に対して単独で責任を負うという原則です。

新しい執行ポリシー

Thomas G. Dietterichによれば、arXivの行動規範（Code of Conduct）には、論文に署名することで、著者はその内容に対して全責任を負うことが明示されています。これを執行するために、arXivはハルシネーション引用を含む論文を投稿する者に対して、厳しい罰則を導入します。

そのような論文を投稿した場合の提案されている罰則は、arXivからの1年間の利用禁止です。この禁止期間の終了後、著者がプラットフォームに戻る道はすぐには開かれません。その後の投稿は、まず定評のある査読付きの学術誌に受理される必要があります。その後、初めてプレプリントサーバーにアップロードできるようになります。

なぜこれが科学にとって重要なのか

研究コミュニティの多くの人々にとって、この動きは必要な介入と見なされています。学術文献は現在、品質の危機に直面しています。AI生成の埋め合わせ的な内容や不正確な情報が流入し、研究者が真の洞察を見つけることが困難になっています。

あるコミュニティメンバーは次のように述べています：

"Academic literature is in crisis because of all of the slop. Forcing some consequences on easily-detectable hallucinations can only be a good thing."

arXivへのアクセスを権利ではなく特権として扱うことで、、プラットフォームは生成AIの使用に伴いがちな「投稿して終わり」という考え方を抑止することを目指しています。目標は、著者にすべての引用を個別に検証させることで、科学的な議論が現実に根ざしたものであることを確実にすることです。

課題と倫理的考察

コミュニティは一般的に不正行為への取り締まりを支持していますが、このポリシーはAI支援研究の境界線について重要な問いを投げかけています。

検証の負担

一つの主要な懸念は、reasoning agentsやautonomous AIといった、急速に進化する分野における引用の検証の難しさです。これらの分野は従来のインデックス作成よりも速く進歩するため、著者の検証負担はより重くなります。

自律的な発見の是非

発見におけるAIの役割に関する、より深い哲学的な問いもあります。もしAIが、リーマン予想の証明のような、形式的に証明された結果を自律的に生成した場合、その結果が技術的に正しくても、機械によってエンドツーエンドで生成されたものである場合、コミュニティはそれがこれらのルール下で許容されるかどうかを決定しなければなりません。

研究者への教訓

著者にとっての教訓は明確です：下書きを細心の注意を払ってレビューしてください。 「AIスロップ」、つまりフィルタリングされていないLLMの出力は、専門家としての恥ずべき行為であるだけでなく、現在は、世界で最も重要なプレプリントサーバーの一つからの1年間の追放につながる可能性のある法的責任（liability）となり得ます。

ある研究者は警告しています。査読者は、AI生成テキストの特徴を見抜くことにますます熟達しています。テキスト内にAIの痕跡がそのまま残っている論文を投稿することは、「不快な修正依頼」への近道であり、新ポリシーの下では、専門的な記録に永続的な傷を残す可能性があります。