イングランドおよびウェールズの警察に、裁判所への供述書作成におけるAI利用の中止命令が下る

イングランドおよびウェールズの警察組織は、裁判所への供述書作成における人工知能（AI）の使用を停止するよう指示されました。この指令は、市販のAIツールが適切な評価なしに導入されていること、およびAIが生成したテキストの人間による確認への依存が、誤りや「ハルシネーション（幻覚）」に対する不十分な安全策であるという懸念に基づいています。

法的文書における未評価のAI導入のリスク

法執行機関は、これらのシステムが法的証言というユースケースに対して適切な評価を受ける前に、Microsoft Copilotを含む商用AIツールを導入していました。主なリスクは、ユーザーが油断し、AIが生成したドラフトを、出発点としてではなく最終製品として扱ってしまう傾向にあります。

多くの警察組織は、警察官が「生成されたものすべてを確認しなければならない」という方針を掲げていますが、批判的な意見を持つ人々は、これが裁判所への供述書の整合性を確保するための実行可能な解決策ではないと主張しています。Hacker Newsでのコミュニティの議論で指摘されているように、ツールの利便性に慣れてしまうと、警察官が単に「内容を壁の向こうへ投げ捨てる（丸投げする）」という重大なリスクがあります。

定型文（Boilerplate）と主観的な証言の決定的な違い

法執行機関におけるAIの効果的な活用には、行政的な定型文と主観的な証拠との間の厳格な区別が必要です。出来事を説明するために使用される特定の言い回しは、法的文脈において極めて重要です。したがって、主観的な情報は、AIによる合成ではなく、警察官自身の観察と認知プロセスに由来するものでなければなりません。

定型文のテキストについては、従来のコピー＆ペースト方式と比較してAIの有用性が疑問視されています。従来の方式の方がより信頼性が高く、Large Language Models (LLMs) に関連する「ハルシネーション」が発生しにくいからです。

AI生成テキストに代わる提案された代替案

行政的な負担を軽減しつつ証拠の証明力を高めるために、ビデオベースの報告への移行を提案する人々もいます。このアプローチには、事件発生直後に警察官が事実と決定の理由をナレーションで説明することが含まれます。

このアプローチの利点には以下が含まれます：

• 即時的な記録: 事実が警察官の記憶に新しいうちに記録されます。
• 改ざん防止: ビデオは一般的に、プレーンテキストよりもAIによる操作に対して耐性があります。
• 真正性: ボディランゲージや口頭での証言は、書面による報告書よりも多くの文脈を提供します。
• 効率性: 自動文字起こしを使用することで、証言の元のソースを損なうことなく、裁判所記録に必要なテキストを生成できます。

政府によるAI導入に関するより広範な影響

イングランドおよびウェールズの状況は、公共部門における生産性のギャップを埋めるためにAIを導入することに関する、より広範な緊張関係を反映しています。そこには、大きな懸念があります。つまり、実現しないかもしれない生産性の向上を約束するAI企業に対し、多額の納税者の資金が投入されていること、特に正確性が最優先される司法のような、極めて重要な環境にツールが適用される場合です。