AI 幻覺在法律實務中的危險

大型語言模型 (LLMs) 融入法律專業，承諾帶來效率與速度。然而，一個重複發生且危險的趨勢已經出現：律師在法庭文件中引用不存在的法律先例——即「幻覺」。這種現象揭示了專業疏忽與過度依賴自動化工具之間的一個關鍵交集。

AI 幻覺的問題

AI 模型旨在預測序列中下一個最可能的 token，而非檢索法律記錄的事實資料庫。當被要求提供判例法時，這些模型經常生成看起來很真實的引用——包含聽起來合理的案名、卷號和法律推理——但卻完全是捏造的。

對於法律專業人士而言，危險在於專業標準的準確性。法律是一個基於前提的系統；引用虛假案例不僅僅是一個技術錯誤，更是對法院誠實義務 (duty of candor) 的根本失敗。

機器信任的心理學

專家指出，人們普遍傾向於認為機器比人類擁有更多知識，且天生是不可謬的。這種「自動化偏誤」(automation bias) 導致從業者在未經核實的情況下便信任 AI 的輸出。

然而，批評者認為，這種信任並非基於無知，而是基於對效率的渴望。正如一位觀察家所言：

"I suspect that people know that machines break and fail they're just lazy and are willing to hand off their work to a computer as often as they can get away with it."

在這種觀點下，「是電腦做的」這種藉口經常被用作盾牌，以規避嚴謹且耗時的人工核實工作。

核實的成本

此問題的主要驅動因素之一是法律實務中的經濟壓力。核實引用的過程涉及幾個步驟：檢查案例是否存在於 LexisNexis 或 Google Scholar 等資料庫中，然後閱讀摘要以確保上下文與 AI 的描述相符。

這個核實過程需要人力——無論是來自實習生還是法律助理 (paralegal)。當律師事務所不願投入執行這些檢查所需的幾小時勞動力時，他們就冒著損害其文件完整性的風險。未能核實 AI 生成的引用，本質上是未能對法律工作的基本品質保證進行投資。

問責制與專業後果

由於法律專業是自我規管的，且依賴於判例法的完整性，這些錯誤的後果必須是嚴厲的。雖然有些人可能將這些幻覺視為技術故障，但它們代表了對專業倫理的違反。

有人認為，唯一有效的威懾手段是吊銷執照 (disbarment)。其邏輯是，一旦有少數律師因未能核實 AI 生成的內容而失去執照，整個行業將會回歸到為其所收取的報酬而進行必要且嚴謹工作的狀態。在那之前，AI 的效率與同樣的專業責任之間的緊張關係，仍將是法律領域的一個關鍵風險。