法律实践中 AI 幻觉的危险

将大语言模型 (LLMs) 集成到法律行业带来了效率和速度的承诺。然而，一个反复出现且危险的趋势已经显现：律师在法庭文件中引用不存在的法律先例——即“幻觉”。这一现象揭示了职业过失与过度依赖自动化工具之间的关键交集。

AI 幻觉的问题

AI 模型的设计初衷是预测序列中下一个最可能的 token，而不是检索法律记录的事实数据库。当被要求提供判例法时，这些模型经常生成看起来很真实的引用——包括听起来合理的案例名称、卷号和法律推理——但它们完全是捏造的。

对于法律专业人士而言，危险在于专业标准的准确性。法律是一个基于前提的系统；引用虚假案例不仅是一个技术错误，更是对法院诚实义务 (duty of candor) 的根本性失败。

机器信任的心理学

专家指出，存在一种普遍倾向，认为机器比人类拥有更多知识且本质上是无懈可击的。这种“自动化偏差”导致从业者在未经核实的情况下信任 AI 的输出。

然而，批评者认为，这种信任并非基于无知，而是出于对效率的渴望。正如一位观察者所言：

"I suspect that people know that machines break and fail they're just lazy and are willing to hand off their work to a computer as often as they can get away with it."

在这种观点下，“是电脑做的”这一借口经常被用作规避严谨、耗时的手动核实工作的盾牌。

核实的成本

这一问题背后的主要驱动因素之一是法律实践中的经济压力。核实引用的过程涉及几个步骤：检查案例是否存在于 LexisNexis 或 Google Scholar 等数据库中，然后阅读摘要以确保上下文与 AI 的描述相符。

这一核实过程需要人力劳动——无论是来自实习生还是律师助理。当律所不愿意投入完成这些检查所需的几小时劳动时，他们就在冒着损害其提交文件的完整性的风险。未能核实 AI 生成的引用，本质上是未能对法律工作的基本质量保证进行投入。

问责制与职业后果

由于法律行业是自我监管的，并且依赖于判例法的完整性，这些错误的后果必须是严厉的。虽然有些人可能将这些幻觉视为技术故障，但它们代表了对职业道德的违背。

有人认为，唯一的有效威慑手段是吊销执照。其逻辑是，一旦少数律师因未能核实 AI 生成的内容而失去执照，行业将回归到履行其受薪工作的必要严谨性。在此之前，AI 的效率与同样的职业责任之间的紧张关系仍然是法律领域的关键风险。