英格兰和威尔士警方被要求停止在法庭陈述中使用 AI

英格兰和威尔士的警队已被指示停止在编写法庭陈述时使用人工智能。这一指令源于人们的担忧，即商用 AI 工具在未经充分评估的情况下就被部署，且仅依靠人工审核 AI 生成的文本不足以作为防止错误或“幻觉”的有效保障。

在法律文件中部署未经评估的 AI 的风险

执法机构在这些系统针对法律证词这一使用场景进行适当评估之前，就已经在部署包括 Microsoft Copilot 在内的商用 AI 工具。主要风险在于用户容易产生懈怠心理，将 AI 生成的草稿视为最终产品而非起点。

虽然许多警队都有政策规定警员必须“检查它产生的所有内容”，但批评人士认为，这对于确保法庭陈述的完整性来说并不是一个可行的解决方案。正如 Hacker News 上的社区讨论所指出的，一旦警员习惯了该工具的便利性，就存在极大的风险，他们会简单地“把东西扔过墙”（即不做审核直接提交）。

模板化文本与主观证词之间的关键区别

在执法工作中有效使用 AI 需要在行政模板化文本与主观证据之间做出严格区分。在法律语境下，描述事件的具体措辞至关重要；因此，主观信息必须源自警员自身的观察和认知过程，而非 AI 的综合汇总。

对于模板化文本，与传统的复制粘贴方法相比，AI 的效用受到了质疑，因为后者更可靠，且较少出现与大语言模型（LLMs）相关的“幻觉”问题。

针对 AI 生成文本的拟议替代方案

为了在减轻行政负担的同时提高证据的证明价值，一些人建议转向基于视频的报告方式。这种方法要求警员在事件发生后立即对事实和决策原因进行口述叙述。

这种方法的好处包括：

• 即时记录：事实在警员记忆犹新时即被记录。
• 防篡改性：与纯文本相比，视频通常更难被 AI 驱动的手段进行操纵。
• 真实性：肢体语言和口头证词比书面报告提供更多的上下文信息。
• 效率：可以使用自动转录技术生成法庭记录所需的文本，而不会牺牲证词的原始来源。

政府采用 AI 的更广泛影响

英格兰和威尔士的情况反映了更广泛的紧张关系，即关于采用 AI 来解决公共部门生产力缺口的问题。人们担心大量的纳税人资金正被投入到那些承诺提高生产力但可能无法实现的 AI 公司中，特别是在将这些工具应用于司法等对准确性要求极高的关键环境时。