英格蘭與威爾斯警方接獲指令，停止在法庭陳述中使用 AI

英格蘭與威爾斯的警力單位已被指示停止在製作法庭陳述時使用人工智慧。這項指令源於各界擔憂，市售的 AI 工具在部署前未經過充分評估，且僅依賴人工審核 AI 生成的文本，不足以作為防止錯誤或「幻覺」的有效保障。

在法律文件中部署未經評估之 AI 的風險

執法機構在這些系統針對法律證詞的使用情境進行適當評估之前，就已經開始部署包括 Microsoft Copilot 在內的商業 AI 工具。主要的風險在於使用者容易產生懈怠心理，將 AI 生成的草稿視為最終成品，而非僅作為起點。

雖然許多警力單位都有政策規定警員必須「檢查它所產生的所有內容」，但批評者認為，這對於確保法庭陳述的完整性而言並非可行方案。正如 Hacker News 上的社群討論所指出的，一旦警員習慣了該工具的便利性，就存在極大的風險，他們會直接將內容「丟過牆去」。

樣板文字與主觀證詞之間的關鍵區別

在執法工作中有效使用 AI，需要嚴格區分行政樣板文字與主觀證據。在法律情境中，描述事件所使用的特定措辭至關重要；因此，主觀資訊必須源自警員自身的觀察與認知過程，而非 AI 的綜合整理。

對於樣板文字，與傳統的複製貼上方法相比，AI 的效用受到質疑，因為傳統方法更可靠，且較不容易出現與大型語言模型 (LLMs) 相關的「幻覺」問題。

建議的 AI 生成文本替代方案

為了在減輕行政負擔的同時提高證據的證明力，有人建議轉向以影片為基礎的報告方式。這種方法要求警員在事件發生後立即對事實與決策原因進行口述敘述。

這種方法的好處包括：

• 即時記錄：事實在警員記憶猶新時即被記錄下來。
• 防篡改性：影片通常比純文本更難以被 AI 驅動的操縱手段所竄改。
• 真實性：肢體語言與口頭證詞能提供比書面報告更多的背景資訊。
• 效率：可以使用自動轉錄技術來產生法庭紀錄所需的必要文本，而不會犧牲證詞的原始來源。

政府採用 AI 的更廣泛影響

英格蘭與威爾斯的現況反映了關於採用 AI 來解決公共部門生產力缺口的一個更廣泛的緊張關係。各界擔憂，大量的納稅人資金正被投入到那些承諾提高生產力但可能無法實現的 AI 公司，特別是當這些工具被應用於司法等準確性至關重要的關鍵環境時。