AI 幻觉与法律前沿：Ashley MacIsaac 对阵 Google 案

生成式 AI 和大语言模型 (LLMs) 的出现，已将搜索体验从基于链接的索引转变为直接回答引擎。然而，这种转变引入了深刻的法律和伦理风险：“幻觉”。当 AI Overview 总结信息时，它不再仅仅是指出一个来源；它是在合成一个新的事实陈述。

这种紧张关系在加拿大提琴手 Ashley MacIsaac 对 Google 提起的一项备受瞩目的诉讼中达到了顶点。这位音乐家在 AI Overview 错误地声称他是性犯罪者后，起诉了这家科技巨头——这一说法具有导致个人和职业毁灭的毁灭性潜力。此案作为一个关键案例研究，展示了 AI 生成的错误信息如何将旧有的诽谤转化为“数字事实”。

争议的核心：合成 vs. 索引

几十年来，搜索引擎一直作为目录运行。如果用户搜索一个人并发现了一个诽谤性的网站，责任通常由该内容的原始发布者承担。然而，AI Overviews 并不只是链接到内容；它们生成摘要。

在 MacIsaac 的案例中，AI 合成了虚假指控。这引发了一个关于责任的基本问题：Google 是一个中立平台还是一个出版商？虽然有人认为 Google 仅仅是其抓取数据的“信使”，但其他人则认为，通过合成摘要，Google 已经创造了新内容，并应对其准确性负责。

法律战场：Section 230 与国际法

法律分析师和观察家正在辩论 Google 是否会尝试使用类似于美国《通信规范法》第 230 条 (Section 230) 的保护措施，该条款通常保护平台免受第三方内容的责任。然而，当跨越国界时，法律格局会发生显著变化：

• 管辖权差异： 正如观察家所指出的，以美国为中心的言论自由保护在加拿大法院可能并不具有相同的权重。在加拿大，关于诽谤性陈述真实性的举证责任可能与美国系统有显著不同。
• “鹦鹉”论点： 有人认为 LLMs 本质上是“随机鹦鹉”——即在没有任何对真伪理解的情况下预测下一个 token 的软件。从这个角度来看，Google 无法“控制” AI 所吐露的内容，这可能会使证明意图或恶意变得更加复杂。

社会学影响：将恶意转化为历史

除了法律技术细节之外，此案还凸显了一个令人不安的社会学趋势：AI 如何使历史性的诽谤固化下来。

从历史上看，谣言和社会污名——特别是针对边缘化群体或挑战社会规范的个人的谣言——是通过口头传播或小众出版物传播的。在 20 世纪 90 年代，Ashley MacIsaac 因其对性取向的公开态度而面临严重的审查和诽谤。

当 AI 抓取网络时，它可能会从互联网的偏僻角落拾起这些陈旧的、毫无根据的谣言，并将其作为权威摘要呈现出来。正如一位观察家所指出的：

"This is especially troubling from a sociological perspective, as it points to how AIs turn malice into false history... We had no machine yet to confabulate it."

通过将幻觉作为事实性概述呈现，AI 面临着抹除谣言与记录事实之间区别的风险，从而有效地实现了基于历史偏见的个人边缘化自动化。

身份识别的挑战

还存在一个实际问题，即“实体消歧”。在大规模数据集中，AI 经常会将名字相似的个人混淆。例如，可能存在这样的情况，即 AI 将一位公众人物与另一位同名且有犯罪记录的人混淆。

虽然这是 LLMs 中的常见技术故障，但现实世界的后果并非仅仅是技术故障，而是改变人生的诽谤性陈述。Google 的挑战在于证明此类错误并非其 AI 处理身份和归属问题时的疏忽所致。