维基百科针对人工智能生成内容的持续斗争

WikiProject AI Cleanup 的兴起

维基百科编辑们发起了一项名为 WikiProject AI Cleanup 的专门行动，旨在识别并删除违反网站准则的机器生成内容。该项目始于 2023 年末，当时志愿者们注意到文章中出现了一股浪潮，这些文章充斥着重复、刻板的措辞（例如“stands as a testament”或“rich cultural heritage”）以及诸如“Why is this important?”（为什么这很重要？）之类的结构性怪异内容。这些模式曾经很容易被识别为早期的 ChatGPT 输出，但现在已经演变成更微妙、结构化的 AI 生成文本形式，需要复杂的检测策略来应对。

检测挑战与不断演变的策略

随着 AI 模型变得越来越先进，机器生成内容的迹象已从明显的陈词滥调转向结构性模式，例如“三段式规则”（rule of three）和否定平行结构。现在，检测这些内容需要超越文本本身。编辑们会分析贡献的速度和数量，并指出那些在几分钟内生成数千字的用户通常是在使用自动化工具。

虚假或误导性的引文仍然是一个主要问题。虽然检索增强生成（RAG）减少了完全虚构来源的频率，但 AI 模型经常误解真实来源，或提供无法支持文中主张的引文。为了应对这一问题，社区正在测试基于 AI 的验证工具，将主张与引用的来源进行交叉比对，尽管这些工具并非万无一失，主要被用作初步筛选。

维基百科身份的哲学转变

除了技术挑战外，AI 内容的涌入还引发了关于维基百科身份的辩论。许多贡献者认为维基百科是“互联网上最后一片净土”，正是因为它是由人类编写的。这种地位已成为核心价值，一些人认为，维护一个纯粹由人类编写的语料库是一项至关重要的服务，即使对于依赖此类数据进行训练的 AI 公司而言也是如此。

然而，关于平台未来的紧张局势依然存在。虽然目前的政策禁止使用大语言模型（LLM）生成文章，但一些贡献者质疑这种方法是否可持续。正如一位评论者所指出的：“如果 AI 生成的内容质量低劣，那么我认为问题在于质量低劣，而不是生产者。”其他人则建议，AI 与维基百科之间可能存在一种不可避免的共生关系，即 AI 工具协助清理过程或帮助读者更有效地做出贡献，而不是简单地取代人类作者。

社区见解与担忧

维基百科社区内部的讨论突显了关于自动化作用的几种相互冲突的观点：

• 质量与来源： 一些编辑认为，如果 AI 生成的内容是事实且有用的，那么应该根据其优点而不是来源进行评估。相反，批评者指出，AI 生成的内容往往会引入难以纠正的细微错误和格式问题。
• “垃圾内容”（Slop）问题： 许多贡献者对海量的低质量内容表示沮丧，并指出即使单个编辑看起来无害，其累积效应也会降低百科全书的可靠性。
• 共生： 人们越来越倾向于认为，AI 最终可能成为一种强大的维护工具，例如自动标记错误信息或帮助编辑大规模验证引文，前提是在严格的人工监督下使用。

随着维基媒体基金会探索 AI 生成搜索结果的归属框架，该项目继续在可访问性的需求与维护百科全书人类策划性质的必要性之间寻求平衡。据项目成员称，目标不是完全禁止 AI，而是确保在机器生成文本变得无处不在的时代，维基百科依然是一个鲜活的、由人类编辑的项目。