数字信任的侵蚀:AI Slop 如何正在扼杀在线社区

互联网目前正充斥着一种被称为 "AI slop"(AI 垃圾内容)的现象——即为了追求参与度、虚荣心或利润,而向社区强行推送的低质量、AI 生成的内容。就像一个孩子从幼儿园带回来的蜡笔画一样,这些作品中的大部分只是有趣的个人里程碑,但不属于全球互联网的公共墙壁。

虽然智能体编程(agentic coding)和大型语言模型(LLMs)的力量不可否认,但对其原始输出的无差别分享正在制造一场信号与噪声的危机。当撰写一篇博客文章、创建一个 GitHub 仓库或编写一份技术教程的门槛降至几乎为零时,这些产出物的价值也会随之暴跌。其结果是,一个数字环境正被合成的平庸之作所淹没,有机的人类互动正因此受到窒息。

AI Slop 的解剖

AI slop 的定义不在于所使用的工具,而在于输出背后的意图和投入的精力。在 "使用 AI 构建"(building with AI)与 "由 AI 构建"(building by AI)之间存在着关键的区别。

使用 AI 构建 vs. 由 AI 构建

使用 with AI 构建涉及将模型作为更大规模的人类主导过程中的一个高级工具。它需要思考、指令、检查和完善。一个经过数月深思熟虑的设计,并利用 AI 来加速实现一个构思良好的架构的项目,仍然是一项有价值的贡献。

相反,使用 by AI 构建是指输入一个提示词(prompt)并按下回车键,然后将即时输出视为成品。无论是作者从未实际使用过的 "vibe-coded" 应用,还是读起来像 Claude 生成的摘要的博客文章,这都是 slop。它是一种过程的体现,而不是价值的贡献。

胡说八道的非对称性

AI slop 最具破坏性的方面之一是所谓的 Brandolini's Law:

"反驳胡说八道所需的能量比产生它所需的能量要大一个数量级。"

当一个用户在没有进行适当审查的情况下,将一个复杂的、AI 生成的 pull request 丢进开源项目时,他们并不是在 "帮助";他们是在将质量控制的认知负荷转移给维护者。对于社区而言,如果一项贡献需要花费比从头开始编写还要多的精力去清理,那么这项贡献往往还不如不提供。

对社区的腐蚀作用

在线社区是建立在信任和共同审美标准之上的脆弱生态系统。AI slop 就像缠绕植物(bindweed),慢慢地将这些空间的有机生命扼杀殆尽。

信号的消亡

随着社区被合成内容污染,真正的 "信号"——深刻的见解、亲身经历和严谨的技术辩论——变得越来越难以寻找。这造成了一个恶性循环:沮丧的成员在 slop 中艰难跋涉,找不到任何价值,最终选择退出。这使得空间变得更加容易受到机器人和流量农场(engagement farmers)的攻击,可能导致一种反乌托邦的状态,即 AI 智能体只是在彼此之间 "交谈",而没有任何人类存在。

信任的侵蚀

除了噪声之外,还有更深层的心理影响。当人们无法分辨 Hacker News 或 Reddit 上的回复者是人类还是 LLM 时,每一次互动的基准信任水平都会下降。这种 "合成参与"(synthetic participation)催化了高信任环境中的薄弱环节,使其容易受到普遍的宣传和低质量的 astroturfing(刷票/造势)攻击。

来自一线的视角

来自社区管理者和长期用户的见解突显了这场斗争的严峻性:

  • 管理负担: 一些小众的创意社区已经完全禁止了 AI 内容,但代价很高。一位管理员注意到,每月禁止数百个 AI 账号的压力,并将其描述为一种 "额外成本" 和 "一场注定失败的战斗"。
  • 人类的 Slop 反驳观点: 有人认为 "人类的 slop"——陈词滥调和重复的套路——在 AI 出现之前就已经存在了。然而,规模是关键的区别点。AI 实现了平庸之作的工业化。
  • 向现实生活(IRL)的转变: 有一种日益增长的情绪,即数字世界的 "slopification"(垃圾化)可能会迫使现实生活社区的复兴。随着数字互动变得不可信,面对面交流和经过验证的人类存在变得更有价值。

如何在不增加 Slop 的情况下进行贡献

为了防止数字公地的崩溃,贡献者在分享之前应应用更高的 "工作证明"(proof of work)标准:

  1. 自问:这是否有贡献? 如果输出仅仅是任何其他人都能运行的提示词结果,那么它只是一个奇观,而不是一项贡献。
  2. 阅读环境(Read the Room): 在发布之前,先通过潜水观察并理解社区的氛围(vibe),实践 "netiquette"(网络礼仪)。
  3. 保持透明: 清楚地说明在创作过程中是否使用了 AI,以及如何使用、在哪里使用了 AI。
  4. 验证实用性: 如果是软件,它是否可用?是否有文档?你是否准备好为其负责并处理问题,还是说这只是与 LLM 进行的一次 "一夜情"?

结论

LLMs 和智能体编程工具是现代开发者工具箱中的强大补充。然而,大规模生成内容的能力必须与克制分享的自律相结合。互联网的建立基于分享奇特的脚本和充满激情的想法,但它的生存依赖于人类连接的质量。为了拯救我们的在线社区,我们必须停止将提示词按钮视为发布按钮。

Sources