反向半人马的崛起:LLM Slop 与开源维护危机
反向半人马的负担
开源维护者正日益面临一种被称为“反向半人马”(reverse centaur)的现象:资深工程师们花费大量时间审查和合并由机器挤出的代码,而不是亲自编写代码。这个术语由 Cory Doctorow 创造,描述了“脆弱且易受攻击的人被冷漠、无情的机器所操纵”的状态。
对于像 Miguel Grinberg 这样的维护者来说,LLM 生成的贡献涌入改变了接收拉取请求(PR)的体验。以前,一个未经请求的 PR 是社区投入和自豪感的象征;而现在,它往往是低质量“slop”的“红旗”信号,这些内容是由用户通过提示 LLM 来改变项目行为以满足其特定需求,却不考虑对代码库更广泛影响的行为所生成的。
抵制 AI 生成 Slop 的策略
为了应对机器生成代码的泛滥,一些维护者正在实施更严格的贡献流程,以确保人类的参与。
Issue-First 要求
一种有效的策略是强制要求所有更改必须在提交 PR 之前通过 GitHub issue 先进行说明。这一过程可以确保:
- 维护者可以在任何一方投入大量时间之前对提案进行审查。
- 贡献者展示了对项目健康的真实兴趣,而非仅仅是随手提交。
- 维护者可以与贡献者建立起人类之间的联系。
立即拒绝未经请求的 PR
当 PR 在没有事先讨论的情况下到达时,如果没有任何人类参与的证据,维护者现在可能会立即将其关闭。这种转变承认了审查一个可能有用但由 AI 生成的补丁的成本现在已经超过了收益,因为低质量提交的量级使得手动过滤变得难以为继。
对开源生态系统的影响
AI 辅助编程的兴起正在快速修复的需求与项目维护的可持续性之间制造一种根本性的紧张关系。
贡献者的困境
现在出现了一个日益增长的“非编程人员”或从事无关学科的工程师群体,他们现在可以识别 bug 并使用 LLM 来生成他们原本无法编写的修复方案。虽然这些用户意图提供帮助,但他们的贡献往往缺乏项目所需的架构上下文,从而导致维护者精疲力竭。
写作的社会契约
社区讨论强调了技术贡献中“隐性社会契约”的破裂:即作者应该在工作中投入比读者审查时需要花费的精力更多的理念。AI 颠倒了这个比例,使得生成一个只需几秒钟即可生成的 PR 变得轻而易举,但审计它却需要数小时。
开源的未来
关于传统的开源模型是否仍然可行,目前存在着持续的辩论。一些观察者提出了几种新兴趋势:
- 中心化: AI 可能会将新用户引向少数几个关键项目,从而进一步增加这些特定仓库的 PR 洪流。
- 信噪比衰减: 低质量 AI 库的激增使得开发者更难找到高质量、由人类策划的工具。
- 替代性分发: 有人建议转向“非规范软件”(noncanonical software)或基于生态系统的集群,在这些集群中,功能是通过社区共同分享和演进的,而不依赖于单一、精疲力竭的维护者。
社区观点
来自开发者社区的洞察反映了人们对 AI 在工作流中如何被感知的深刻分歧:
"The Pavlovian PR notification response has gone from, 'Oh! What do we have here?' to 'Groan. Do we have anything here?'"
"AI has just increased the amount of crap... the 10% of code created by AI will be valuable, and only 10% of human-written code was valuable."
虽然有人认为维护者应该使用 LLM 来过滤和审查即将到来的 PR,但也有人坚持认为,传统开源中固存在的人类推理和智力交流是这项技术正在侵蚀的内核。