LLM 末日四骑士

大语言模型 (LLM) 的迅速崛起通常被描述为一系列生产力提升和创新突破。然而，对于管理关键基础设施和开源项目的人来说，现实正日益趋向于一种系统性崩溃。从自主代理 (agents) 导致的服务器饱和，到协调安全披露过程的侵蚀，LLM 时代的后果不仅是一个技术挑战——它对当前互联网的状态而言，更是一个生存挑战。

通过将这些破坏通过“末日四骑士”的寓言进行框架化，我们可以更好地理解 LLM 正在重塑数字和物理景观的多方面方式。

战争：机器人军队的崛起

多年来，系统管理员一直在与机器人 (bots) 进行一场注定失败的战斗。传统的防御手段——robots.txt、user-agent 拦截和网络级过滤——曾经足以减缓爬虫的速度。但对手的性质已经改变了。我们不再是在处理简单的脚本；我们是在处理代理 (agents)。

现代 LLM 驱动的代理运行完整的 Web 浏览器，执行 JavaScript，并利用可疑的代理网络来绕过传统的 IP 拦截。这种转变使得 cookies 和 CAPTCHAs 等基本防御手段在很大程度上变得无效。正如一位维护者所指出的，这种“军队”的规模是由拥有数百万核心和 exabytes 级存储的超大规模厂商 (hyperscalers) 支持的，这创造了一种不对称性，即目标的基础设施成为了唯一的限制因素。

这代表了自 Morris worm 以来对互联网基础设施发起的最大规模的持续攻击之一，然而与之前的恶意行为者不同，驱动这种规模的实体往往被赞誉为创新的先锋。

饥荒：资源短缺与硬件通胀

维持 LLM 热潮所需的计算能力并非存在于真空之中；它需要大量的物理硬件、能源和水。这种“饥饿”正表现为硬件市场中切实的饥荒。

硬件稀缺性： 领先的供应商数月不提供报价，而硬盘等关键组件的生产能力在数年前就被预订一空。
超通胀： 随着对 AI 驱动硬件的需求激增，服务器成本出现了天文数字般的增长，一些报价在短短几个月内价值翻了四倍。
环境成本： 规模如城市般的数据中心建设正在将淡水和能源从人类群体中转移，以供养模型训练和推理的“战争机器”。

死亡：协调披露与版权的终结

也许最令人担忧的骑士是 LLM 对网络安全的影响。虽然早期的 LLM 生成的漏洞报告被视为低质量的噪音，但模型已经进化了。它们现在能够大规模地发现关键的安全漏洞。

最近在 Nginx 和 Apache 中发现的一系列远程代码执行 (RCE) 漏洞，以及 Linux kernel 中的本地权限提升漏洞（例如 dirtyfrag 和 fragnesia），凸显了一个新的现实：LLM 发现的漏洞在被发现的那一刻基本上就是公开的。这有效地杀死了传统的协调披露过程，因为发现与利用之间的窗口期缩短至接近于零。

与此同时，版权的“死亡”正在进行中。模型是在海量的盗版书籍和受版权保护的代码库上训练的。随着“vibe-coding”的兴起，即开发者依赖 LLM 来生成功能性但难以理解的代码，行业正面临着彻底丧失深度技术理解力的风险。

瘟疫： “Slop” 的传播

“Slop” 指的是大量缺乏意图、意义或意志的低质量、AI 生成的内容。在软件工程中，这表现为“vibe-coding”和“token-maxxing”，其目标是产出看起来 works 的东西，而不是架构上健全的产物。

将复杂系统的理解权委托给未经证实的模型是一种深刻的危险。软件是跨代际的团队协作成果；它是一个复杂的装置，没有任何一个单一的人类可以完全理解。用一个能够产生连贯但无意义输出的模型来取代人类的理解力，会导致一个脆弱的生态系统，在那里我们可能会失去重启电厂或修补关键 0-day 漏洞的能力，因为原始逻辑是“slop”。

第五骑士：征服与泡沫

除了传统的四骑士，还有一个征服骑士。这不仅仅关乎技术本身，但关乎控制它的公司。 “Californian Ideology” 正在将其触角从住房 (Airbnb) 和交通 (Uber) 扩展到认知本身。

然而，这种扩张可能建立在不稳定的金融基础之上。一些分析师认为，当前的 AI capex 是一个具有圣经寓言规模的的泡沫。如果企业级 AI 产生的收入无法证明超大规模厂商 (hyperscalers) 投入的数千亿美元的合理性，那么随之而来的崩溃可能会引发全球金融危机。

巴别塔：认知退化

最后，LLM 时代威胁着现代版的巴别塔。随着 LLM 接管了翻译和解释工作，人类面临着失去在不同文化和语言之间进行翻译的能力。这种技能退化并不局限于语言学；研究表明，过度依赖 AI 会导致认知退化和批判性思维能力的下降。

结论：战斗号召

LLM 的轨迹指向了理解力和基础设施的系统的性崩溃。为了应对这一点，解决方案不仅仅是“适应”，而是要积极抵抗人类技能的侵蚀：

**毒化机器人 (bots) ** 并保护以人为中心的空间。
建立本地、现实世界的社区 以取代数字孤岛。
**拥抱低技术 (low-tech) ** 并优先考虑稳定性，而非快速生成的“vibe”。
**拒绝 slop ** 并致力于人类大脑的严谨训练。

随着行业向着潜在的 Butlerian Jihad（一种对思考型机器的机器的拒绝）迈进，目标是确保当 AI 泡沫最终破裂时，是否仍有人类能力可以重建互联网。

@LLM 末日四骑士