为什么 LLM 批评者是对的，但我仍然使用 LLM —— 深度解析

为什么 LLM 批评者是对的，但我仍然使用 LLM —— 深度解析

TL;DR – 使用 LLM 的悖论

作者认同大多数对 LLM 的批评（版权、环境成本、信任流失、地缘政治脆弱性），但仍然使用 LLM，因为它们提升了个人生产力，支持本地优先的工具链，并且在配合严格的人类监督时能够产出更高质量的工作。

1. 核心批评大体上是成立的

“LLM 充斥着受版权保护的内容，对环境有害，伦理上有争议，而且会侵蚀信任。”

  • 版权与抄袭 – LLM 在包含受版权保护的代码和文本的大规模语料库上进行训练，带来法律和道德上的担忧。
  • 环境影响 – 训练和推理消耗大量电力；作者在 2026 年 6 月的 token 开支接近 1 万美元，说明了隐藏的碳足迹。
  • 信任侵蚀 – 自动关闭 PR（如 Armin Ronacher 的 Earendil 所示）表明维护者难以轻易区分人工撰写的贡献和 AI 生成的噪声。
  • 地缘政治风险 – 出口管制令（例如美国指令迫使 Anthropic 为非美国用户禁用 Fable 5 和 Mythos 5）展示了模型访问可能被骤然切断。
  • 观点放大 – LLM 往往呈现训练数据中的多数观点，潜移默化地把用户推向已有的偏见。

这些观点在 HN 社区中得到呼应，评论者指出“外包思考”的危险以及长期技能退化的可能性。

2. 作者为何仍然使用 LLM

“LLM 已经成为常态，我们应该塑造它们而不是与之对抗。”

  • 本地优先的韧性 – 在个人笔记本上运行开源模型可以避免供应商锁定和政府关闭。当云服务价格飙升时，本地部署的模型仍然可用。
  • 生产力提升 – 作者可以通过在单句上花费大量 token，然后手动打磨，产出更高质量的文本和代码。这种“少量输出，高质量”方式带来可观价值。
  • 人类可信度重要 – 当受人尊敬的工程师展示 AI 增强的工作时，他们的声誉受到牵连，这迫使他们把人类思考放在首位。LLM 只是放大已有的想法。
  • 思考的工具，而非思考本身 – LLM 擅长头脑风暴、语法检查以及充当橡皮鸭或反方辩手，但最终判断仍由有经验的人类做出。

3. 让 LLM 使用可持续的模式

“纪律与支架把嘈杂的输出转化为可靠的助力。”

3.1 /grill‑me 技能

Interview me relentlessly about every aspect of this until we reach a shared understanding.
Ask one question at a time, wait for feedback, and never act until I confirm.
  • 强迫人类一步步阐述需求，防止模型在未经检查的情况下产生幻觉。

3.2 三句式问题陈述

  • 受 Basecamp 的 Shape‑Up “Pitch” 启发，作者写出简洁的问题、范围和排除列表。简短的描述便于验证，也让 LLM 不易漂移。

3.3 对抗代理循环（Ralph Wiggum / Ultracode）

  • 生成全新的 LLM 上下文，强力批评当前草稿直至出现幻觉，提前暴露薄弱环节再让人类继续。

3.4 Intuition‑probe 幻觉测试

  • 让 LLM 在看到真实设计前先猜测 API 或 UI；将幻觉结果与实际实现对比，以衡量用户预期。

这些模式共有的前提是：人类必须能够 辨别好坏输出。当作者缺乏深度领域知识时，会把 LLM 限制在成功与否二元化的学习任务（测试通过、二进制可运行、协议解码）中使用。

4. 信任是新货币

“没有信任，任何 LLM 生成的产物都与垃圾难以区分。”

  • 明确来源 – 详细的 PR 描述、截图以及人工事实核查恢复了信心。
  • 选择性模型使用 – 在一个高消耗的月份后，作者将成本高昂的 Fable 5 换成更便宜的 GLM 5.2 用于日常代码生成。
  • 人工审查循环 – 先快速浏览 LLM 输出，再严格验证三句式陈述，类似代码审查的最佳实践。

5. 社区视角（HN 评论）

  • 技能退化担忧 – 部分评论者担心持续的 AI 辅助会在多年后削弱工程师的思维能力。
  • 经济不平等 – 每月约 1 万美元的 token 开支引发了关于可及性和环境成本的讨论。
  • 平衡的乐观 – 另一些人报告了显著的生产力提升，认为在纪律约束下，LLM 是一种丰富思考的工具，而非取代思考。
  • 开源摩擦 – Zig、Gentoo 等项目已经开始拒绝 AI 生成的 PR，凸显信任危机。

6. 结论 – 负责任地拥抱矛盾

作者的实践表明，对 LLM 的批评不仅有理，而且日益紧迫。然而，借助有纪律的工作流——逐步提示、简洁问题框架、对抗代理测试以及严格的人类验证——LLM 可以成为 生产力放大器 而非信任破坏者。关键是把 LLM 输出视为 草稿，保持人类的可信度，并构建能够恢复开源生态系统所依赖信任的防护措施。

“如果‘我用 AI 思考得更好’这句话在技术大佬和勤勉工程师口中听起来相同，只有可信的声誉才能把真正的洞见与被放大的噪声区分开来。”

Sources