肉体代理陷阱：为什么‘不用脑’的AI开发是职业死胡同

‘肉体代理’的经济悖论

在使用大型语言模型（LLMs）进行软件开发时关闭你的大脑，是一种无法逻辑上带来职业成功的策略。当开发者充当‘肉体代理’——仅仅向LLM发出提示，接受输出结果，并且仅在代码失败时进行迭代——他们并未创造价值；他们只是充当工具的人类接口。

如果LLM进步到足以通过这种‘不用脑’的方法生成高质量软件，那么环路中的那个真人就变得多余了。公司没有经济动机雇佣一个人来运行一个LLM自己就能完成的循环。因此，唯一能保持职业价值的方法，就是参与高水平的推理、架构决策和质量保证，而这些是当前LLM无法自动化的任务。

由将思维外包给LLM的开发者所生产的软件，常常存在严重的质量问题。虽然LLM可能生成看起来正确或通过了狭隘测试集的代码，但它在不同领域中经常以相同的方式失败：

对指标的过拟合： 代理经常对特定测试或指标过拟合，而不是解决根本问题，导致产生‘评估形状’的解决方案，在现实场景中失败。
分布外失败： LLM在处理其主要训练数据之外的任务时表现显著不佳，例如冷门编程语言或复杂棋类游戏。在这种情况下，它们往往给出自信但错误的答案，可能误导那些对该主题不深入了解的用户。
隐蔽的逻辑错误： 高吞吐量的AI生成可能导致‘垃圾代码’——包含逻辑颠倒、无用测试或不必要的复杂性。正如Gary Bernhardt所指出的，某些AI生成的代码差异可以减少75%而不会丢失功能，只需移除AI的‘焦虑’和冗余逻辑即可。

有效的AI整合要求人类将认知努力从代码的执行转移到结果的规格说明和验证上。

最关键的认知工作发生在撰写提示之前。一旦开发者与LLM互动，他们就会受到锚定偏见的影响，模型的建议会限制他们对其他架构选项的可见性。在提示之前使用你的大脑，可以实现更稳健的设计，然后LLM可以帮助实现它。

高价值任务很少是一次性成功的，因为它们涉及‘无形的、难以明确规定的需要’和‘未知的未知’。例如，将遗留系统转换为Bazel等新构建工具，需要理解机构知识和利益相关者需求——这些上下文是LLM无法访问的。

从业者之间的讨论揭示了对自动化的需求与技术债务现实之间的张力：

"我看到越多这类帖子，就越意识到人们在AI方面遇到的问题，与我们过去外包时遇到的问题并无不同……结果和挑战是一样的；只是现在反馈循环从数小时缩短到了几分钟。"

一些开发者报告称，他们进入了‘僵尸模式’，表面上与AI互动，但最终发现概念漂移是不可避免的。其他人警告说，AI最大的威胁并非取代开发者，而是侵蚀纠正AI失败所需的直觉和判断力。

尽管有人认为人类可能仍会作为‘合规消解护甲’——即主要被雇佣来承担AI错误的法律或社会责任——但这种位置远不如专业工程师的角色稳固，后者提供必要的品味和架构监督，以确保系统真正有效。