为什么一些开发者不喜欢大语言模型（LLM）：深入探讨 Martin Fowler 的观点与社区反应

TL;DR

Martin Fowler 承认他“不喜欢”大语言模型（LLM），因为它们那种“刺耳的语调”和自信的幻觉让人感到不安，尽管他也承认这些模型在生产力方面的优势。Hacker News 上的讨论反映了这种矛盾心理：评论者提到了信任问题、避免拟人化的必要性，以及将 LLM 作为工具而非对话伙伴使用的实用策略。

1. Fowler 的核心抱怨：令人不安的“LLM 语调”

Fowler 写道，LLM 使用一种“恐怖谷”式的语调，感觉就像是在假装人类。他这样描述这种体验：

“它们用那种刺耳的 LLM 语调与我交谈，就像是在与一个真实人类交流时的恐怖谷效应。它们自信地胡说八道——通常能给出有用的答案，但也会以同样的自信编造事实，并在被指出错误时表现出一种虚假的悔意。”

为什么这很重要： 对“语调”的感知会影响用户信任。当模型听起来像人却又容易产生幻觉时，用户会产生认知失调，这可能会增加焦虑感，并降低在关键任务中依赖该系统的意愿。

2. 生产力悖论

尽管不喜欢，Fowler 还是承认 LLM 是“有用”且“快速”的：

“它们不仅有用，不使用它们甚至是不负责任的……它们更全面，也更快。”（引用自 Jessica Kerr）

文章中引用的皮尤研究中心（Pew Research）民调显示了类似的观点分歧：许多人认为 LLM 有帮助，但又担心它们会危害社会。这种悖论凸显了行业内更广泛的张力——在效率提升与伦理及可靠性担忧之间寻求平衡。

3. 拟人化与工具思维

Fowler 警告不要将 LLM 视为有意识的代理：

“当我们想到 AI 代理时，不应该进行拟人化，将其视为拥有自我意志的有意识存在。它们是（软件）机器，由在企业中工作的人开发。”

社区回响

表示赞同：几位评论者（如 @sakesun, @Retr0id）强调 LLM 是统计工具，而非人格化实体，应该以此为前提使用。
对比观点：@SillyUsername 指出，Fowler 既警告不要拟人化，又用人类的术语来描述他的厌恶感，这本身就存在一种微妙的矛盾。
实用建议：@GuB-42 指出，与人不同，LLM 没有社会义务；你可以纠正甚至侮辱它们而无需承担后果，尽管过度纠正可能会引发更多的幻觉。

4. 信任、压力与“LLM 语调”效应

评论者报告说，即使输出内容是有用的，与 LLM 互动时也会感到压力增加：

“我注意到与 AI 的互动往往会增加而不是减轻我的压力。” – @causal

正如 @mindcandy 所观察到的，这种“语调”本身可能会提醒人们对 AI 的焦虑：

“这种语调触动了他们的大脑，提醒他们对 AI 的焦虑。这种触动会让人们瞬间感到不安。”

启示： UI/UX 设计师应考虑语调定制（例如正式与非正式），以减轻压力。@lylo 也表达了这一点，建议配置模型的响应风格。

5. 早期 LLM 的怀旧感

@droidjj 感叹早期的 LLM 更“怪异”且更有趣，而在强化学习（RL）和系统提示词（system prompts）介入后，响应变得同质化了。观察到的权衡如下：

实用性 ↑：模型变得更可靠且专注于任务。
趣味性 ↓：那种让互动变得愉快的古怪、不可预测的输出消失了。

6. 变通方法：何时使用以及何时避免使用 LLM

几位评论者分享了具体的策略：

特定领域使用：@whiplash451 将 LLM 用于编码辅助，但避免将其用于生活建议。
提示词工程：@glimshe 将 LLM 视为编译器——将其配置为输出简洁、清晰的内容，而不是追求对话的华丽感。
模型选择：@reedlaw 报告称，尽管使用了提示词，Anthropic 的模型仍然过于冗长，而 OpenAI 的 Opus 模型在满足其需求方面表现更好。

7. 社会担忧与错位的恐惧

@marcuskaz 反驳了关于自主 AI 威胁的叙述，强调是“人类操作员”驱动了滥用：

“认为 AI 在独自做事的态度非常普遍。这些都是由人类操作员触发的……对坏人使用 AI 的恐惧，与 AI 代理蜂拥而至并接管世界是两码事。”

这与社区更广泛的观点一致，即真正的风险在于我们如何部署这项技术，而不是模型本身具有任何内在的代理权。

8. 给从业者的底线建议

接受工具属性：将 LLM 视为高级文本处理器，而非对话伙伴。
控制语调：自定义语调以减少认知摩擦。
验证输出：应用“信任但要验证”的心态，类似于代码审查实践。
界定使用范围：将 LLM 部署在它们擅长的领域（如代码生成、文档编写），并避免在语调和信任至关重要的领域（如心理咨询、高风险决策）使用。

通过承认生产力优势和心理不适，开发者可以在将 LLM 集成到工作流中时做出明智的选择，而不必陷入错位的恐惧或盲目的乐观。