Martin Fowler 谈对 LLM 交互的本能反感

实用性与反感的悖论

大语言模型 (LLM) 是非常有用的工具，但同时也会让用户感到不适。Martin Fowler 认为，虽然生产力的提升和快速产品开发的潜力不可否认，但与这些模型交互的实际体验往往会产生一种本能的反感。这造成了一种矛盾的状态：用户觉得忽视这项技术是不负责任的，但又觉得交互本身令人烦躁。

与 LLM 的交互往往落入人类交流的“恐怖谷”。Fowler 指出了用户体验中几个具体的摩擦点：

LLM 并非中立的工具；它们是由其创造者的价值观所培育的软件机器。Fowler 指出，这些模型的人格往往反映了“硅谷程序员亚文化”，导致了一种用户可能觉得不可信或不愉快的世界观。

虽然 Fowler 警告不要将 AI 代理拟人化——即把它们当作有自己意志的意识体来对待——但他指出，他个人对它们的反应，就像对待他在职业和社交生活中刻意回避的那类人一样。

技术同行之间的讨论凸显了用户在处理 LLM 使用带来的心理摩擦方面的分歧：

许多用户认为，“反感”源于将 LLM 视为对话伙伴，而不是文本处理器。

"LLM 是信息处理器。是加强版的代码检查工具……对话实际上是 LLM 能提供的最无趣且最容易出错的用例。" — @handle

其他人则认为，“LLM 腔调”是一个可配置的参数，而不是固有的特征，将其比作编译器错误消息，可以通过系统提示词进行忽略或调整，使其变得简洁且专业。

一些用户报告说，即使工具在执行有用的任务，与 AI 交互也会增加压力水平。另一些人则认为，对“胡说八道”的沮丧之所以产生，正是因为用户“未能”进行拟人化——他们期望机器具备精确性，当机器表现得像一个容易犯错的人类时，他们会感到沮丧。

与不可信的人类交互不同，与不被信任的 LLM 合作没有任何社会代价。用户可以纠正、侮辱或重置对话，而无需担心社交技巧或记仇，尽管有些人警告说，激进的纠正有时会引发更多的幻觉。

为了减轻 LLM 交互带来的不快，经验丰富的用户采用了几种策略：