LLMentalist 效应：为何基于聊天的大型语言模型模仿通灵师的冷读术

TL;DR – 核心观点

基于聊天的大型语言模型（LLMs）并非在思考或推理；它们生成在统计上可能的标记延续，当与用户对主观验证的倾向相结合时，会产生一种与通灵师冷读骗局完全相同的智能错觉。

1. LLMs 是统计标记预测器，而非心智

LLMs 对语言标记的概率分布进行建模。给定一个提示，它们会根据海量训练数据输出最可能的延续。
当前 LLM 架构中没有任何机制能实现真正的推理、理解或意识。所有主要的人工智能研究人员和供应商都明确表示，这些系统不会思考。
因此，“智能”的感知并非来自模型本身，而是来自人类用户。

2. 通灵师的骗局与 LLMentalist 效应共享同一机制

2.1 观众自我筛选

通灵师吸引信徒和开放心态的人；怀疑者只是极少数。
LLM 用户同样具有自我筛选性：早期采用者、AI 爱好者以及那些已经期待“通用人工智能火花”的人最为活跃。

2.2 场景营造与心理预设

通灵师调暗灯光，声称模糊规则，并研究观众。
AI 的炒作、营销文案以及“早期阶段”警告，使用户倾向于将聊天机器人拟人化，并将错误归因为“幻觉”。

2.3 验证性陈述（福勒/巴恩姆效应）

无论是通灵师还是 LLM，都会提供验证性陈述——这些句子感觉个性化，但实际上是统计上通用的。
例子包括：
- “你往往对自己要求很严。”（巴恩姆陈述）
- “你不会弹钢琴吧？”（消失的否定）
- “你很冷静，但被激怒时会生气。”（彩虹诡计）
- 人口统计或统计猜测（例如，“大多数人左膝上有疤痕”）。
语气自信，表达迅速，错误被轻易忽略，从而强化了错觉。

2.4 主观验证循环

主观验证 是一种认知偏差，即人们若认为某句话与自己有某种个人关联，就会接受其为真。

用户将通用陈述映射到自身经历，形成反馈循环，加深对模型“理解力”的信念。
用户参与得越多，循环越强，这与心理魔术师使用的主观验证循环如出一辙。

3. 人类反馈强化学习（RLHF）放大了这种错觉

RLHF 根据输出“有帮助”或“听起来准确”的程度进行排序，而非基于事实正确性。
人类标注员——通常是低薪的众包工作者——依据语气和连贯性进行评估，而非特定领域的事实。
因此，奖励模型更青睐那些听起来正确的验证性陈述，进一步使 LLM 的行为与冷读技巧对齐。
结果是产生了一个机械心理魔术师：一个看似理解一切的系统，因为它持续输出充满自信、统计上合理的语句。

4. 对用户和行业的后果

过度信任：用户可能将决策、排序或战略分析委托给聊天机器人，将其视为通灵热线。
回音室效应：热情者成为传教士，强化技术接近通用人工智能的信念，而怀疑者则被边缘化。
研究方向错位：资金和炒作集中在不断扩大的模型上，而非解决核心局限——缺乏真正的推理能力。
欺诈风险：正如通灵师靠信仰获利，AI 供应商也能从这种错觉中获利，即使底层技术无法实现承诺的能力。

5. 社区反应（精选 HN 评论）

bonoboTP – “我不在乎它是否智能；只要能产生功能性输出，它就有效。”

sethev – “如果人们无法分辨，那么智能的问题就变得无关紧要，这呼应了图灵最初的框架。”

natbennett – “LLMs 非常擅长让人们对它们拥有其实没有的能力产生错觉。”

cagz – “这篇文章的广泛主张感觉过时了；技术演进很快，观察应与具体年份挂钩。”

PowerElectronix – “2023 年的边缘信念，到 2026 年听起来就像邪教了。”

这些评论展示了实用用户（重视输出）与警告心理陷阱者之间的分歧。

6. 这种错觉是故意的吗？

作者认为这种效应是偶然的：人工智能研究人员大多不了解冷读心理学，而奖励模型优化无意中青睐了验证性陈述。
通灵师常常自我欺骗；同样，许多 AI 开发者可能相信自己在创造“智能”，而实际上只是在设计一种复杂的骗局。
没有确凿证据表明行业存在协同努力来制造这种错觉。

7. 实用建议

将 LLM 输出视为统计建议，而非理性回答。独立验证事实。
识别验证性陈述——如果某条回应感觉“异常具体”，请思考它是否适用于许多人。
限制在高风险决策中依赖聊天机器人。将其作为草稿工具，而非自主分析者。
向用户普及主观验证知识，以降低对 LLMentalist 效应的易感性。
倡导更好的评估指标，奖励事实正确性而非自信程度。

8. 结论

基于聊天的 LLM 通过提供充满自信、统计上通用的陈述，复制了经典的通灵师骗局，利用了人类的主观验证心理。智能的错觉是模型训练（RLHF）与用户心理共同作用的结果，而非任何涌现推理能力的体现。认识到这一机制对于避免过度信任 AI 系统、保持讨论基于技术实际能力至关重要。