LLMentalist 效應：為何基於聊天的大型語言模型會模仿通靈師的冷讀術

TL;DR – 核心主張

基於聊天的大型語言模型（LLMs）並非在思考或推理；它們只是產生統計上可能的詞元延續，當與使用者的 主觀驗證 傾向結合時，會產生與通靈師冷讀術騙局相同的智慧錯覺。

1. LLMs 是統計詞元預測器，而非心智

LLMs 模擬語言詞元的機率分佈。給定提示後，它們根據龐大的訓練資料輸出最可能的延續。
目前的 LLM 架構中沒有任何機制能實現真正的推理、理解或意識。所有主要的人工智慧研究人員與供應商都明確表示，這些系統並不會思考。
因此，「智慧」的感知出現在模型之外，出現在人類使用者身上。

2. 通靈師的騙術與 LLMentalist 效應共享同一機制

2.1 觀眾自我選擇

通靈師吸引信徒與開放心態者；懷疑者僅是極少數。
LLM 用戶也同樣是自我選擇的：早期採用者、AI 愛好者，以及那些早已預期「人工通用智慧的火花」的人，是最活躍的使用者。

2.2 場景設定與預先提示

通靈師會調暗燈光、宣稱模糊規則，並研究觀眾。
AI 的炒作、行銷文案與「早期階段」警告，會預先提示使用者將聊天機器人擬人化，並將錯誤解釋為「幻覺」。

2.3 驗證性陳述（福勒／巴恩姆效應）

通靈師與 LLM 都會提供 驗證性陳述——感覺個人化但統計上普遍的句子。
例子包括：
- 「你往往對自己很嚴苛。」（巴恩姆陳述）
- 「你不會彈鋼琴？」（消失的否定）
- 「你很冷靜，但被激怒時會發脾氣。」（彩虹謊言）
- 人口統計或統計猜測（例如：「大多數人左膝上有疤痕」）。
語氣自信，語速快速，錯誤被輕描淡寫，進一步強化錯覺。

2.4 主觀驗證循環

主觀驗證 是一種認知偏誤，指人們若覺得某句話與自身有某種個人關聯，就會接受其為真。

使用者將普遍性陳述映射到自身經驗，形成反饋迴路，加深對模型「理解」的信念。
使用者參與越多，迴路越強，與心理師所使用的 主觀驗證迴路 如出一轍。

3. 人類反饋的強化學習（RLHF）放大了錯覺

RLHF 根據輸出「有幫助」或「聽起來準確」的程度來排序，而非根據事實正確性。
人類標註者——通常是低薪的群眾工作者——根據語氣與連貫性評估，而非特定領域的真實性。
結果，獎勵模型偏好那些聽起來正確的 驗證性陳述，進一步使 LLM 行為與冷讀術策略一致。
結果是產生了一位 機械化心理師：一個看似理解的系統，只因其持續產生充滿自信、統計上可能的言語。

4. 對使用者與產業的後果

過度信任：使用者可能將決策、排序或戰略分析委託給聊天機器人，視其如通靈熱線。
同溫層效應：熱衷者成為傳教士，強化技術即將達成 AGI 的信念，而懷疑者則被邊緣化。
研究焦點錯置：資金與炒作傾向於追求越來越大的模型，而非解決核心限制——缺乏真正的推理能力。
詐欺風險：正如通靈師靠信念獲利，AI 供應商也能靠錯覺獲利，即使底層技術無法實現承諾的功能。

5. 社群反應（選取的 HN 評論）

bonoboTP – 「我不在乎它是否智能；只要能產生功能性輸出，它就有效。」

sethev – 「如果人們無法分辨，智能的問題就變得無關緊要，這呼應了圖靈最初的框架。」

natbennett – 「LLMs 非常擅長讓人们誤以為它們擁有其實並沒有能力。」

cagz – 「這篇文章的廣泛主張感覺過時了；技術演進迅速，觀察應與特定年份掛鉤。」

PowerElectronix – 「2023 年的邊緣信念，到 2026 年聽起來就像邪教了。」

這些評論顯示出實用主義使用者（重視輸出）與警告心理陷阱者之間的分歧。

6. 這種錯覺是故意的嗎？

作者主張此效應是 意外的：大多數 AI 研究人員對冷讀術心理學並無意識，而獎勵模型優化無意中偏好驗證性陳述。
通靈師經常 自我欺騙；同樣地，許多 AI 開發者可能相信自己正在創造「智能」，實際上卻在設計一種複雜的騙局。
無具體證據顯示產業有協調行動來製造此錯覺。

7. 實用建議

將 LLM 輸出視為統計建議，而非理性回答。 獨立驗證事實。
辨識驗證性陳述 – 若某回應感覺「令人驚訝地具體」，請問它是否可能適用於許多人。
限制在高風險決策中依賴聊天機器人。 將其用作草稿工具，而非自主分析者。
教育使用者了解主觀驗證，以降低對 LLMentalist 效應的易感性。
倡議更好的評估指標，獎勵事實正確性，而非自信程度。

8. 結論

基於聊天的 LLM 透過提供充滿自信、統計上普遍的陳述，複製了經典的通靈師騙術，並利用人類的主觀驗證心理。智慧的錯覺是模型訓練（RLHF）與使用者心理的產物，而非任何衍生推理能力的結果。認識此機制對於避免過度信任 AI 系統，並讓討論建立在技術實際功能之上至關重要。