為什麼有些開發者不喜歡 LLM：深入探討 Martin Fowler 的觀點與社群反應

TL;DR

Martin Fowler 承認他「不喜歡」大型語言模型 (LLM)，因為它們那種「刺耳的語氣」和充滿自信的幻覺讓人感到不安，儘管他承認這些模型確實能提升生產力。Hacker News 上的討論串反映了這種矛盾心理：評論者提到了信任問題、避免擬人化的必要性，以及將 LLM 作為工具而非對話夥伴使用的實用策略。

1. Fowler 的核心抱怨：令人不安的「LLM 語氣」

Fowler 寫道，LLM 以一種「恐怖谷」般的語氣說話，感覺就像在假裝人類。他描述這種體驗為：

「它們用那種刺耳的 LLM 語氣跟我說話，那是一種與真人交談的恐怖谷體驗。它們自信地胡說八道——通常能給出有用的答案，但也會以同樣的自信編造內容，並在被指出錯誤時表現出虛假的悔意。」

為什麼這很重要： 對「語氣」的感知會影響使用者的信任。當模型聽起來像人類卻又容易產生幻覺時，使用者會經歷認知失調，這可能會增加焦慮感，並降低在關鍵任務中依賴該系統的意願。

2. 生產力悖論

儘管不喜歡，Fowler 仍承認 LLM 是「有用」且「快速」的：

「它們不僅有用，不使用它們甚至是不負責任的……它們更全面，也更快。」（引自 Jessica Kerr）

文章中引用的皮尤研究中心 (Pew Research) 民調顯示了類似的分歧：許多人認為 LLM 有幫助，但同時也擔心它們會危害社會。這種悖論凸顯了業界更廣泛的緊張關係——在效率提升與倫理及可靠性擔憂之間取得平衡。

3. 擬人化與工具思維

Fowler 警告不要將 LLM 視為有意識的代理人：

「當我們想到 AI 代理時，不應該將其擬人化，視其為擁有自我意志的有意識存在。它們是（軟體）機器，由企業中的人員開發。」

社群迴響

贊同：幾位評論者（例如 @sakesun, @Retr0id）強調 LLM 是統計工具而非人格，應該以此方式使用。
對比觀點：@SillyUsername 指出了一個諷刺之處，即 Fowler 既警告不要擬人化，又用人類的術語來描述他的不喜歡，這凸顯了一種微妙的不一致。
實用建議：@GuB-42 指出，與人不同，LLM 沒有社會義務；你可以糾正甚至辱罵它們而不會有後果，儘管過度糾正可能會引發更多幻覺。

4. 信任、壓力與「LLM 語氣」效應

評論者報告說，即使輸出內容很有用，與 LLM 互動時也會增加壓力：

「我注意到與 AI 的互動往往會增加壓力，而不是減輕壓力。」 – @causal

正如 @mindcandy 所觀察到的，這種「語氣」本身可能會提醒人們對 AI 的焦慮：

「這種語氣會觸發他們大腦中對 AI 焦慮的提醒。這種觸發會讓人瞬間感到不安。」

啟示： UI/UX 設計師應考慮語氣自訂（例如正式與非正式），以減輕壓力，這一點得到了 @lylo 的呼應，他建議配置模型的回答風格。

5. 早期 LLM 的懷舊感

@droidjj 感嘆早期的 LLM 更「怪異」且更有趣，在強化學習 (RL) 和系統提示詞將回應同質化之前。觀察到的權衡如下：

實用性 ↑：模型變得更可靠且專注於任務。
趣味性 ↓：那些讓互動變得愉快的古怪、不可預測的輸出消失了。

6. 變通方法：何時使用以及何時避免使用 LLM

幾位評論者分享了具體策略：

領域特定使用：@whiplash451 將 LLM 用於程式設計輔助，但避免將其用於生活建議。
提示工程：@glimshe 將 LLM 視為編譯器——將其配置為簡潔、清晰的輸出，而不是對話式的風格。
模型選擇：@reedlaw 報告說，儘管有提示詞，Anthropic 的模型仍然過於冗長，而 OpenAI 的 Opus 模型在他的需求下表現更好。

7. 社會擔憂與錯置的恐懼

@marcuskaz 反駁了自主 AI 威脅的敘事，強調是「人類操作員」驅動了濫用：

「認為 AI 會獨自做事的態度非常普遍。這些都是由人類操作員觸發的……對壞人使用 AI 的恐懼，與 AI 代理蜂擁而至並接管世界是兩回事。」

這與更廣泛的社群觀點一致，即真正的風險在於我們「如何」部署這項技術，而不是模型本身具備任何內在的代理權。

8. 從業者的總結

接受工具本質：將 LLM 視為進階文字處理器，而非對話夥伴。
控制語氣：自訂語氣以減少認知摩擦。
驗證輸出：採用「信任但驗證」的心態，類似於程式碼審查實踐。
界定使用範圍：將 LLM 部署在它們擅長的領域（例如程式碼生成、文件編寫），並避免在語氣和信任至關重要的領域（例如諮詢、高風險決策）使用。

透過承認生產力優勢與心理不適，開發者可以在將 LLM 整合到工作流程中時做出明智的選擇，而不必屈服於錯置的恐懼或盲目的樂觀。