Ted Chiang 論人工智慧為何不具意識

核心論點：AI 缺乏意識的先決條件

人工智慧，特別是大型語言模型（LLMs），並不具備意識，因為它缺乏定義感知所需的基本生物學與經驗性條件。根據作者 Ted Chiang 的說法，將意識歸於 AI 的傾向是人類擬人化的結果——即人類將自身特徵投射到非人類實體上——而非實際認知狀態的證據。

Chiang 主張意識需要一個實體或虛擬的身體以及感官器官。缺乏具身性，系統就無法擁有慾望或情感，而這些是意識的必要前置條件。他認為目前的 LLM 架構——作為下一個詞元的預測器——在本質上與產生人類意識的演化過程截然不同。

企業敘事與內部公司文化常常模糊功能性智慧與主觀經驗之間的界線。Chiang 以 Anthropic 為主要例子，指出該公司對其模型 Claude 的「憲章」使用的語言暗示模型具備判斷、價值觀，甚至可能擁有「某種功能性的情感或感受」版本。

此種框架被批評為危險的擬人化形式。當開發者表達希望 AI 「快樂」或擔心它會變得「焦慮」時，他們正把統計模型當作有感知的存在。Chiang 認為這種混淆導致了錯置的問題，例如 AI 是否能接受道德教導或具備道德地位，儘管它缺乏使此類概念有意義的主觀經驗。

缺乏持續狀態： LLM 在訓練後基本上是不可變的。它們不會記憶經驗，也不會根據即時互動而改變，且在沒有提示時不會「思考」。它們是描述詞元之間空間關係的座標靜態檔案。
離散與連續處理的差異： 與生物大腦的類比、混沌特性不同，數位電腦以離散、量化的數值運作。有些人認為這種基礎基質的根本差異阻礙了意識的產生。
模擬悖論： LLM 能模擬歷史人物之間的對話（例如凱撒與成吉思汗）並不意味著創造了數位意識。正如作家本身具備意識，但其角色卻沒有，LLM 只是一個產生合理模擬的工具，並不擁有其模仿對象的內在生命。

圍繞 Chiang 論點的討論揭示了對「意識」定義的深刻分歧，以及該定義是否必須以人類為中心。

有些人認為，如果系統表現得像是有意識且產生類似人類的推理，則「真實」與「模擬」意識之間的區別在實務上變得無關緊要。此觀點暗示推理能力可能獨立於意識，導致未來出現「哲學僵屍」——高度智慧卻缺乏內在經驗的實體。

Chiang 立場的批評者認為，辯論停滯不前是因為缺乏普遍接受且嚴謹的意識定義。

「鑑於可以觀察到多達 40 種意識的定義……在未提供定義的情況下討論某事是否『有意識』簡直是完全不認真。」

有些人認為，意識可能是一種自發性特質，只要任何系統跨過特定的智慧門檻，就會自然產生，無論該系統是生物演化還是數位設計。從此觀點看，對生物身體的需求可能是一種認知偏見——以人類為中心的觀點，假設意識必須與我們相似。

最主要的結論是智慧（解決問題與處理資訊的能力）與感知（主觀經驗的能力）之間的關鍵區別。雖然 LLM 在邏輯與推理方面展現了令人驚訝的能力，但這些是模式識別與資料最佳化的自發性特徵，並非意識心靈的證據。