認知卸載:我們是否正在用人類的主體性換取 AI 的效率?

認知卸載:我們是否正在用人類的主體性換取 AI 的效率?

人工智慧整合進日常生活,在生產力與認知自主權之間造成了根本性的緊張關係。雖然 AI 可以消除繁瑣工作並加速研究,但存在著日益增長的風險:使用者不僅是在卸載任務,更是在卸載思考、推理和形成欲望的過程本身。

認知卸載的光譜

認知卸載發生在個人將心理努力委託給外部工具時。這存在於一個光譜上,從自動化瑣碎任務到放棄高層次的決策。

任務自動化 vs. 主體性卸載

將 AI 作為提高效率的工具與將其作為主體性的替代品之間,存在著關鍵的區別。

  • 任務自動化: 使用 AI 來翻譯報告、執行預定義的設計或尋找特定的水管配件。在這些情況下,人類仍然是目標的架構師和結果的評估者。
  • 主體性卸載: 在個人品味、人際關係管理或關鍵的專業判斷上委託給 AI。這可以由「麥克風人」(Microphone Man)來舉例——一個記錄所有對話並讓 AI 執行其所有關鍵思考的個人。

「懶惰思考」的風險

當 AI 立即提供語法完美的答案時,參與「慢思考」——即假設、推測和糾正的過程——的動機就會減少。這可能導致原創思想的下降,正如在教育環境中所見,學生對作業產出完全相同且通用的 AI 回應,在沒有經歷實際學習所需的認知掙扎的情況下獲得高分。

專業與技術層面的影響

在專業環境中,思考的卸載通常表現為批判性監督的喪失和技術能力的退化。

程序性知識的侵蝕

一個重大的危險是在陳述性知識(知道「是什麼」)與程序性知識(知道「如何做」)之間的權衡。例如,一名開發者可以透過提示詞讓 AI 寫一個迴圈,但卻無法手動寫出一個,這就失去了程序性技能。這類似於飛行員依賴自動駕駛到極點,以至於在危機發生時失去手動駕駛飛機的能力。

「神諭」謬誤與技術債

許多使用者將 LLM 視為權威的神諭,而非機率性工具。這導致了幾個系統性問題:

  • 驗證負擔: 當一個人將其思考卸載給 AI 並將結果發送給同事時,他們實際上是將驗證的認知負擔轉移給了接收者。
  • 混沌的實作: 專業人士越來越多地報告在專案中出現「恐怖」的缺乏批判性思考的情況,研究人員或工程師直接從 ChatGPT 「YOLO」方法論,而不理解底層邏輯,導致時間浪費和系統性壓力。
  • 幻覺盲目: 盲目信任 AI 輸出而不進行驗證的傾向,忽視了幻覺的風險,即 AI 會憑空捏造事實。

維持認知自主權的策略

為了避免認知萎縮的陷阱,使用者可以採用特定的框架來與 AI 互動。

「假設先行」法

與其從提示詞開始,使用者可以先進行獨立思考。透過在利用 AI 測試或擴展這些想法之前,先生成假設並對答案進行推測,AI 就會成為驗證和擴展想法的工具,而非初始思考過程的替代品。

劃分心理任務領域

有些人建議「劃分領域」(siloing)特定的任務或想法——刻意選擇某些生活或工作領域禁止使用 AI——以確保進行深度推理所需的「認知肌肉」保持活躍。

使用 AI 進行擴展,而非替代

有效的 AI 使用方式專注於人類無法提供的能力或純粹機械性的任務:

  • 觀點擴展: 要求 AI 批判工作或提供替代觀點以對抗個人偏見。
  • 機械性翻譯: 在工程設計完成後,使用 AI 將偽代碼(pseudocode)翻譯成特定的程式語言。
  • 除錯與審查: 利用 AI 廣大的知識庫來尋找人類可能因疲勞或偏見而忽略的錯誤。

長期的社會權衡

如果人類集體停止產生新穎的想法,並依賴現有訓練數據的平均值,其結果可能會導致創新停滯。獨立思考的能力可能會從一種常見技能轉變為一種「稀有寶藏」,而隨著純粹語言性思考價值的下降,實踐夢想和執行物理目標的能力價值將會提升。

Sources