為何 LLM 批評者說得對，但我仍在使用 LLM —— 深入探討

為何 LLM 批評者說得對，但我仍在使用 LLM —— 深入探討

TL;DR – 使用 LLM 的悖論

作者認同大多數對 LLM 的批評（版權、環境成本、信任流失、地緣政治脆弱性），但仍然使用 LLM，因為它們能提升個人生產力、支援本地優先的工具，且在配合嚴謹的人類監督時能產出更高品質的工作。

1. 核心批評大多成立

「LLM 充斥著受版權保護的素材，對環境不友善，倫理上有問題，且會侵蝕信任。」

  • 版權與抄襲 – LLM 以包含受版權保護的程式碼與文字的大規模語料庫訓練，帶來法律與道德上的顧慮。
  • 環境影響 – 訓練與推論會消耗大量電力；作者在 2026 年 6 月的 token 花費接近 1 萬美元，說明了隱藏的碳足跡。
  • 信任侵蝕 – 自動關閉 PR（如 Armin Ronacher 的 Earendil 所示）顯示維護者難以輕易分辨人類撰寫的貢獻與 AI 產生的噪音。
  • 地緣政治風險 – 出口管制命令（例如美國指令迫使 Anthropic 為非美國使用者停用 Fable 5 與 Mythos 5）展示了模型存取可能被突如其來地切斷。
  • 意見放大 – LLM 往往呈現訓練資料中的主流觀點，微妙地將使用者推向既有偏見。

這些觀點在 HN 社群中也得到呼應，評論者指出「外包思考」的危險，以及長期技能退化的可能性。

2. 為何作者仍在使用 LLM

「LLM 已成既定事實，我們應該塑造它而不是與之對抗。」

  • 本地優先的韌性 – 在個人筆記型電腦上執行開放權重模型，可避免供應商鎖定與政府關閉服務。當雲端價格飆升時，本地模型仍可使用。
  • 提升生產力 – 作者可以透過在單一句子上花費大量 token，然後手動精煉，產出更高品質的文字與程式碼。這種「少量輸出、高品質」的方式帶來實質價值。
  • 人類可信度重要 – 當受人尊敬的工程師呈現 AI 增強的作品時，他們的聲譽受到牽連，迫使他們將人類思考置於前端。LLM 只不過是放大已有的想法。
  • 思考的工具，而非思考本身 – LLM 擅長腦力激盪、文法檢查、充當橡皮鴨或魔鬼代言人，但最終判斷仍由具備知識的人類負責。

3. 讓 LLM 使用可持續的模式

「紀律與支架將嘈雜的輸出轉化為可靠的協助。」

3.1 /grill‑me 技能

Interview me relentlessly about every aspect of this until we reach a shared understanding.
Ask one question at a time, wait for feedback, and never act until I confirm.
  • 迫使人類一步步闡述需求，防止模型在未受檢查的情況下產生幻覺。

3.2 三句問題敘述

  • 受 Basecamp 的 Shape‑Up「Pitch」啟發，作者寫下簡潔的問題、範圍與排除清單。簡短的敘述易於驗證，且能阻止 LLM 漂移。

3.3 反向代理迴圈（Ralph Wiggum / Ultracode）

  • 產生全新 LLM 上下文，對當前草稿進行激進批評，直至模型必須幻覺，從而在人工介入前暴露弱點。

3.4 直覺探測 幻覺測試

  • 讓 LLM 在看到真實設計前先猜測 API 或 UI；再將幻覺結果與實際實作比較，以衡量使用者期待。

這些模式共有的前提是：人類必須能辨識好與壞的輸出。當作者缺乏深層領域知識時，會將 LLM 的使用限制在成功與否二元的學習任務（測試通過、二進位可執行、協議解碼）。

4. 信任是新貨幣

「沒有信任，任何 LLM 產出的成果都與爛作品無異。」

  • 明確來源 – 詳盡的 PR 說明、截圖與手動事實查核恢復信心。
  • 選擇性模型使用 – 在一個高成本的月份後，作者將昂貴的 Fable 5 換成較便宜的 GLM 5.2 以應付日常程式碼生成。
  • 人類審核迴圈 – 先快速瀏覽 LLM 輸出，再嚴格驗證三句敘述，類似程式碼審查的最佳實踐。

5. 社群觀點（HN 評論）

  • 技能退化的擔憂 – 部分評論者擔心持續的 AI 協助會在多年內削弱工程師的思考肌肉。
  • 經濟不平等 – 每月約 1 萬美元的 token 花費引發了可及性與環境成本的討論。
  • 平衡的樂觀 – 另一些人報告了實質的生產力提升，認為在紀律下使用 LLM 能豐富思考而非取代。
  • 開源摩擦 – Zig 與 Gentoo 等專案已開始拒絕 AI 產生的 PR，凸顯信任危機。

6. 結論 – 負責任地擁抱矛盾

作者的經驗顯示，對 LLM 的批評不僅合理且日益緊迫。然而，透過紀律化的工作流程——逐步提示、簡潔問題框架、反向代理測試與嚴格的人類驗證——LLM 能成為生產力放大器而非信任破壞者。關鍵在於將 LLM 輸出視為草稿，保有人類的可信度，並建立能恢復開源生態系統所依賴信任的防護機制。

「如果『我使用 AI 以思考得更好』這句話在科技狂熱者與勤奮工程師口中聽起來相同，只有可信的聲譽才能區分真正的洞見與被放大的噪音。」

Sources