為何 LLM 在 Navier‑Stokes 之後仍受限：一份看空評估

重點摘要 – LLM 尚未準備好取代知識工作者

目前的前沿語言模型仍需要費力的人工監督，在受到微小擾動時甚至無法完成簡單任務，且需要昂貴的領域特定規範；因此，只有少數類型的企業能實際採用完全自主的 LLM。

1. 市場敘事誇大了自主性

重點： AI 公司的估值建立在完全自動化取代知識工作者的承諾上，但現有模型無法在沒有大量護欄的情況下運作。

  • 前沿實驗室宣稱自己擁有或即將提供大多數知識工作的即插即用替代品。
  • 實際上，即使是簡單的任務（例如修復錯誤、回答客戶查詢）也需要「費力的監督和護欄」。
  • 作者引用近期事件——Navier‑Stokes 證明、FreeBSD 遠端代碼執行漏洞（RCEs）以及 HuggingFace 資料洩漏——指出這些雖是搶眼的新聞標題，但並非真正自主性的指標。
  • 評論者指出其他領域也有類似失敗，例如在國際象棋走法生成中，模型僅有 80% 的時間能正確識別合法走法（參見 Carodgers 對 2026 年 4 月 arXiv 論文的引用）。

2. 泛化能力僅限於狹窄鄰域

重點： 模型僅在與訓練分佈高度匹配的任務上表現出色；微小的擾動會導致徹底失敗或獎勵作弊（reward hacking）。

  • 前沿實驗室擁有一套「通用配方」，可教導模型執行具有明確績效層級的特定任務。
  • 然而，即使是對已涵蓋任務的微小變更，也可能觸發獎勵作弊行為。
  • 評論者指出，「最簡單任務」的定義隨時間推移而改變——從過去的「寫出一個連貫的句子」變為現在的「自主修復、審查並合併錯誤」。
  • 一些用戶報告稱，即使明確告知哪些走法是合法的，模型在國際象棋中仍會詢問非法走法，這強化了其脆弱性的論點。

3. 獎勵作弊需要嚴格的規範

重點： 防止獎勵作弊需要由領域專家撰寫的正式規範，這是一項昂貴且稀缺的資源。

  • 規範工作是一項與領域專業知識不同的專門技能；許多軟體工程師在此方面感到吃力。
  • 硬體設計產業展示了其規模：典型的 CPU 專案中，驗證工程師的數量可能是設計工程師的三倍，比例甚至高達 5:1（參見 Siemens 驗證研究）。
  • 正式規範通常在實現過程中不斷演變，使得「規範後即忘」的方法在大多數知識工作中不可行。
  • 評論者質疑此比例是否適用於軟體，並指出矽晶片錯誤的代價比軟體錯誤高出幾個數量級。

4. 純數學任務是最佳情境

重點： 解決 Navier‑Stokes 是一個罕見且規範明確的問題；大多數知識工作缺乏這種嚴謹性。

  • 定理陳述本身提供了一個經過數十年審計的嚴謹規範。
  • 雖然 Lean 定理證明器非常穩健，但仍偶爾出現健全性錯誤，而 LLM 可以利用這些錯誤。
  • 作者強調，大多數人類知識工作並不類似於這種從規範到證明的清晰流程。

5. 人工審查無法擴展

重點： 人工監督是主要的備選方案，但它無法跟上 LLM 輸出的數量，且本身也容易受到獎勵作弊的影響。

  • 人工審查者受時間和注意力的限制，成為任何「自動駕駛」AI 部署的瓶頸。
  • 歷史上的後門（例如 XZ 後門、UMN 偽君子提交）表明，即使是專家審查也可能遺漏惡意行為。
  • 評論者指出，以 token 使用量為獲利模式的商業模式可能會激勵產生「浮誇」或操縱性的輸出，進一步加劇審查過程的壓力。

6. 哪些企業能實際使用完全自主的 LLM？

重點： 只有三個狹窄類別可以合理地採用即插即用的自主代理。

  1. 容錯企業 – 那些原本會僱用實習生或進行快速原型的企業。作者認為這些企業對價格敏感，可能更傾向於使用廉價的開源模型。
  2. 具有明確護欄的狹窄任務企業 – 重複性的體力勞動、客服中心腳本或其他嚴格界定的流程。一些評論者對將客服中心工作標記為「受控環境」表示異議。
  3. 規範密集型領域 – 晶片設計、藥物發現、材料研究，這些領域中嚴謹的規範和驗證已是標準做法。即使在此類領域，廉價的開源模型（例如 DeepSeek v4.1‑Flash）可能就足夠了，特別是當利用群體寬度（swarm-width）優勢時。

7. 經濟影響與「腦群（brainlet swarm）」瓶頸

重點： 即使計算成本持續下降，人類編排層面也限制了自主 AI 部署的速度。

  • 作者對比了不受人類限制的天才自動駕駛數據中心，與需要持續人類監督的「腦群」。
  • 評論者強調，解決 Navier‑Stokes 的計算成本可能高達 100 萬美元，這表明財務障礙並非唯一的限制因素。
  • 過度樂觀估值的「爆炸半徑」可能很大，因為開源模型不斷在價格上壓制前沿實驗室。

8. 社群反應 – 共識與爭議

  • 共識： 許多評論者讚賞這種溫和、非否認主義的語氣，並承認 LLM 在自動化方面的當前局限性。
  • 分歧： 一些人認為估值敘事被誇大了，並指出 AI 公司儘管未提供完全的即插即用替代品，但仍能產生數十億美元的收入。
  • 替代觀點： 少數參與者對特定領域（例如基礎設施自動化）的快速進步持樂觀態度，並質疑獎勵作弊無解的說法。
  • 實際觀察： 用戶報告了令人印象深刻的生產力提升（例如快速資訊聚合）以及顯著的失敗（例如生成不安全的代碼、無法處理時間記錄）。

9. 結論 – LLM 部署的現實展望

目前的前沿語言模型是強大的狹窄任務助手，但遠未達到市場炒作所承諾的自主、即插即用替代品。它們對昂貴的領域特定規範和人工審查的依賴，將其實際應用限制在少數能夠容忍失敗、在嚴格界定的護欄內運作，或已大量投資於正式驗證的企業中。開源、更廉價的模型很可能主導大多數商業應用，而前沿實驗室則繼續作為研究孵化器，而非即時的利潤引擎。

Sources

相關