Anthropic 遞歸自我改進的進展與趨勢

AI 正在加速 AI 系統的開發

Anthropic 正日益將 AI 開發週期委派給 AI 系統，這導致了生產力的可衡量加速，並朝著遞歸自我改進（recursive self-improvement）的軌跡邁進——即 AI 系統自主設計並開發其自身的繼任者。雖然完全的遞歸自我改進尚未成為現實，但內部數據顯示，AI 已經在執行構建前沿模型所需的很大一部分工程與研究任務。

工程領域中可量化的生產力增益

AI agent 已從簡單的代碼片段生成轉向能夠運行代碼並委派工作的自主 agent。這種轉變導致 Anthropic 的代碼產出大幅激增：

  • 代碼作者身份： 截至 2026 年 5 月，Anthropic 代碼庫中合併的超過 80% 的代碼是由 Claude 撰寫的。相比之下，在 2025 年 2 月 Claude Code 發布之前，這一數字僅為個位數。
  • 工程師輸出： 在 2026 年第二季度，典型的 Anthropic 工程師每天合併的代碼量與 2024 年相當。
  • 任務成功率： 在最具開放性的工程任務中，Claude 的成功率在 2026 年 5 月達到 76%，在六個月內增長了 50 個百分點。
  • 錯誤檢測： 回溯性分析顯示，自動化的 Claude 審查可以捕捉到約三分之一在過去發生在 claude.ai 上並導致事故的 bug，且這些 bug 在進入生產環境之前就能被發現。

AI 研究能力的進步

除了編寫代碼，AI 系統在優化實驗方面展現出了超人性能，並且在提出自身研究方向的能力上日益增強。

  • 實驗優化： 在一項要求 Claude 使訓練代碼運行得盡可能快的測試中，Claude Mythos Preview 在 2026 年 4 月實現了約 52 倍的加速，而 Claude Opus 4 在 2025 年 5 月僅實現了約 3 倍的加速。一名熟練的人類研究員通常需要四到八個小時才能達到 4 倍的加速。
  • 自主研究： 在 2026 年 4 月，由 Claude 驅動的 agent 進行了一項開放式的 AI 安全研究項目。在 800 個累計小時內，這些 agent 恢復了弱監督者與強模型之間的 97% 的性能差距，而兩名人類研究員在一週內僅恢復了 23%。
  • 研究判斷力： 在衡量在調查性問題中選擇「更好的下一步」能力的測試中，Mythos Preview 模型在 2026 年 4 月勝過人類選擇的機率為 64%，高於 2025 年 11 月 Opus 4.5 的 51%。

邁向遞歸自我改進之路

Anthropic 識別出人類在開發過程中的角色正在縮小。目前的瓶頸正從「執行」（編寫代碼與執行實驗）轉向「設定方向」（研究品味與判斷力）。

可能的未來情景

  1. 停滯/S 曲線： 進展可能會因為規模化收益遞減、Transformer 的架構限制，或能源與算力供應鏈等物理約束而進入平台期。
  2. 複合增益效率： AI 持續自動化研究的執行，但人類仍是研究方向的主要架構師。這可能導致 100 人的公司執行 100,000 人的組織所能完成的工作。
  3. 完全遞歸自我改進： Deficit AI 系統開發出變革性的創造力並設計其自身的繼任者。在這種情景下，進展的步調僅受限於可用的算力。

批判性觀點與反論點

雖然 Anthropic 展示了一條指數級增長的軌跡，但外部觀察者與員工也對這些說法的有效性與安全性提出了幾種疑慮：

  • 指標有效性： 批評者認為「代碼行數」並非生產力的良好代理指標，這暗示 AI 可能只是在生成更冗長的代碼，而非更高效的解決方案。
  • 操作穩定性： 一些用戶報告稱，儘管有超人級別的編碼能力宣稱，Anthropic 的服務仍頻繁出現故障與 API 限制，導致行銷宣稱與用戶體驗之間存在脫節。
  • 安全悖論： 對於追求全速進行遞歸自我改進與其宣稱的 AI 安全目標是否兼容，存在懷疑態度。

"I fail to see how pursuing recursive self-improvement at full speed is compatible with Anthropic's stated goal of AI Safety. If nukes were not invented yet, would it really be a good idea to build and sell them as fast as possible?"

  • 硬體瓶頸： 一些人認為真正的約束是硬體效率（例如，compute-in-memory），而軟體層級的遞歸改進無法克服這些物理限制。

協調與「暫停選項」

Anthropic 建議，如果存在一個可驗證的全球協調機制，那麼放慢或暫停前沿 AI 開發以讓社會結構與對齊齊研究跟上腳步是有益的。然而，他們指出，這種暫停很難實現，因為訓練運行（training runs）很容易被隱藏，從而為參與者背叛協調並維持競爭優勢創造了高誘因。

Sources