為什麼更智慧的 AI 模型可能會將計算價格提升 10x
計算差距:收入增長 vs. 容量擴展
AI 實驗室正經歷著收入增長與可用計算容量之間的巨大分歧。例如,Anthropic 的收入據稱在連續三年每年增長 10x,而實驗室的總計算容量僅每年增加約 3x。
為了在計算擴展滯後的情況下維持這種收入增長,實驗室必須依賴以下一種或多種機制:
- 提升邊際利潤: 擴大推理的利潤邊際。
- 提升計算價格: 提高租賃或購買計算的成本。
- 轉移計算分配: 提高用於推理而非訓練的總計算百分比。
雖然這三種機制都在發生——某些模型的推理邊際利潤從 40% 上升到 80%,而 OpenAI 的推理支出從 25% 增加到可能超過 50%——但實驗室不願將推理置於優先位置。實驗室將推理收入視為資助下一代模型訓練的手段;將過多計算資源轉向推理表示 AI 進展已停滯,實驗室已轉變為僅僅的雲端服務提供者。
計算價格上升的可能原因
如果實驗室無法在不被競爭對手擊敗的情況下維持 90%+ 的邊際利潤,則收入‑計算差距的主要 "逃壓閥" 是提升計算價格。這種趨勢已經在市場中可見:
- 現貨價格上漲: 計算的現貨價格比今年二月的低點高出超過 40%。
- 規模溢價: 頂尖實驗室需要安全的大規模集群,而非現貨實例。例如,據報導 Google 每月為 110,000 個 GPU(GB200s 與 GB300s 的混合)支付 9 億美元,這是目前現貨價格每小時的兩倍。
智慧的變現
隨著 AI 模型變得更智慧,它們能更有效地將相同數量的計算變現。如果一塊相當於 H100 的 GPU 能執行真正具有人類水準的軟體工程師,該硬體產生的經濟價值將遠遠超過目前的租金。根據目前軟體工程師的薪資,這樣的 GPU 理論上應該每年租金超過 250,000 美元——超過目前現貨價格的 15 倍。
雖然有人認為大量 AI 工程師的湧入會降低勞動的邊際價值(即 "勞動塊謬誤"),但標準經濟學表明,創新與專業化通常能維持高技能勞動的邊際價值高,這意味著隨著能力提升,計算的邊際價值將保持高位。
更高計算成本的經濟影響
計算價格上升與模型效率提升將在 AI 生態系統中產生幾種戰略轉變:
Alchian-Allen 效應與模型效率
根據 Alchian-Allen 效應,當稀缺投入(計算)的成本上升時,節約該投入的動機會增加。如果計算昂貴,使用較弱、效率較低的模型會變得昂貴,因為它需要燃燒更多 token 才能達到相同結果。因此,能訓練出最具計算效率模型的實驗室可以收取顯著溢價,因為它們透過減少稀缺資源的浪費,實際上 "創造" 了更多計算。
市場集中與應用被排除
較高的計算成本會形成進入門檻。頂尖實驗室能比小型競爭對手更有效地競標計算資源,因為它們能從相同硬體中提取更多價值。此外,低價值應用——例如生成 "AI 廢料"——可能會被市場排除,因為頂尖實驗室會優先考慮高價值自動化,例如 AI 驅動的 AI 研究,這些它們願意支付更高成本。
計算供應擴展的限制
計算容量每年 3x 的增長難以加速,主要受到三個瓶頸的限制:
- 摩爾定律(1.4x): 硬體效率的提升正在放緩,難以維持。
- 製造產能(1.2x): 新晶圓廠的建設受限於 ASML EUV 機器的可用性。
- 晶圓分配(1.8x): AI 正在佔用先前用於智慧型手機與個人電腦的晶圓產能。在台積電領先的 N3 節點,AI 的分配已從 60% 上升至 86%,透過重新分配進一步增長的空間有限。
這些限制表明計算供應缺乏彈性,無法吸收大規模需求衝擊,因此在機器人自動化尚未根本降低原材料處理與晶片製造成本的前奇點階段,價格上升的可能性更高。