企業級 AI 成本陷阱:從 Microsoft 的 Claude Code 試點計畫中汲取的教訓

軟體開發中代理型 AI (agentic AI) 的承諾通常被描述為生產力的飛躍——一種實現「10 倍」開發者效率的方法。然而,Microsoft 最近一項備受矚目的試點計畫揭示了當前 AI 經濟模式中的一個關鍵盲點:感知價值與實際 Token 消耗之間的差距。

Microsoft 在其 Experiences & Devices 部門於 2025 年 12 月啟動的 Claude Code 內部試點計畫已突然結束。原因並非能力不足,而是預算災難。據報導,該試點計畫在短短幾個月內就耗盡了該部門全年的 AI 預算,導致其取消期限定於 2026 年 6 月 30 日。這次事件為任何試圖在沒有強大 FinOps 框架的情況下擴展前沿 AI 工具的企業提供了一個警示故事。

結構性差距:固定席位制 vs. Token 計費模式

問題的核心在於從可預測的授權模式向按使用量計費的模式轉型。多年來,企業軟體一直依賴固定席位授權,這有效地隱藏了使用者活動的邊際成本。當 Microsoft 為 Claude Code 試點計畫轉向以 Token 為基礎的計費模式時,代理型工作流的真實成本立即變得清晰且難以管理。

代理型 AI 工具與簡單的聊天介面有本質上的不同。它們通常在迴圈中運行,重複處理大量的程式碼和上下文,以解決單一問題。這種「Token 最大化」行為可能導致成本呈指數級增長,而習慣於可預測的 SaaS 訂閱模式的採購團隊對於預測這種增長是力不從心的。

「代理型浪費」問題

開發者之間的技術討論強調了當前編碼代理 (coding agents) 運行方式中的系統性低效。

許多代理在單個會話中重複處理數 MB 的程式碼,且通常缺乏高效的快取機制。

正如一位開發者所指出的:

"coding agent 的運作方式極其浪費。所有的程式碼(數 MB)都被反覆、反覆、再反覆地處理,有時甚至在單個會話中就發生了。"

此外,「感知品質」與「Token 膨脹」之間存在緊張關係。一些使用者認為,某些模型會消耗更多 Token 以確保更高的感知品質,而這可能並不總是能為最終使用者帶來成比例的價值。這創造了一種情境,即 AI 實際上是在透過消耗比必要更多的資源來「廣告」其能力。

對 AI 市場的戰略意義

這次預算超支對更廣泛的 AI 生態系統具有重大意義,特別是對 Anthropic 及其競爭對手而言。

1. 估值敘事

Anthropic 目前正以據報導的 9000 億美元估值進行融資。其最顯著的內部企業用戶之一發現成本模式不可持續,這一事實為加速企業採用 AI 的前提假設建立了一個明顯的反向敘事。如果其他大型企業也報告了類似的超支情況,這可能會導致投資者審查更加嚴格。

2. 可預測性的競爭優勢

Microsoft 正在將其開發者重新導向至 GitHub Copilot。因為 Microsoft 擁有 Copilot,它可以提供固定費率的定價模型,消除了內部使用者的預算算風險。

這將定價可預測性定位為對抗 Anthropic 等按 Token 計費的對手之主要競爭差異化優勢。

3. AI FinOps 的興起

AI 成本管理工具的機會正在增加。企業採購團隊現在需要的不再僅僅是預算;他們需要即時的 Token 消耗預測、硬性預算上限以及預警系統,以防止「預算爆炸」。

反對觀點與內部動態

並非所有觀察者都認為成本是唯一的驅動因素。一些人認為 Microsoft 的舉動是一種戰略性佈局,旨在優先考慮其內部的產品,例如 Copilot CLI,而非第三方工具。其他人則指出,內部文化中的「表演性程式碼生產」——即經理人追蹤 Token 使用量作為生產力的指標——可能會人為地推高成本。

也有論點認為,只有透過「人機協作」(human-in-the-loop) 的監督來維持這些工具的使用是唯一的方法。無監督的代理型工作流往往會以遞減回報率為代價,快速消耗 Token,而受監督的過程則能在不產生同等程度支出的情況下保持生產力。

結論

Microsoft 的經驗證明了「AI 生產力..."}],

Sources