AI 成本危機：滲透定價與即將到來的市場修正

目前的 AI 領域正處於許多人所描述的「滲透定價」階段。長期以來，運行大型語言模型 (LLMs) 的成本實際上一直由龐大的風險投資和前沿模型提供商的戰略目標所補貼。然而，隨著產業向永續商業模式邁進，問題隨之而來：當補貼消失且智慧的真實成本變得顯而易見時，會發生什麼事？

經濟影響：從泡沫到修正

許多觀察家認為我們目前正處於 AI 泡沫中。風險在於，企業已經圍繞著無法持續的補貼成本建立了整個營運框架。如果價格大幅上升，對於那些在未計算長期成本軌跡的情況下，就以 AI 取代人力勞動的中小企業 (SMBs) 來說，後果可能會非常嚴重。

有些人認為這可能導致市場修正，屆時那些「大到不能倒」的公司——即那些將整個生存基礎重新組織圍繞在專有的第三方服務之上的公司——會發現自己處於危險的境地。正如一位評論者所言：

"對於現存的幾乎每一家企業和政府來說，AI 都是生存所依賴的... 你最終只能支付那該死的贖金，並且持續支付，因為你已經將整個生存基礎重新組織圍繞在封閉的專有第三方服務的商業模式上，並將未來抵押給了它。"

相反地，其他人則建議這是一種更傳統的市場週期：泡沫破裂，發生修正，然後產業會穩定進入一個合理的狀態，屆時 LLMs 被視為一種專業化工具，而非解決所有問題的通用方案。

隨著「Token 焦慮」的出現，產業可能會從對前沿模型的一套定式做法轉向。趨勢正朝向優先考慮效率而非原始能力的混合式架構發展。

與其在每次互動中使用前沿模型，企業正開始轉向使用較小、針對特定任務的模型。這些模型針對狹窄的任務——例如分類、路由或重複性的高容量工作——進行了優化，在這些任務中，使用前沿模型的成本和延遲是無法合理的。

推動本地模型的趨勢不僅是為了成本，也是為了隱私、合規性和可預測性。在使用者硬體或私有基礎設施上本地運行模型，可以減少對外部 API 的依賴，並消除按 Token 計費的成本模型。

為了降低成本，技術實作已經開始出現。例如，在固定的系統提示詞 (system prompts) 上使用提示詞快取 (prompt caching) 可以大幅降低帳單。正如一位開發者所分享的：

"在固定的系統提示詞上使用提示詞快取，讓我一夜之間將 Anthropic 的帳單減少了約 60%。大多數開發者並未意識到在 Claude 上，快取寫入的成本比輸入 Token 的成本便宜 25 倍。"

AI 成本上升可能會迫彿使軟體定價與交付方式發生根本性的改變。目前的訂閱模式——即支付固定的月費來涵蓋無限（或高限額）的使用量——如果底層的運算成本波動劇烈，可能將無法持續。

有一種日益增長的理論認為，軟體將向類似於電力的「公用事業」模式轉型。在這種情境下，使用者會像支付公用事業費用一樣支付 AI 費用，而軟體應用程式將會根據其「Token 效率」而非僅僅是功能豐富度來競爭。這將使焦點從原始能力轉向工程效率的優化。

雖然有些人預測會有一波公司倒閉潮，但其他人則看到了與 Linux 早期階段的相似之處，認為社群將會找到一種方法，在限制中進行優化與創新。無論是透過開源模型的民主化，還是向混合式架構的轉向，AI 成本上升的必然性很可能會迫使產業從盲目實驗的階段，轉向一個永續且經過工程優化的效率階段。