Sigmoid 陷阱：預測 AI 進步的上限
人工智慧發展軌跡的爭論往往在兩個極端之間擺盪：一種是相信能力會進行無止盡的指數爆炸，另一種則是擔心我們正迅速接近平台期。這場討論的核心是 Sigmoid 曲線這一數學概念——這是一種 S 形函數，其增長起初緩慢，隨後呈指數級加速，最後在達到物理或邏輯上限時趨於平緩。
雖然當前的大語言模型 (LLMs) 時代感覺像是指數曲線的垂直攀升，但歷史表明，幾乎所有正向增長最終都會變成 Sigmoid 曲線。對於研究人員和預測者來說，關鍵問題不在於曲線是否會變平，而在於何時以及平台期會設定在什麼高度。
指數增長的錯覺
許多 AI 樂觀主義者指出 Scaling Laws——即觀察到增加算力、數據和模型規模會帶來可預測的性能提升。這創造了一種進步必然發生的敘事。然而，正如近期討論中所指出的，假設一種趨勢會無限期持續下去往往是一種認知陷阱。
有一種觀點建議我們應該將 Lindy's Law 應用於這些趨勢。Lindy's Law 主張，對於非易損耗物（如思想或技術），其未來的預期壽命與其目前的年齡成正比。在 AI 的背景下，這意味著如果一種趨勢已經持續了一段時間，預設的假設應該是它將再次持續大約相同的時長，而不是假設它會立即崩潰或永遠增長。
硬體：物理上限
關於即將到來平台期的常見論點是 Moore's Law 的衰退。如果為 AI 提供算力的硬體正撞上 Sigmoid 上限，那麼 AI 能力也隨之跟進是合乎邏輯的。然而，這種觀點可能過於簡化。
正如一些技術觀察家所指出的，目前 AI 模型的矽基實現方式仍然非常低效。存在「硬體飛躍」的可能性：
在某個時間點，有人會製造出一種張量處理晶片，將所有的數位 matmuls 取代為類比 logamp matmuls，或者 memristors 的某種突破將開始打破記憶與運算的障礙。
如果硬體從單純縮小電晶體，演進到從根本上改變矩陣乘法處理方式，AI 的「上限」可能會被推向比目前預測高得多的位置。
「比真實更真實」的問題
另一種概念化 AI 極限的方法是透過 3D 電腦圖形的視角。在 CGI 的早期階段，增加多邊形數量會帶來視覺真實度的巨大飛躍。然而，最終產業會遇到邊際收益遞減的點。你無法讓一個數位影像「比真實更真實」。
這引發了一個根本性的哲學與技術問題：是否存在「智能」或「能力」的上限，就像視覺真實度存在上限一樣？如果 LLMs 僅僅是在模擬人類語言和推理，它們可能會在達到人類水平的熟練度後遇到平台期。但如果智能是開放式的能力，Sigmoid 曲線可能會比我們想像的寬廣得多。
平台期的不可預測性
預測指數增長轉向 Sigmoid 的確切點非常困難，因為變量通常是不透明的。AI 的進步目前依賴於三大支柱：
- Compute: 硬體的可用性與成本。
- Data: 訓練集的數量與質量（以及生成合成數據以繞過「數據牆」的能力）。
- Algorithmic Efficiency: 擠出更多性能於相同資源的新範式。
這其中的任何一項都可能受到外部衝擊的干擾——地緣政治衝突、監管打擊，或僅僅是「偉大想法」的枯竭。
結論
無論 AI 是處於垂直攀升期還是接近平台期，Sigmoid 心態都可作為盲目樂觀主義的一種必要修正。雖然我們可能無法預測上限的確切座標，但意識到所有增長最終都會趨於平緩，可以讓我們對風險與潛力有建立更細緻的理解。AI 的未來可能不會是一條簡單的上升線，而是隨著我們從一個技術範式轉向下一個範式時，所經歷的一系列轉變——有些趨於平緩，有些則會飛躍。