永恆的補充：人工智慧與進步的未來

這篇論文探討了前沿智慧（產生卓越洞見的能力）與制度智慧（透過官僚體系、資本與勞動執行這些想法的能耐）之間的關係。核心論點是，進步並非僅由天才驅動，而是由構想與實現這些構想所需的實體與組織支援系統之間的協同作用所推動。

進步的日益昂貴

科學與技術進步越來越需要更大的支援體系，導致單一研究單位的生產力下降。作者指出，維持摩爾定律如今所需的研發人員數量，已超過1970年代初的18倍以上。

這日益昂貴的關鍵指標包括：

• 研究生產力： 全經濟範圍內的有效研究努力從1930年代起增加了23倍，而測量到的研究生產力卻下降了41倍。
• 人力結構轉變： 技術人員的成長速度是科學家的兩倍。
• 基礎設施成本： 科學領域中專用設備的使用量在四十年間翻倍，現代晶片廠的建造成本也比30年前高出五倍。

智慧與制度補充

從經濟學角度來看，前沿智慧與執行能力是「補充品」，意指其中一者增加會提升另一者的價值。

• 實體補充： 包括粒子加速器、能源來源與建造技術設計所需的機械設備。
• 制度智慧： 指的是「未受讚譽的執行智慧」，涵蓋法律、官僚體系、資金機制與供應鏈。

儘管天才設計了紀念碑，制度智慧才鋪下石塊。作者主張，即使是一個由十億個愛因斯坦組成的文明，仍需絕大多數成員負責會計與資源開採，以維持讓前沿創新得以發生的基礎設施。

人工智慧在執行與構想中的角色

目前，人工智慧正透過自動化程式碼撰寫、文獻搜尋與原型製作，降低執行的稀缺性。這使得瓶頸從執行轉向「品味」——即判斷哪些問題值得提出，以及哪些方向值得追求。

然而，當人工智慧開始產生自己的卓越洞見（如數學領域所見）時，可能產生新的瓶頸。人工智慧將爆炸性地增加可行的假設與概念數量，使世界變得比以往更「執行匱乏」，因為支援基礎設施難以消化如此龐大的新想法量。

文明的兩條可能路徑

作者提出兩種超智慧與實體世界互動的可能方向：

1. 深度文明

在此情境下，智慧透過原則推理與從既有資料中提取新洞見來推進知識，極大減少對新實體證據的需求。

• 機制： 超智慧透過高度逼真的模擬最大化效率，確保僅進行最關鍵的實體實驗。
• 結果： 進步由更深入的思考驅動，而非實體擴張。文明的實體規模保持微小，但智慧持續增長。

2. 寬度文明

在此情境下，對新證據的需求超過智慧的效率。進步需要越來越複雜且大規模的現實世界實驗。

• 機制： 智慧主要部署於「制度智慧」——協調龐大的技術與官僚機器（例如建造戴森球）。
• 結果： 實體擴張成為知識的主要引擎。由於此過程受限於宇宙速度極限（光速）與實體建造所需時間，進步速度可能隨時間實際減緩。

人類好奇心的角色

儘管人工智慧可能在洞察力與協調能力上超越人類，作者仍認為人類好奇心對三點至關重要：

1. 啟蒙的責任： 理解世界的渴望是人類的根本動機，即使存在更優越的智慧，這種動機依然存在。
2. 比較優勢： 人類可能在前沿智慧（創造力）上相對於制度智慧（例行協調）具有相對優勢，導致在創造過程中專精。
3. 創造多樣性： 人類的獨特性提供了多樣的觀點，即使機器能模擬大多數人類思維，這些觀點仍具附加價值。