智慧是集體的，而非人工的：Michael I. Jordan 教授對 AI 與經濟的觀點
智慧是集體的，而非人工的：Michael I. Jordan 教授對 AI 與經濟的觀點
AGI 的謬誤與對智慧的擬人化
人工通用智慧（AGI）在很大程度上是一個公關術語，會對研究、商業模式以及年輕創造者的抱負產生扭曲效應。當前的敘事——我們正在打造一個脫離肉體的超級智慧，可能拯救或抹殺人類——是科幻小說，會讓年輕工程師感到沮喪，因為它暗示在他們的一生中已無可建之事。
智慧不應被擬人化。技術系統的目標不是以人類的方式「理解」，而是提供可預測性與可控性。例如，在工業供應鏈建模中，系統可以對運輸延遲做出極佳的預測，卻不需要「理解」物流；重要的是它降低了不確定性，讓工程與規劃更有效。
AI 作為集體經濟系統
智慧不是個體屬性，而是集體屬性。人類智慧源自意見、思想與文化的聚合，提供行動所需的背景。因此，AI 應被視為一個集體經濟系統，而非獨立的統計盒子。
經濟學與博弈論的角色
要超越簡單的模式匹配，AI 必須納入經濟思維，特別是博弈論與機制設計：
- 博弈論： 一個用於根據策略互動預測結果的數學框架（類似 $F=ma$ 預測物理運動）。
- 機制設計： 博弈論的「逆向」問題。它不是預測給定博弈的結果，而是問：「我要設計什麼樣的博弈才能達成特定的期望結果（例如公平、財富分配或市場效率）？」
- 合約理論： 機制設計的子領域，處理資訊不對稱的情況，當一方比另一方知道更多時，需要特定激勵以確保誠實互動。
基礎模型的技術限制
雖然大型語言模型（LLM）展現了令人印象深刻的規模效應，但它們常因缺乏不確定性與激勵框架而與現實脫節。
AlphaFold 案例研究與預測驅動推論
AlphaFold 是一個強大的蛋白質預測工具，但在用於假設檢驗時可能產生誤導。在關於量子波動與磷酸化的研究中發現，AlphaFold 的預測會產生極窄的信賴區間，卻遠離真實值，因為訓練集缺乏足夠的此類波動樣本。
為了解決此問題，開發了 Prediction‑Powered Inference（PPI）。PPI 允許研究者將少量的真實資料與大量有偏的模型預測結合，調整誤差條，使其覆蓋真實值，即使使用有偏的基礎模型，也能提供科學上可信的答案。
LLM 信心的問題
LLM 通常無法量化自身的信心，因為它們僅被訓練去預測下一個詞彙。當 LLM 表示信心時，通常是在模仿訓練資料中人類的斷言，而非在不確定性下進行認知推理。
設計永續的資料市場
資料不僅是訓練模型的資源，更是一種具有價值與隱私影響的商品。三層資料市場模型說明了使用者、平台與資料買家之間的張力：
- 使用者： 提供資料給平台以換取服務。
- 平台： 使用資料提升服務，並將資料出售給第三方以維持營運。
- 資料買家： 購買資料用於市場研究與行為分析。
在最佳化的系統中，平台會提供可調整的差分隱私等級。重視隱私的使用者會選擇隱私預算較高的平台，而資料買家則會為較噪聲的資料付較少的費用。目標是找到一個數學平衡，使社會福利最大化，而非僅僅優化單一目標函數。
AI 時代的新文理三角形
為了打造對社會負責的技術，下一代研究者應該從純粹聚焦於計算最佳化，轉向採用多學科的「三角」思考方式：
- 計算思維： 模組化、抽象化與演算法效率。
- 推論思維（統計）： 管理不確定性、控制錯誤率與設計最佳實驗。
- 經濟思維： 理解激勵、策略互動，以及設計機制以協調人與機器代理人。
結合這三者，AI 可以從「肩上的祕書」轉變為提升人類決策、減少不確定性（如同市場對資源的調節），並支援人類創造力與民主的系統。
摘要：
Michael I. Jordan 教授主張智慧是一個集體經濟系統，而非脫離肉體的超級智慧，倡導從 AI 炒作轉向結合計算機科學、統計學與經濟學的多學科方法。
標題：
智慧是集體的，而非人工的：Michael I. Jordan 教授對 AI 與經濟的觀點