OpenAI AI 進展與建議

OpenAI 已宣布一條 AI 進展的路線圖，預測系統將從執行短期任務轉變為在 2026 年和 2028 年進行自主科學發現。此軌跡凸顯了當前消費者將 AI 用作聊天機器人與系統解決複雜智慧問題的實際能力之間日益擴大的差距。

AI 能力軌跡與經濟影響

AI 能力正在快速進步，特別是在軟體工程領域，系統已經從完成人類幾秒鐘即可完成的任務，進展到需要超過一小時的任務。OpenAI 預期系統將很快能夠處理需要人類數天或數週努力的任務，同時指出處理需要人類數世紀努力的任務能力目前仍是一個未定義的前沿。

關鍵指標和里程碑包括：

• 智慧成本： 每單位智慧的成本在過去幾年每年估計下降了 40 倍。
• 2026 年預測： AI 預計將能夠進行「非常小的發現」。
• 2028 年預測： OpenAI 對系統將能夠進行「更重大發現」充滿信心。

儘管 OpenAI 預期由於社會慣性，日常生活將感覺保持不變，但它承認經濟轉型可能會很困難，而且基本的社會經濟契約可能需要改變，以適應廣泛分發的豐裕世界。

超智能系統的安全與對齊

OpenAI 將與超智能系統相關的風險視為可能造成災難性後果。該組織斷言，沒有強大的對齊與控制，超智能系統不應該被部署，這需要進一步的技術工作。

為降低這些風險，OpenAI 建議：

• 共享安全原則： 前沿實驗室應該同意共享安全原則，並交換研究、對新風險的見解，以及減少競爭動態的機制。
• 控制評估： 建立 AI 控制評估的產業標準被提出為必要步驟。
• 經驗研究： 利用安全與對齊的經驗研究來指導全球決策，包括當系統接近遞迴自我改進時，該領域是否應該放慢發展。

監管框架與治理

OpenAI 識別了關於 AI 發展的兩種主要思想流派，並為每種提出不同的治理方法：

情境 1：AI 作為「一般技術」

在此情境下，AI 的發展類似於先前的技術革命（例如印刷機或網際網路）。治理應該聚焦於：

• 促進創新： 使用傳統的公共政策工具。
• 隱私與濫用： 與聯邦政府合作，保護對話隱私並防禦惡意行為者的濫用。
• 當前水準的最小監管： OpenAI 主張，當前能力水準的 AI 應該在最少額外監管負擔的情況下廣泛擴散，具體來說，避免出現「50 個州的法規拼貼」。

情境 2：快速超智能

在此情境下，超智能以前所未有的速度發展與擴散。治理需要：

• 行政協調： 與多個國家的行政部門和安全研究所進行密切合作。
• 目標緩解： 重點放在防止 AI 在生物恐怖主義中的應用，以及管理自我改進 AI 的影響。
• 問責： 透過潛在的非傳統方法，維持對公共機構的問責。

AI 韌性生態系統

OpenAI 提議建構一個「AI 韌性生態系統」，類比於網路安全領域。正如網路安全透過建立加密協議、監控系統和應急響應團隊來使互聯網變得可信，同樣地，一個由軟體與標準組成的類似生態系統對於 AI 也是必要的。OpenAI 建議國家政府應該利用產業政策來鼓勵這個生態系統的發展。

個人賦能與存取

OpenAI 將先進 AI 視為未來的基礎公用設施，相當於電力、清潔水或食物。該組織主張應該讓這些工具廣泛可用，以賦予個人實現目標的能力，前提是它們必須在廣泛的社會界限內使用。