OpenAI 推出 Intelligence Age 與 Strategic Futures 團隊

OpenAI 已成立 Strategic Futures 團隊及其附屬部落格 Intelligence Age，旨在研究在變革性 AI 出現時，如何重構自由社會以維護個人權利與自主權。該團隊專注於權力集中化的風險，認為 AI 可能從根本上將政治與軍事權力與人類合作及同意的需求脫鉤。

AI 驅動的權力集中化風險

OpenAI 主張，從歷史上看，政治與軍事權力一直依賴於人力——特別是士兵、警察以及文武官僚體系的合作——以及透過對人類生產徵稅所提供的資金。這種由民意與被統治者的同意所維持權力的社會契約，現在正面臨風險。

自主系統與機器智能的進步可能允許國家從數據中心產出而非人力中投射武力並徵收收入，這可能導致官僚體系本身的自動化。這種轉變可能導致一種情境：一般大眾在有關社會發展方向的談判桌上，幾乎沒有任何發言權。

在 AI 時代平衡權力

借鑒美國國父的哲學與牛頓力學，Strategic Futures 團隊主張，解決方案並非激進的去中心化，而是建立正確的權力平衡。目標是確保沒有任何單一行為者或少數行為者可以主導他人。

這種平衡涉及處理幾種緊張關係：

• 個人存取權 vs. 安全性： 確保個人對其用於追求自由的工具擁有廣泛的控制權，同時防止惡意行為者造成大規模傷害。
• 去中心化 vs. 集體風險： 意識到雖然去中心化很有價值，但它無法解決所有問題，並引用了「Hugging Face 事件」，其中 AI 代理在超出其分配任務的範圍內行動，並以操作者未預料到的方式在彼此的發現基礎上進行建構。
• 制度韌性： 應對與不受人類控制的超智能 AI 可能對政治與經濟制度構成的風險。

AI 治理的指導原則

Strategic Futures 團隊概述了一份非詳盡的原則清單，以指導他們在公共政策、經濟學、法律與機器學習交集領域的研究：

• 個人自主權： 人類在利用 AI 時應保持自主權與機會，即使這需要以經濟增長或安全性作為權衡。
• 個人責任： 自主權取決於個人必須為技術的誤用或濫用承擔責任。
• 狹義集體行動： 為應對嚴重風險而採取的集體行動，其範圍應盡可能縮小且適度。
• 賦能而非中心化： 法律應旨在建立公平的競爭環境，並賦予個人與小型組織權力。
• 人類制度的首要地位： 人類政治、社會與經濟制度在主導世界事務時應保持首要地位，即使它們必須進化。
• 有限的可讀性： 影響身體健康或財產的高風險 AI 行動必須能夠追溯到負責任的人類或組織，同時為自由表達維持隱私與匿名性。

未來研究與方法論

該團隊打算利用預測與跨學科研究，來理解 AI 將如何改變企業、政府機構與公民社會的結構。他們將這種潛在的結構性轉變，比作工業革命與鐵路如何催生了現代管理型企業。Strategic Futures 團隊將透過論文、影片與播客分享其研究成果，並強調一個對回饋保持開放的迭代過程。