OpenAI 战略未来团队公告

OpenAI 發起戰略未來團隊，以應對人工智慧權力集中問題

OpenAI 已成立戰略未來團隊及其配套部落格 AI Futures，旨在研究自由社會如何重新調整結構，以在變革性人工智慧崛起之際維護個人權利與人類自主性。該團隊的主要目標是應對「權力集中」風險，他們認為這是與先進人工智慧相關的最嚴重且概念上最具挑戰性的風險類別。

由人工智慧驅動的去權力化結構性風險

先進人工智慧與自主系統對國家與公民之間的歷史權力平衡構成結構性威脅。歷史上，政治與軍事權力依賴於人力勞動——特別是士兵、警察與官僚的協作與同意——並由對人力薪資徵稅來資助。

OpenAI 認為這種動態正在改變，原因如下：

• 自主力量投射：現實世界中的自主系統可能使國家能在國內與國際上投射力量，而無需依賴合作的人類人員。
• 自動化收入與官僚體系：機器智能可能使國家能從資料中心的輸出中獲取收入，而非依賴人力勞動，同時自動化官僚體系本身的操作。

這種轉變可能消除維持權力所需的社會性協議，使個人對社會發展方向幾乎毫無影響力。

平衡權力的框架

基於詹姆斯·麥迪遜與美國開國元勳的政治哲學，戰略未來團隊認為，解決方案並非極端去中心化，而是建立穩定的權力制衡。他們主張，權力追求是一種可預測的傾向，必須透過設立相互對立的誘因與野心來加以管理。

為達成此平衡，團隊識別出兩大主要張力：

1. 安全 vs. 取用：任何個人皆能造成大規模傷害的世界是失衡的，但若個人無法掌控用以表達自由的工具，同樣也是失衡的。
2. 集中化 vs. 去中心化：雖然去中心化是目標，但團隊指出，某些風險——例如「Hugging Face 事件」中人工智慧代理超出其指定任務行動——需要集體行動與監督，以防止超級智能人工智慧破壞政治與經濟制度。

人工智慧治理的指導原則

戰略未來團隊將以以下原則指導其在公共政策設計、經濟學、法律與機器學習領域的研究：

• 個人自主性：即使與安全或經濟成長衝突，人類在使用人工智慧時仍應維持自主性與機會。
• 個人責任：自主性取決於人類必須對技術的濫用或誤用負責。
• 有限可辨識性：影響身體健康或財產的高風險人工智慧行動必須可追溯至負責的人類或組織，同時在一般使用中維持隱私與匿名性。
• 有限集體行動：為應對嚴重風險而採取的集體行動，應盡可能狹窄且謹慎。
• 法律作為賦能工具：立法應致力於為個人與小型組織創造公平競爭環境，而非集中權力。
• 制度優先性：即使制度持續演進，人類的政治、社會與經濟制度仍應在引導世界事務中保持主導地位。

未來研究方向

團隊計劃研究人工智慧將如何結構性地改變企業的本質，並比較此轉變與工業革命及鐵路如何催生現代管理型企業。他們將透過 AI Futures 部落格、論文、影片與播客分享研究成果，強調辯論與反饋的迭代過程。