OpenAI 通用人工智慧分配與發展的戰略計畫

OpenAI 已宣布一項戰略計畫，以確保通用人工智慧（AGI）造福全人類，優先考慮廣泛分配權力與存取 AI 能力。公司旨在防止少數實體壟斷權力，而是培育一個具韌性的生態系統，讓 AI 能賦予個人追求自身目標的能力。

三項主要戰略目標

• 建立自動化 AI 研究員：OpenAI 意圖開發一個能夠加速並自動化研究過程的 AI 系統。公司相信，到 2028 年 3 月，其研究的重要部分可能由與人類研究者協同工作的 AI 系統完成。這被視為在對齊問題上取得進展的關鍵需求。
• 加速經濟：目標是推動科學進步、生產力和經濟增長，同時確保由此產生的經濟收益能廣泛惠及社會。
• 提供個人化 AGI：OpenAI 旨在為地球上的每個人提供個人化 AGI，以賦予個人以任何方式使用該技術的能力。

OpenAI 的第三階段

公司描述其目前正在過渡到其演變的「第三階段」：

1. 第一階段：專注於朝向 AGI 的基礎研究。
2. 第二階段：過渡為產品公司，將系統部署到真實世界並從使用者互動中學習，以確保安全與對齊。
3. 第三階段：專注於使先進 AI 變得豐富、負擔得起、安全且易於存取。當前優先事項是將前沿能力轉化為實用工具，使個人和組織能夠蓬勃發展。

人類能動性與判斷的角色

OpenAI 認為，將所有任務完全自動化並不是理想的未來。相反地，AI 的目的是補充人類能力。公司強調，隨著 AI 系統變得更強大，人類在設定方向、進行權衡、應用判斷以及將價值和責任帶入工作中的角色變得更為關鍵。人類的長期角色將是決定「什麼值得做」。

全球協調與安全

為了降低災難性風險並管理商業與國家競爭的激勵機制，OpenAI 倡導建立一個國際組織來協調領先的 AI 工作。該組織將建立共享的安全標準，並可能協調行動，例如在必要時放慢前沿發展，以使社會韌性、安全與對齊能夠跟上步伐。

AI 韌性與權力分配

OpenAI 將「AI 韌性」定義為社會必須實施的集體系統、組織與個人，以預見並從 AI 驅動的中斷中復原。公司認為，集中權力會導致脆弱，而廣泛共享的權力則使社會更具韌性與適應性。因此，公司認為存取、隱私、負擔能力與公共監督是成功 AI 未來的必要組成部分。