OpenAI 超級智慧治理提案
OpenAI 提出了一套超級智慧治理框架，以確保高度能力的 AI 系統的開發安全且能順利融入社會。此提案聚焦於開發者之間的協調、建立國際監管機構，以及推動技術安全研究。
國際協調與開發速度
為了維持安全並確保社會整合，OpenAI 建議領先的 AI 開發工作必須協調。此協調可採取多種形式，包括將現有努力整合至政府主導的專案，或透過集體協議將前沿 AI 能力的成長率限制在特定的年增率。
OpenAI 強調，在此過程中，各公司必須遵守極高的負責任行動標準。
建立全球監管機構
OpenAI 提議成立一個類似國際原子能機構（IAEA）的國際機構，以監督超級智慧的相關工作。當系統超過特定能力或運算門檻時，該機構即會介入。
此提議機構的主要職能包括：
- 檢查系統並要求審計。
- 測試是否符合安全標準。
- 對部署層級與安全層級設定限制。
- 追蹤運算與能源使用，以確保可執行性。
提案明確指出，該機構應專注於降低生存風險，而非處理各國應自行管理的議題，例如內容審查政策（定義 AI 可說什麼）。
技術安全與公共監督
確保超級智慧的安全目前仍是未解的研究問題。OpenAI 與其他組織正投入大量資源，致力於解決此技術挑戰，使超級智慧安全可用。
除了技術安全之外，對強大系統的治理與部署決策必須納入強而有力的公共監督。OpenAI 主張以民主程序決定 AI 系統的界限與預設值，同時認為個別使用者應在這些既定界限內保有對 AI 行為的顯著控制權。
發展超級智慧的理由
OpenAI 列出持續開發此技術的兩大主要理由，儘管存在風險：
- 社會利益：此技術預期將帶來顯著的經濟成長、提升生活品質，並在教育、創意工作與個人生產力等領域提供複雜全球問題的解決方案。
- 不可避免性：OpenAI 主張，停止超級智慧的創造將是「直覺上風險高且困難」的。由於開發成本持續下降、參與者數量增加，以及當前的技術走向，若要阻止將需要全球監控體制，且仍可能失敗。因此，焦點必須放在正確地推動開發上。
Sources
- OriginalGovernance of superintelligence