Sam Altman 的 UN 安全理事會人工智慧治理發言
精要摘要
Sam Altman 向聯合國安全理事會發言，強調人工智慧必須保持在強有力的人類監督之下，並透過協調一致的國際標準進行治理，以防止權力集中或失去控制。
發言的重要性
這番言論標誌著 OpenAI 對民主化、以人類為中心的人工智慧發展的公開承諾，並呼籲全球機構建立可執行的安全與監督框架。
核心訊息：對強大系統的人類控制
- 人類主體性不可妥協 – Altman 強調，人工智慧應輔助而非取代人類判斷與價值觀。
- 失控風險 – 他警告，遞歸自我改進可能快過制度介入的能力，因此無論機率估算如何，任何災難性風險都不可接受。
- 權力集中危機 – 允許單一實體（無論是公司、國家或個人）掌握最先進模型，可能導致將單一世界觀強加於全球人口。
"這些層級都遠非可接受。我們不應該訓練那些無法極度強力證明我們能保持人類控制的模型。" – Sam Altman
OpenAI 提出的三大指導原則
- 以人為本的決策 – 對齊工作必須確保系統始終處於人類控制之下，並反映廣泛共享的人類價值。
- 惠及所有人 – 人工智慧應加速科學發現、改善醫療、教育與經濟生產力，而非取代人類主體性。
- 個人賦能 – 該技術必須擴展個人自由與社區問題解決能力，OpenAI 自視為促成者，而非英雄。
展現的能力作為潛力證據
- 數學突破 – OpenAI 的模型在短短幾年內從小學數學進步到解決千禧年獎問題（納維爾-斯托克斯方程），展現能力成長之迅速。
- 應用相關性 – 解決納維爾-斯托克斯方程對飛機設計、天氣預報與醫學研究有重大影響，凸顯人工智慧如何推動現實世界的進步。
呼籲國際合作
- 標準制定 – Altman 建議建立補充性的國家與國際標準，用以衡量人工智慧能力、評估風險並驗證防護措施。
- 事件通報 – 他倡議建立快速、準確的分類與通報程序，以便在災難發生前分享失敗經驗。
- 安全通訊渠道 – 需建立政府、關鍵基礎設施運營商與技術專家之間的專用連結，以交換漏洞資訊。
- 中立標準 – 任何框架都應避免鎖定既有業者或偏袒特定商業模式，支持開源與閉源開發者並行。
"若人工智慧要實現民主化，最重要的決策不能僅由舊金山實驗室單獨決定。這些決策必須透過民主程序形成，並由對其所服務人民負責的政府來塑造。" – Sam Altman
Altman 描述的十字路口
- 負面路徑 – 權力集中、決策不透明，以及強加於人的技術。
- 正面路徑 – 民主監督、提升生活的科學進步、廣泛參與與增強個人主體性。
Altman 結論指出，後者才是 OpenAI 努力協助打造的未來。
對政策制定者與人工智慧社群的意義
- 緊迫性 – 人工智慧時程的急速壓縮要求立即採取政策行動，而非被動反應。
- 合作精神 – OpenAI 表示願意與政府及專家合作，邀請更佳想法與共同解決問題。
- 責任的基準 – 此發言為其他人工智慧實驗室設立公開基準，促使其陳述安全承諾，並採用透明、以人類為中心的開發做法。
本文綜合了 OpenAI 於 2026 年 9 月 23 日發表的 Sam Altman 向聯合國安全理事會所作發言全文。