OpenAI 應用 AI 研究：對 AGI、安全性與持續學習的觀點

AGI 與達到人類水平生產力的路徑

人工通用智慧（AGI）被定義為能在大多數具經濟價值的工作上超越人類的 AI。AGI 的實現預計將帶來三大社會效益：全面自動化重複且非創新的任務以提升生產力、透過增強的資料分析與決策支援加速科學突破，以及開發能安全且高效與實體世界互動的 AI。

雖然擴大模型規模與資料是目前進展的關鍵驅動因素，但僅靠擴大規模並不足以實現 AGI。當前最緊迫的挑戰是對齊與安全性，核心在於能有效傳達目標並確保模型可被導向與控制。

AI 安全與偏見緩解的進展

確保大型預訓練語言模型的安全部署需要積極緩解人類生成訓練資料中存在的缺陷與偏見。由於模型會吸收現實世界的統計與社會偏見——例如 DALL·E 在「護士」一詞只產生女性角色，或在「教授」一詞只產生白人——因此需要專門的安全管線。

OpenAI 的應用 AI 研究團隊已實施多項關鍵安全措施：

• 內容評估： 設計評估資料與任務，以判斷預訓練模型是否產生仇恨、性暗示或暴力內容。
• 內容審核： 建立詳細的分類法與分類器，以偵測不當內容並說明該內容不適當的具體原因。
• 輸出導向： 開發技術以降低模型產生不安全輸出的可能性。
• 偏見減少管線： 實施減少社會偏見的管線，並結合人類在迴路中的評估工作流程。

機器人與強化學習的技術里程碑

結合大量領域隨機化的深度強化學習（RL）能讓機器人在不需要真實世界訓練資料的情況下執行複雜的實體任務。此方法的一個主要範例是成功訓練出單一類人機械手掌解魔方的案例，該專案需要在模擬、RL 訓練、視覺感知與硬體韌體之間緊密整合。

持續學習與跨領域啟發的角色

持續學習與跨領域觀念的融合被視為擴大 AI 研究潛在解決方案空間的關鍵。此方法以多種方式呈現：

• 跨領域學習： 從深度學習以外的領域汲取靈感，例如作家的堅持、外科醫師的細節導向，以及擁有「瘋狂想法」的創業心態。
• 知識文件化： 透過公開部落格整理學習筆記，並透過教導他人來確保知識已被掌握。
• 協作團隊合作： 優先排除「阻礙」並承擔必要的任務，不論其被視為多麼不顯眼，以最大化整體團隊生產力。