OpenAI 十週年反思

OpenAI 已經從一個小型研究團隊轉變為人工智慧領域的全球領導者，使其使命變得更貼近確保人工通用智能 (AGI) 惠及全人類。該組織在過去十年中，透過技術發現、擴展運算能力以及實施迭代部署策略，將 AI 融入社會。

關鍵技術里程碑

OpenAI 朝向 AGI 的進展建基於 2017 年達成的幾項基礎成果，該組織之後以巨大的運算能力將其擴展：

• 強化學習規模： Dota 1v1 的結果展示了將強化學習推向新規模的能力。
• 語義學習： 無監督情緒神經元的發現表明語言模型能學習語義而不僅是語法。
• 人類價值對齊： 基於人類偏好的強化學習早期結果提供了一條初步的路徑，使 AI 與人類價值對齊。
• 安全與穩健： 該組織開創了使 AI 在實際應用中變得安全且穩健的技術工作，這一焦點仍是其開發 DNA 的核心。

擴展與全球整合

在這些基礎成果之後，OpenAI 將這些技術進行擴展，導致三年前推出 ChatGPT 以及隨後發布 GPT-4。這些發布使公眾對 AGI 的看法從理論概念轉變為可觸及的可能性。

由於該技術以空前的規模和速度融入世界，OpenAI 必須快速從研究實驗室轉型為能夠執行複雜營運決策的大型公司。

迭代部署策略

為確保 AI 對世界的貢獻最大化，OpenAI 採納了迭代部署策略。該方法涉及向公眾發布技術的早期版本，使社會與技術能共同演進，讓人們能形成對 AI 能力與限制的直覺。儘管在提出時曾具爭議，此策略如今已成為行業標準。

未來展望與超智能

OpenAI 報告指出，目前的 AI 能力已經在最艱難的智力競賽中超越最聰明的人類。展望未來，該組織對其研究與產品路線圖抱持高度樂觀。

"在十年後，我認為我們幾乎肯定能建造超智能。"

儘管日常生活可能仍然專注於人際互動，OpenAI 預期到 2035 年，人類將能夠執行目前無法想像的任務。