OpenAI 十周年反思

OpenAI 已从一个小型研究集体转变为人工智能领域的全球领导者，使其使命——确保通用人工智能（AGI）惠及全人类——更进一步。该组织在过去十年的技术发现、算力扩展以及实施迭代部署策略以将 AI 融入社会的过程中不断演进。

关键技术里程碑

OpenAI 向 AGI 的进展建立在 2017 年取得的几项基础成果之上，该组织后来凭借巨大的算力将这些成果规模化：

• 强化学习规模： Dota 1v1 的结果展示了将强化学习推向新规模水平的能力。
• 语义学习： 无监督情感神经元的发现表明，语言模型能够学习语义而不仅仅是语法。
• 人类价值对齐： 基于人类偏好的强化学习早期结果为使 AI 与人类价值观对齐提供了初步路径。
• 安全与鲁棒性： 该组织开创了使 AI 在实际中安全且鲁棒的技术工作，这一焦点仍是其发展 DNA 的核心。

规模化与全球集成

在这些基础性胜利之后，OpenAI 将这些技术规模化，从而推出了三年前的 ChatGPT 以及随后的 GPT-4 发布。这些发布使公众对 AGI 的看法从理论概念转变为可触及的可能性。

因为该技术以前所未有的规模和速度融入世界，OpenAI 必须快速从研究实验室转型为能够执行复杂运营决策的大型公司。

迭代部署策略

为了确保 AI 对世界的利益最大化，OpenAI 采用了迭代部署策略。该方法涉及向公众发布技术的早期版本，使社会和技术能够共同演进，让人们形成对 AI 能力和局限性的直觉。尽管该策略在提出时颇具争议，但此后它已成为行业标准。

未来展望与超智能

OpenAI 报告称，当前的 AI 能力已经在最艰难的智力竞赛中超越了最聪明的人类。展望未来，该组织对其研究和产品路线图持高度乐观态度。

"在十年后，我相信我们几乎可以肯定会构建超智能。"

尽管日常生活可能仍然集中在人际互动上，OpenAI 预计到 2035 年，人类将能够完成目前难以想象的任务。