OpenAI 关于 AGI 分发与发展的战略计划

OpenAI 已宣布一项战略计划，以确保通用人工智能（AGI）惠及全人类，通过优先考虑 AI 能力的广泛分配和访问。公司旨在防止少数实体的权力集中，而是培育一个有韧性的生态系统，其中 AI 赋能个人追求自己的目标。

三个主要战略目标

• 构建自动化 AI 研究员：OpenAI 意图开发一个能够加速和自动化研究过程的 AI 系统。公司相信，到 2028 年 3 月，其研究的相当一部分可能由与人类研究者协同工作的 AI 系统完成。这被视为在对齐问题上取得进展的关键要求。
• 加速经济：目标是推动科学进步、生产力和经济增长，同时确保由此产生的经济收益在社会中广泛共享。
• 提供个人 AGI：OpenAI 旨在让地球上的每个人都拥有个人 AGI，以赋能个人以他们选择的任何方式使用该技术。

OpenAI 的第三阶段

公司描述其目前正在经历的演变的 "第三阶段"：

1. 第一阶段：专注于通往 AGI 的基础研究。
2. 第二阶段：转型为产品公司，将系统部署到真实世界并从用户互动中学习，以确保安全和对齐。
3. 第三阶段：专注于让先进 AI 丰富、经济实惠、安全且易于获取。当前的优先事项是将前沿能力转化为使个人和组织能够繁荣发展的实用工具。

人类能动性与判断的角色

OpenAI 表示，所有任务的完全自动化并不是理想的未来。相反，AI 旨在补充人类能力。公司强调，随着 AI 系统变得更加强大，人类在设定方向、进行权衡、应用判断以及将价值观和责任带入工作中的作用变得更加关键。人类的长期角色将是决定 "什么值得做"。

全球协调与安全

为了降低灾难性风险并管理商业和国家竞争的激励，OpenAI 倡导创建一个国际组织来协调领先的 AI 工作。该组织将制定共享的安全标准，并且可能协调诸如在必要时放慢前沿发展之类的行动，以使社会韧性、安全和对齐能够跟上步伐。

AI 弹性与权力分配

OpenAI 将 "AI 弹性" 定义为社会必须实施的集体系统、组织和个人，以预见和从 AI 驱动的中断中恢复。公司认为，集中权力会导致脆弱，而广泛共享的权力则使社会更具韧性和适应性。因此，公司认为访问、隐私、可负担性和公共监督是成功的 AI 未来的基本组成部分。