OpenAI AI 进展与建议

OpenAI 已宣布一条 AI 进展的路线图，预测系统将从执行短期任务转变为在 2026 年和 2028 年进行自主科学发现。这一轨迹凸显了当前消费者将 AI 用作聊天机器人与系统解决复杂智力问题的实际能力之间日益扩大的差距。

AI 能力轨迹与经济影响

AI 能力正在快速发展，特别是在软件工程领域，系统已经从完成人类几秒钟能完成的任务发展到需要超过一小时的任务。OpenAI 预计系统很快将能够处理需要人类几天或几周工作的任务，同时指出处理需要人类几个世纪工作的任务的能力目前仍是一个未定义的前沿。

关键指标和里程碑包括：

• 智能成本： 每单位智能的成本在过去几年中每年估计下降了 40 倍。
• 2026 年预测： AI 预计将能够进行"非常小的发现。"
• 2028 年预测： OpenAI 对系统能够进行"更重大发现"充满信心。

虽然 OpenAI 预计由于社会惯性，日常生活将感觉保持不变，但它承认经济转型可能会很困难，并且基本的社会经济契约可能需要改变以适应一个广泛丰盛的世界。

超智能系统的安全与对齐

OpenAI 将超智能系统相关的风险视为潜在的灾难性。该组织主张，没有强大的对齐和控制，不应部署任何超智能系统，这需要进一步的技术工作。

为了降低这些风险，OpenAI 建议：

• 共享安全原则： 前沿实验室应就共享安全原则达成一致，并交换研究、关于新风险的经验教训以及减少竞争动态的机制。
• 控制评估： 建议建立 AI 控制评估的行业标准作为必要步骤。
• 经验研究： 利用安全与对齐的经验研究来指导全球决策，包括随着系统逼近递归自改进，该领域是否应放缓发展。

监管框架与治理

OpenAI 确定了关于 AI 发展的两种主要思想流派，并为每种流派提出了不同的治理方法：

场景 1: AI 作为 "普通技术"

在此情景中，AI 的发展类似于以前的技术革命（例如印刷机或互联网）。治理应侧重于：

• 促进创新： 使用传统的公共政策工具。
• 隐私和滥用： 与联邦政府合作，保护对话隐私并防御恶意行为者的滥用。
• 当前水平的最小监管： OpenAI 主张，当前能力水平的 AI 应该广泛普及，且额外的监管负担应尽量小，具体而言，应避免出现"50 州补丁法律"。

场景 2: 快速超智能

在此情景中，超智能以前所未有的速度发展和扩散。治理需要：

• 执行协调： 与多个国家的行政部门和安全研究所密切合作。
• 有针对性的缓解： 特别关注防止 AI 在生物恐怖主义中的应用以及管理自改进 AI 的影响。
• 问责： 通过潜在的非传统方法，对公共机构保持问责。

AI 弹性生态系统

OpenAI 提议创建一个类似于网络安全领域的“AI 弹性生态系统”。正如网络安全通过建立加密协议、监控系统和应急响应团队使互联网变得值得信赖，AI 也需要一个类似的软件和标准生态系统。OpenAI 建议国家政府应使用产业政策来鼓励该生态系统的发展。

个人赋能与获取

OpenAI 将高级 AI 视为未来的基础公用事业，可比拟于电力、清洁水或食物。该组织主张广泛提供这些工具，以在广泛的社会范围内使用时赋能个人实现其目标。