Sam Altman 关于规模、AGI 与前沿系统的未来

AI 时代的新创业手册

人工智能从根本上改变了创办公司的经济学。Sam Altman 认为，创始人现在只需在代币上进行战略性支出，就能实现过去需要上百人工程团队才能完成的工作。这一转变让早期创业公司能够拥有以前不可能实现的雄心、速度和并行执行能力。

Altman 指出，虽然许多创始人都在寻找显而易见的问题，但最重要的机会往往是非显而易见的市场——可能是数万亿美元规模的行业——而目前只有少数公司在追逐这些机会。他强调，当前的自动化编码时代使得追求这些非显而易见的、大规模机会成为可能。

规模的经验力量

规模不仅是数量的增加，更是一种产生新特性的质的转变。Altman 的核心信念基于经验观察：将系统推向前所未有的规模，往往会产生远超共识预期的回报。

规模作为系统设计属性

• 新出现的特性： Altman 以 Y Combinator 为例，指出每批公司数量的增加产生了在小规模时不存在的网络效应。
• 回报预测： 他认为，当一个系统在小规模下表现有趣时，即使专家预测回报会递减，推动其到大规模往往也是一个有价值的赌注。
• 系统挑战： 扩展会带来不可预测的故障。将这些故障拆解为可管理的工程、资本和文化问题，是前沿 AI 开发的主要系统挑战。

案例研究：ChatGPT 与 Codex

ChatGPT 与 Codex 的发展展示了从研究驱动的发现到产品驱动的规模化的转变。

ChatGPT：从研究演示到全球产品

OpenAI 最初难以为 GPT-3 找到消费级产品，最终以 API 形式发布，让开发者自行发现使用场景。虽然 API 起初吸引力有限，但开发者开始用它来聊天。遵循 Y Combinator “看用户喜欢什么”的原则，OpenAI 围绕 GPT-3.5 构建了聊天机器人。

ChatGPT 作为研究演示发布，以鼓励 API 使用，但它迅速走红。Altman 描述了一个“好紧急情况”，即流量在五天内以不可预测的波动激增，标志着必然的成功。这迫使 OpenAI 在高压的扩展阶段同时构建公司和产品。

Codex 与走向代理的路径

Codex 的开发基于这样一种信念：编码是 AI 控制计算机的主要方式，而机器人技术是控制物理世界的方式。通过将智能与编写代码的能力结合，AI 可以从被动的信息提供者转变为能够在现实世界执行任务的主动代理。Altman 指出，Codex 在 5.5 版时达到了一个重要的拐点。

AI 架构与工具的未来

流水线重写

目前，AI 能力是通过预训练、 中训练、后训练以及强化学习（RL）等流水线开发的。Altman 预计这条流水线将进行根本性的重写。他预测到 2028 年 3 月，AI 将能够充当完整的端到端研究者，设计出超越人类设计流水线的全新架构。

智能作为公共设施

Altman 将智能比作新兴的公共设施，类似于电力。他指出，早期的电力公司并不出售“电力”——这个概念既可怕又抽象——而是出售“夜间的灯光”。他认为 OpenAI 必须找到类似的、具体的价值主张，使通用智能作为公共设施的概念对公众可读。

系统性风险与全球分叉点

Altman 确定了未来 AI 的几个关键“分叉”或决策点：

民主化 vs. 集中化

AI 能力集中在少数公司手中的风险极大，Altman 将其视为一种危险的吸引子状态。他估计技术民主化的概率为 80%，但警告说，追求权力的个人和安全论点可能被用来为集中化辩护。他认为民主化对对齐和全球代理至关重要。

计算短缺危机

Altman 提出计算短缺正处于实时危机中。他认为只要 AI 继续进步，需求就会结构性地超过供给。他将推理基础设施视为堆栈中最被低估的投资领域，呼吁开发者专注于让智能变得廉价且充足。

经济再分配

随着杠杆从劳动转向资本，Altman 认为传统的经济模型可能失效。他主张采用“公民财富基金”模式，而不是固定的每月现金分红（UBI），让个人拥有驱动 AI 经济的资本/公司的所有权份额。

摘要

OpenAI CEO Sam Altman 讨论了规模的经验力量、ChatGPT 与 Codex 的演进，以及 AI 时代计算短缺和权力集中带来的系统性风险。

标题

Sam Altman 关于规模、AGI 与前沿系统的未来