OpenAI 宣布推出 Jalapeño 定制推理芯片与全栈策略
概要
OpenAI 宣布推出其首款定制推理芯片 Jalapeño,该芯片在 InferenceX 基准测试中,每千瓦的峰值吞吐量更高,且令牌延迟更低,优于对比的商用系统,并阐述了一套完整的计算堆栈,将数据中心硬件、芯片、模型、软件和产品紧密耦合,以提升性能、效率和经济价值。
集成计算堆栈
OpenAI 的计算策略被呈现为一个单一、集成的系统,涵盖数据中心硬件、定制芯片、前沿模型、开发者平台、消费者与企业产品以及原生 AI 设备。每一层都旨在强化其他层:更优的软件可从硬件中提取更多性能,专用硬件可加速模型推理,而更强大的模型则能推动更丰富的产品发展,产生额外的使用信号,反过来指导系统的进一步优化。
Jalapeño 芯片性能
- 基准测试结果:在使用 GPT‑OSS 120B 的公开 InferenceX 基准测试中,Jalapeño 的每千瓦峰值吞吐量高于对比的商用系统,且令牌延迟更低。
- 跨模型鲁棒性:该芯片在 DeepSeek R1 和 Kimi K2 上也表现出色,表明其效率优势并非局限于单一模型家族。
- 战略影响:拥有自有硅片使 OpenAI 能更全面地掌控模型执行与服务经济,实现吞吐量、延迟、能效和成本的同步优化。
"Jalapeño 让我们对模型运行方式以及服务经济有了更大的掌控力。" – OpenAI
广度优先、优势优先的设计
OpenAI 强调构建一个能应对多样化工作负载需求的组合——前沿训练、高吞吐推理和持续运行的智能体——每种需求在芯片、软件、网络、功耗和延迟之间都有不同的权衡。公司与多家硬件和云服务提供商(Microsoft、NVIDIA、AWS、AMD、Broadcom、Cerebras、CoreWeave、Oracle、SB Energy、SoftBank)保持合作关系,以保留选择权,并为每种工作负载采用性价比最高的方案。
- 帕累托前沿聚焦:持续寻找能力、速度、可靠性、效率与成本之间的最佳平衡组合。
- 混合方法:在原始能力至关重要的场景使用高端系统,而在规模与成本主导的场景则优化效率。
- 协同设计优势:对软硬件集成的直接控制带来了系统级收益,这是仅靠现成组件无法实现的。
数据中心优势:Camellia 项目
OpenAI 以位于佐治亚州的 Camellia 项目为例,展示了如何围绕特定客户工作负载设计数据中心设施,同时带来社区效益:
- 创造就业机会并支持本地企业。
- 覆盖基础设施与能源成本。
- 实现闭环水循环利用。
- 每年进行独立的公开审计,确保承诺兑现。
将效率转化为经济价值
OpenAI 通过每计算单元产生的有用智能量来衡量其堆栈的价值。关键机制包括:
- 模型优化:更优的模型能以更少的尝试得出正确答案。
- 软件优化:更智能的路由与上下文管理减少了无效工作。
- 专用硬件:提升速度与能效。
在 Artificial Analysis Coding Agent Index 上,GPT‑5.6 Sol 以最大推理能力实现新高,同时输出令牌数量比领先竞争对手减少 54 %,从而带来更快的结果、更高的可靠性、更长的工作流完成率以及更低的客户总成本。
OpenAI 指出一种类似杰文斯悖论的现象:随着效率提升,更多任务变得经济可行,从而扩大 AI 使用范围,催生新的经济活动。
复利优势
集成堆栈创造了反馈循环:
- 生产率提升 降低计算成本。
- 成本节约 推动更广泛的客户采纳。
- 收入增长 为后续研究、基础设施与安全投入提供资金。
- 新进展 进一步强化堆栈性能。
OpenAI 将这一循环称为其“复利优势”,即每一次技术进步都推动下一次进步,从而强化整个生态系统。
意义
- 行业影响:首款自研推理芯片标志着领先 AI 提供商正转向更紧密的软硬件协同设计。
- 竞争动态:在保持多样化硬件组合的同时开发定制硅片,使 OpenAI 能够在不同工作负载中兼顾能力与成本的优化。
- 经济效应:效率提升可能降低企业采用先进 AI 的门槛,有望加速各行业 AI 驱动的生产率增长。
- 安全与治理:尽管公告中未详述,但对集成安全研究的重视表明,其在追求性能的同时,仍将持续投入负责任的部署。
总体而言,OpenAI 宣布 Jalapeño 及其全栈策略,凸显了其控制整个 AI 计算堆栈的战略意图,推动性能、成本与经济影响的复利增长。
Sources
相关
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch