OpenAI Jalapeño 芯片：大型语言模型如何将设计时间缩短至 20 个月

TL;DR – 发生了什么以及为何重要

OpenAI 在不到 20 个月的时间内设计了其首款 AI 加速芯片 Jalapeño，通过将自身的大规模语言模型（LLMs）嵌入前端设计流程，将 RTL（寄存器传输级）到流片的时间缩短至九个月，并实现了相比 Nvidia GB300 芯片 3.6 倍的延迟降低。这一成果表明，由 LLM 驱动的自动化能够显著缩短硬件开发周期，预示着未来 AI 芯片创新将更快、更便宜。

1. 创纪录的快速设计周期

关键要点： Jalapeño 从首个架构草图到首款硅片的交付时间不足 20 个月，RTL 代码到流片的时间仅为九个月。

  • 项目于 2026 年 8 月 25 日正式启动，OpenAI 首次公布了该芯片。
  • 架构概念 → 硅片：< 20 个月。
  • RTL → 流片：9 个月。
  • 硬件团队在整个过程中平均仅投入 < 100 名工程师，规模与典型 ASIC 团队相当，远小于传统 AI 芯片项目。

"这些模型为我们的工程师赋予了超能力。他们可以探索更多路径，并以快得多的速度完成任务，" – Richard Ho，OpenAI 硬件副总裁。

2. 分工协作 – OpenAI 与 Broadcom

关键要点： OpenAI 负责系统级架构、内存层次结构和推理加速器设计，而 Broadcom 负责物理实现。

  • OpenAI 的职责：端到端系统设计、加速器微架构、HBM4 堆栈集成和网络设计。
  • Broadcom 的职责：门级物理设计、版图设计以及向晶圆厂的移交。
  • 专家指出，Broadcom 的专长至关重要；如果没有一个能“从零开始”的合作伙伴，这一时间表将不现实。

"如果你让别人从零开始，那是不可能实现的，" – David Chin，Verkor.io 联合创始人。

3. LLM 如何加速前端工作流

关键要点： OpenAI 利用 LLM 实现高层次综合、RTL 生成和快速软件栈调优，将以代码为中心的任务转变为 AI 辅助的迭代过程。

  1. 使用 XLS 进行高层次综合 – 工程师编写 DSLX 或 C++，XLS 编译为 Verilog。LLM 在类似软件的代码方面表现优异，因此这是天然契合的场景。
  2. LLM 驱动的 RTL 生成 – 项目后期，内部模型（GPT‑6 Astra 的前身）可直接生成 Verilog，绕过 XLS。
  3. 硅片后的软件优化 – 首款硅片于 2026 年 5 月抵达后，内部 AI 模型对基准内核进行了调优。在 DeepSeek 的多头潜在注意力内核上，性能从 0.31 % 提升至 88.94 % 的理论峰值，耗时约 40 小时。
  4. 迭代式设计探索 – LLM 生成替代的微架构变体，使工程师能在数小时内评估大量设计点，而非数周。

"AI 在处理类似软件的任务上表现得更好。XLS 在某种程度上看起来像软件，因此它获得了这一优势，" – Chris Leary，OpenAI 技术团队成员。

4. 后端设计 – AI 的作用较弱

关键要点： 物理设计（布线、时钟树综合、功耗分析）仍主要由人工完成，交由 Broadcom 执行，尽管 OpenAI 提供了版图规划指导。

  • OpenAI 工程师与 Broadcom 协作，提供版图和布线建议。
  • 在 Hot Chips 2026 上，OpenAI 报告称，矩阵乘法单元的面积相比人工优化基准减少了 10 %，归功于 AI 引导的布局。
  • 未来版本计划将 LLM 更深入地嵌入验证和物理设计流程；当前工作流被描述为“传统”方式，与计划中的下一代流程相比。

"我们正试图尽可能快地推进……在创新与沿用历史有效方法之间存在权衡，" – Chris Leary。

5. Jalapeño 的性能亮点

关键要点： Jalapeño 提供 13.4 PFLOPS 的 4 位计算能力，配备 232 GB 的 HBM4 内存和 15.4 TB/s 的内存带宽，在功耗更低的前提下，端到端推理延迟相比 Nvidia GB300 最多降低 3.6 倍。

  • OpenAI 引用的基准测试显示，各类 LLM 工作负载的延迟均有显著降低。
  • 该芯片采用六个 HBM4 堆栈和一个 I/O 小芯片封装，目标是用于大规模推理集群（每集群 2048 个芯片）。
  • 随着芯片在 OpenAI 推理集群中规模扩大，实际延迟提升仍有待验证。

6. 专家与社区反响

关键要点： 行业认为该时间线“目前处于顶尖水平”，但随着 LLM 能力成熟，预计未来周期将更短。

  • Andrew Kahng，UC 圣地亚哥分校："目前很可能处于顶尖水平。2016 年的 Design Automation Futures 研讨会已暗示迭代速度是主要瓶颈。"
  • Ankur Srivastava，马里兰大学："LLM 与以往自动化不同，因为它们理解语言和代码，因此适合仍处于语言领域内的任务。"
  • Verkor 联合创始人（David Chin, Ravi Krishna）：认可时间表的可信度，但强调 Broadcom 的作用，并预计随着新模型的出现将进一步加速。
  • Hacker News 评论 反映出复杂情绪：
    • pama："在 40 小时内从 0.31 % 提升到 88.94 % 的性能提升令人印象深刻，可能大幅缩短启动周期。"
    • muchdoubt："标题是噱头；AI 只帮助了软件，没有参与核心芯片设计。"
    • gozucito："递归自我改进的感觉现在更可信了；20 个月的芯片周期虽快，但仍受限于物理制造。"
    • delusional："AI 无法真正发明新芯片，它只是更快地复述已有想法。"

7. 展望 – 下一代可能的模样

关键要点： OpenAI 计划在其第二代加速器中将 AI 深度嵌入验证、物理设计和自动波形分析，目标是实现更短的周期和更高的硅片效率。

  • 验证 AI：自动化波形操作，以精确定位时钟域故障。
  • 物理设计 AI：预期在当前矩阵单元 10 % 减少的基础上，实现更大的面积和功耗收益。
  • 模型集成：内部微调的 LLM（未公开发布）将把经验反馈至商业模型如 GPT‑6 Astra。
  • 行业影响：如果 LLM 驱动的设计成为主流，小型团队也能制造出具有竞争力的 AI 芯片，降低进入门槛，可能重塑 AI 硬件供应链。

8. 总结

OpenAI 的 Jalapeño 芯片展示了 LLM 增强设计可将整个 ASIC 流程压缩至两年以内，在保持工程团队少于 100 人的前提下，交付高性能 AI 加速器。该方法验证了语言模型推理可替代芯片设计中许多重复性、以代码为中心的任务，为半导体行业树立了新的“快速流片”标杆，未来几年该标杆将被广泛追赶。

Sources

相关