OpenAI 宣布推出 Jalapeño 定製推理晶片與完整堆疊策略

簡要重點

OpenAI 宣布推出 Jalapeño，這是其首款定製推理晶片，在 InferenceX 基準測試中，於 GPT‑OSS 120B 上的每千瓦峰值吞吐量更高，且 token 延遲更低，優於比較中的商業系統，並描述了一套整合式的運算堆疊，將資料中心硬體、晶片、模型、軟體與產品緊密結合，以提升效能、效率與經濟價值。

整合式運算堆疊

OpenAI 的運算策略被呈現為一個單一、整合的系統，涵蓋資料中心硬體、定製晶片、前沿模型、開發者平台、消費者與企業產品，以及 AI 原生裝置。每一層皆設計為相互強化：更優秀的軟體能從硬體中榨取更多效能，專用硬體加速模型推理，而更強大的模型則能催生更豐富的產品，產生額外的使用訊號，進而引導系統進一步優化。

Jalapeño 晶片效能

基準測試結果：在公開的 InferenceX 基準測試中，使用 GPT‑OSS 120B，Jalapeño 的每千瓦峰值吞吐量高於比較中的商業系統，且 token 延遲更低。
跨模型穩健性：該晶片在 DeepSeek R1 與 Kimi K2 上也表現出色，顯示其效率提升並非僅限於單一模型家族。
戰略影響：擁有晶片自主權使 OpenAI 對模型執行與服務經濟擁有更大控制力，能同時提升吞吐量、延遲、能源效率與成本效益。

"Jalapeño 讓我們對模型執行方式，以及服務經濟擁有更大的控制權。" – OpenAI

廣度優先、優勢導向設計

OpenAI 強調建立一個能應對多樣工作負載需求的組合——前沿訓練、高頻率推理與持續運作的代理——每種需求在晶片、軟體、網路、電力與延遲之間都有不同的權衡。公司與多個硬體與雲端供應商（Microsoft、NVIDIA、AWS、AMD、Broadcom、Cerebras、CoreWeave、Oracle、SB Energy、SoftBank）維持合作關係，以保留選擇空間，並針對每種工作負載採用表現每美元最佳的方案。

帕累托前緣導向：持續尋求能力、速度、可靠性、效率與成本之間的最佳組合。
混合式方法：在原始能力至關重要的場合使用頂級系統，而在規模與成本主導的場景則優化效率。
共同設計優勢：對硬體與軟體整合的直接控制，創造出僅靠現成元件無法達成的系統級優勢。

資料中心優勢：Project Camellia 計畫

OpenAI 以位於喬治亞的 Project Camellia 為例，說明如何根據特定客戶工作負載設計資料中心設施，同時帶來社區效益：

創造就業機會並支援當地企業。
覆蓋基礎設施與能源成本。
封閉循環水資源保存。
每年進行獨立的公開審計，以確保承諾落實。

將效率轉化為經濟價值

OpenAI 以每運算單元產生的有用智慧量來衡量其堆疊的價值。關鍵機制包括：

模型改進：更優秀的模型能以更少嘗試獲得正確答案。
軟體優化：更聰明的路由與內容管理可減少浪費的工作。
專用硬體：提升速度與能源效率。

在 Artificial Analysis Coding Agent Index 上，GPT‑5.6 Sol 搭配最大推理能力，達成新高紀錄，同時輸出 token 數比主要競爭對手減少 54 %，轉化為更快的結果、更高的可靠性、更長的工作流程完成度，以及更低的客戶總成本。

OpenAI 指出一種類似 Jevons 的悖論：隨著效率提升，更多任務變得經濟可行，擴大 AI 使用量，並催生新的經濟活動。

複利優勢

整合式堆疊創造出一個反饋迴圈：

生產力提升 降低運算成本。
成本節省 促進更廣泛的客戶採用。
收入成長 支援進一步的研究、基礎設施與安全投資。
新進展 強化堆疊的效能。

OpenAI 將此循環稱為其「複利優勢」，其中每一項技術進步都推動下一個進步，強化整個生態系統。

意義與影響

產業影響：首款自研推理晶片標誌著頂尖 AI 提供商正朝向更緊密的硬體-軟體共同設計轉變。
競爭動態：在維持多元硬體組合的同時開發自研晶片，使 OpenAI 能在各類工作負載中靈活優化能力與成本。
經濟效應：效率提升可能降低企業採用先進 AI 的門檻，可能加速各產業的 AI 驅動生產力提升。
安全與治理：儘管公告中未詳述，但強調整合式安全研究，暗示將持續投資於負責任的部署，與效能提升並行。

總體而言，OpenAI 宣布 Jalapeño 及其完整堆疊策略，凸顯其戰略性行動，旨在掌控整個 AI 運算堆疊，推動效能、成本與經濟影響的複利增長。