OpenAI、ジャラペニョカスタム推論チップとフルスタック戦略を発表
TL;DR
OpenAIは、最初のカスタム推論チップであるジャラペニョを発表した。このチップは、公開されたInferenceXベンチマークにおいてGPT‑OSS 120Bを用いて、競合する商用システムよりも高いキロワットあたりのピークスループットと低いトークン遅延を達成した。また、データセンターのハードウェア、チップ、モデル、ソフトウェア、製品を密接に統合した包括的なコンピューティングスタックを説明し、パフォーマンス、効率性、経済的価値を強化した。
統合型コンピューティングスタック
OpenAIのコンピューティング戦略は、データセンターのハードウェア、カスタムチップ、フロンティアモデル、開発者プラットフォーム、消費者およびエンタープライズ製品、AIネイティブデバイスをカバーする単一で統合されたシステムとして提示されている。各レイヤーは互いに強化し合う設計になっている:より良いソフトウェアがハードウェアのパフォーマンスを引き出し、専用ハードウェアがモデルの推論を加速し、より高度なモデルが豊かな製品を可能にし、その結果として追加の使用信号が得られ、それがさらにシステムの改善を促進する。
ジャラペニョチップのパフォーマンス
- ベンチマーク結果:GPT‑OSS 120Bを用いた公開InferenceXベンチマークにおいて、ジャラペニョは比較対象の商用システムよりも高いキロワットあたりのピークスループットと低いトークン遅延を実現した。
- モデル間の堅牢性:DeepSeek R1やKimi K2でも高い性能を発揮しており、効率性の向上が特定のモデルファミリーに限定されていないことを示している。
- 戦略的影響:シリコンを自社で所有することで、OpenAIはモデルの実行と配信の経済性に対するより高いコントロールを獲得し、スループット、遅延、エネルギー効率、コストの同時改善が可能になった。
"ジャラペニョにより、私たちのモデルの実行方法と配信の経済性に対するコントロールをより強化できるようになった。" – OpenAI
広範囲優先、利点優先の設計
OpenAIは、フロンティアトレーニング、高ボリューム推論、常時稼働型エージェントといった多様なワークロード要件に対応できるポートフォリオの構築を強調している。それぞれのワークロードは、チップ、ソフトウェア、ネットワーキング、電力、遅延において異なるトレードオフを必要とする。同社は、複数のハードウェアおよびクラウドプロバイダー(Microsoft、NVIDIA、AWS、AMD、Broadcom、Cerebras、CoreWeave、Oracle、SB Energy、SoftBank)との関係を維持することで、選択肢を確保し、各ワークロードに最適なパフォーマンス/ドルのオプションを活用している。
- パレートフロンティアへの注力:能力、速度、信頼性、効率性、コストの最適な組み合わせを継続的に追求する。
- ハイブリッドアプローチ:原始的な能力が最も重要な場面ではプレミアムシステムを活用し、スケールとコストが支配的な場面では効率性を最適化する。
- 共同設計の利点:ハードウェアとソフトウェアの統合に対する直接的なコントロールにより、オフザシェルコンポーネントでは達成できないシステム全体のパフォーマンス向上が可能になる。
データセンターの利活用:プロジェクトカメリア
OpenAIは、ジョージア州のプロジェクトカメリアを、特定の顧客ワークロードに合わせてデータセンター施設を設計しつつ、地域社会への利益を提供する例として挙げている:
- 地域雇用の創出と地元企業の支援。
- インフラおよびエネルギー費用のカバー。
- クローズドループ水循環の実現。
- 年次独立公的監査による約束事の確認。
効率性を経済的価値に変換する
OpenAIは、コンピューティングユニットあたりに生み出される有用な知能の量でスタックの価値を測定している。主なメカニズムは以下の通りである:
- モデルの改善:より良いモデルは、より少ない試行回数で正しい答えに到達できる。
- ソフトウェアの最適化:よりスマートなルーティングとコンテキスト管理により、無駄な作業が削減される。
- 目的別ハードウェア:速度とエネルギー効率が向上する。
人工分析コーディングエージェントインデックスにおいて、GPT‑5.6 Sol(最大推論)は、主要な競合より54 %少ない出力トークンを使用しながら、新たな最高記録を達成した。これは、より速い結果、高い信頼性、より長いワークフロー完了、顧客にとっての総コスト低減につながった。
OpenAIは、ジェヴォンズ型の逆説に言及している:効率が向上するにつれて、経済的に実行可能なタスクが増加し、AIの消費が拡大し、新たな経済活動が生み出される。
複利的優位性
統合スタックはフィードバックループを生み出す:
- 生産性の向上によりコンピューティングコストが低下する。
- コスト削減により、より広範な顧客採用が可能になる。
- 収益成長により、さらなる研究、インフラ、安全投資が可能になる。
- 新たな進歩により、スタックのパフォーマンスが強化される。
OpenAIはこのサイクルを「複利的優位性」と位置づけ、各技術的進歩が次の進歩を促進し、全体のエコシステムを強化すると説明している。
意味
- 業界への影響:第一者による推論チップの登場は、主要AIプロバイダー間でのハードウェア・ソフトウェアの共同設計が強化される兆しを示している。
- 競争動向:カスタムシリコンの開発と多様なハードウェアポートフォリオの維持により、OpenAIは、ワークロードごとに能力とコストの両方を最適化する柔軟性を獲得している。
- 経済的影響:効率の向上により、企業が高度なAIを採用する障壁が低下し、業界全体でAI駆動の生産性向上が加速する可能性がある。
- 安全とガバナンス:発表では詳細が述べられていないが、統合的な安全研究への注力は、パフォーマンス向上と並行して責任ある展開への継続的な投資を示唆している。
総じて、OpenAIがジャラペニョとフルスタック戦略を発表したことは、AIコンピューティングスタック全体をコントロールする戦略的動きであり、パフォーマンス、コスト、経済的インパクトにおける複利的利点を推進していることを示している。
Sources
関連
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch