短短9个月，OpenAI自研ASIC芯片已超越英伟达Blackwell？

原文作者：董静

原文来源：华尔街见闻

OpenAI初の自社開発チップ「Jalapeño」が登場し、驚異的な速さでAIチップ業界の既存勢力図を覆した――これは単なる製品発表ではなく、AIがチップそのものの設計方法を変えつつあるというシグナルだ。

华尔街见闻の記事によると、ブルームバーグの8月25日報道で、OpenAIはJalapeñoが単位電力あたりの処理可能なAIワークロードと応答速度という2つの重要指標で、いずれもNVIDIA GB300を上回ったと発表した。このチップはOpenAIとBroadcomが共同開発し、AI推論段階に特化して設計されており、早ければ今年後半にも実用化される見込み。OpenAIのチップ責任者であるRichard Ho氏は、Jalapeñoが700ワットの低消費電力で強力なパフォーマンスを実現し、データセンターの電力コストを大幅に削減できると述べている。

半導体調査機関SemiAnalysisの開示によると、このチップは設計開始からテープアウト完了までわずか約16ヶ月しかかからず、その中で重要なCoWoSパッケージングのテープアウトノードは2025年11月に完了し、それからわずか9ヶ月しか経っていない。業界で一般的な18ヶ月から36ヶ月のサイクルを大幅に下回る。

SemiAnalysisの研究者は実際にOpenAIのラボを訪れ、自社開発のベンチマークテストスイート「InferenceX」を用いてJalapeñoを実測した。結論は明確だ：このチップはワットあたりの性能（perf/W）指標で、これまでテストしたすべてのNVIDIA、AMD、Googleのチップを上回った。

さらに注目すべきは、この結果がJalapeñoが投機的デコードをまだ有効化しておらず、プリフィルとデコードの分離デプロイといった最適化も行っていない状況で達成されたことだ。一方、比較対象となった他社チップはそれぞれ最適な構成で稼働していた。

著名な半導体アナリストであるDylan Patel氏でさえ、「打ち負かされたのはBlackwellだけではない。NVIDIAのRubinチップも凌駕された」と率直に語るほどだ。

分析によれば、この結果はNVIDIAの市場での地位に直接的な挑戦を突きつけるものであり、市場にAIチップの競争構図を再考させるものとなっている。

実測データ：Jalapeñoは複数の重要指標でBlackwellを圧倒

SemiAnalysisのテスト結果によると、Jalapeñoの推論効率における優位性は極めて顕著だ。

GPT-OSS 120Bモデルでは、Jalapeñoは毎秒約1459トークンを出力できるのに対し、NVIDIA GB200はわずか535トークン。エンドツーエンドのレイテンシーでは、Jalapeñoが1つのタスクを完了するのにわずか1.65秒しかかからない一方、GB300は約6秒を要し、その差は3.6倍に達する。高インタラクションシナリオでは、GB300が最速のデコード速度（毎秒169トークン）に達した場合、Jalapeñoのスループットはその104.3倍となる。

データセンターのエネルギー効率を測る中核指標である、毎メガワット・毎秒あたりの出力トークン数において、JalapeñoはGPT-OSSモデルで約5300万トークン/MW/sを達成し、GB200 NVL72はわずか約1000万トークンだった。

SemiAnalysisは、この指標は本質的に1ジュールあたりに生成されるトークン数と同等であり、データセンターの収益上限を直接決定づけると指摘。電力が演算能力を制約する現在、この次元での優位性は特に重要だ。

システムレベルのコストに関して、SemiAnalysisが電力供給、冷却、ネットワークをすべて計算に含めたところ、Jalapeñoのチップあたり・毎時の総所有コスト（TCO）は約1.56ドルで、H100の1.55ドルとほぼ同等。一方、NVIDIA Vera Rubinは3.61ドルに達する。

注目すべきは、SemiAnalysisが同時にいくつかの重要な留保事項を提示している点だ。

第一に、テストに使用されたモデルは現時点で最先端のモデルではない。NVIDIAとAMDはより大規模なモデル（DeepSeek V4 Pro、Kimi K3など）で、AgentXスイートに基づく成績を発表済みだが、JalapeñoはまだAgentXテストを完了していない――このスイートはマルチターンや長文脈など、実際の本番環境での性能をよりよく反映するものだ。

第二に、より公平な比較対象は、同じくHBM4を採用するNVIDIA Vera Rubinであり、Blackwellではない。Vera Rubinのワットあたりの性能はGB200 NVL72比で約5.4倍向上しており、Jalapeñoと比較した場合、両者はトークンあたりの総所有コスト（TCO）でほぼ同等となる。

第三に、Jalapeñoは現在まだエンジニアリングサンプル段階にあり、量産は2027年まで徐々に立ち上がらない見込みだ。

AIによるチップ設計：GPT-AstraとCodexの「フライホイール効果」

Jalapeñoがこれほど驚異的な速さで開発を完了できた理由の一つに、AIツールの深い関与がある。SemiAnalysisの開示によると、OpenAIはチップ設計プロセスで社内のAIモデルを多用しており、その中には外部から広く注目されているGPT-Astraも含まれる。

ソーシャルプラットフォームXのユーザーであるAndrew Curran氏がOpenAIの情報を引用して指摘したところによると、GPT-AstraはJalapeñoの研究開発プロセス全体に深く関与した：

「チームはCodexとGPT-Astraを活用し、2ヶ月間で、元々Jalapeñoの量産計画には含まれていなかった3つのオープンソースモデルを高性能状態にまでチューニングした。」

これは、AIがチップ設計自体を加速しているだけでなく、チップがサポートできるモデルの範囲も急速に拡大していることを意味する。

SemiAnalysisのデータは、この貢献をさらに定量化している：

AI支援設計により、SIMDユニットの面積は8%、マトリックスエンジンの面積は10%削減され、同時にタイミングと消費電力の性能も初期バージョンを上回った。

ソフトウェアレベルでは、OpenAIは社内拡張版のCodexを使用してJalapeñoのカーネルを記述しており、一部のカーネルコードは約3000行に及ぶ。最も性能が重視されるアテンションメカニズムとMoEモジュールでは、AIが生成したコードは人間のトップエンジニアの実装より1.5倍から1.8倍高速だった。

SemiAnalysisの評価はかなり鋭い：NVIDIAのGPU上で稼働するOpenAIモデル（GPT-5.6 Solなど）が、CUDAの堀に現実的な脅威をもたらすチップを設計するために使われている――「NVIDIA自身のGPUが、リアルタイムで自社の潜在的後継者を生み出している」。

アーキテクチャ分析：「汎用」なのに、なぜ速いのか？

外界は一般的に、JalapeñoがOpenAI自身のモデル向けに深くカスタマイズされたチップだと想定していたが、SemiAnalysisの結論は正反対だ：JalapeñoはAI推論向けの汎用チップであり、さまざまなモデルやワークロードを実行できる。Codexで移植された『DOOM』ゲームさえも動かせる。

アーキテクチャレベルでは、Jalapeñoの中心的な設計思想は「固定遅延の排除」だ。GPUが複雑なメモリ階層に依存するのとは異なり、Jalapeñoは計算コアとHBMスライスを直接結合し、コア間は専用の高帯域幅コレクティブネットワークで同期することで、メモリアクセス遅延を大幅に低減している。

さらに、Jalapeñoはアウト・オブ・オーダー実行（OoO）コアとL1キャッシュを採用しており、他のアクセラレータで一般的に使われるソフトウェア管理のスクラッチパッドメモリではない。これにより、小バッチ・低遅延のシナリオでハードウェアの理論上のピーク性能に近づくことができる。

メモリ帯域幅に関しては、JalapeñoはHBM4を採用し、シングルパッケージで15.4TB/sのメモリ帯域幅を実現。ワットあたりのHBM帯域幅は22で、NVIDIA Rubinは11.1、GB300はわずか5.71だ。

SemiAnalysisは、JalapeñoのHBM4ピン速度は10Gbpsで、NVIDIA Rubinの9.6Gbpsをわずかに上回っており、HBMサプライヤーはSamsungの可能性が高いと指摘する。

特筆すべきは、Jalapeñoがプリフィルとデコードの分離デプロイ（PDD）をあえて採用しなかった点だ。SemiAnalysisはこれについて詳細な説明を行っている：

実際の本番環境では、入力と出力の比率、同時実行数、キャッシュヒット率などのパラメータが常に変化するため、固定分割プールでは全体の利用率が低下する。一方、同種のリソースプールはトラフィックの変化に柔軟に対応でき、遅延センシティブなリクエストと高スループットのバッチ処理の間で動的にリソースを配分できる。

CUDAの堀：ひび割れが生じたか？

SemiAnalysisはレポートの中で、かなり重みのある判断を提示した：CUDAの堀はもはや死んでいるかもしれない、と。

その根拠はソフトウェアの立ち上がり速度の比較にある。NVIDIA RubinのCoWoSテープアウトはJalapeñoより1ヶ月早く完了したが、今のところ外部に見えるRubinの公開ベンチマークデータはCoreWeaveのエンジニアリングサンプルからのみだ。NVIDIAはOpenAIのように第三者をラボに招き入れて自由にテストさせることはしていない。SemiAnalysisは、これはハードウェア自体の差ではなく、ソフトウェアの成熟度の差を反映していると考える。

ゼロからソフトウェアスタックを構築したことで、OpenAIは逆に歴史的な負荷から解放され、よりクリーンなアーキテクチャ上の決定を下すことができた。OpenAIは自社開発のカーネルプログラミング言語「Gluon」（Tritonベース）と、社内推論エンジン「Teacup」を使用し、Codexを活用してカーネルチューニングを迅速に完了した。SemiAnalysisは、2週間足らずの間に、Jalapeñoは特定のインタラクション速度でのスループットを2倍以上向上させた。8日間で、チームはテンソル並列をTP8からTP32に拡張し、クロスラック・全ラック規模のデプロイを実現した。

ただし、SemiAnalysisは現在のテストが8k1kという比較的単純なワークロードのみを対象としており、AgentXのマルチターン・長文脈テストはまだ完了していないと明確に指摘している。より複雑なエージェントワークロードでは、ルーターやプレフィックスキャッシュなどのコンポーネントの性能が新たな試練となるだろう。

次のステップ：B0はすでにファブへ、10GWの構想が広がる

Jalapeñoの物語はまだ終わっていない。

SemiAnalysisの開示によると、現在公開テストで使用されているのはすべてA0ステッピングのサンプルであり、B0ステッピングはすでにファブに投入されている。ワットあたりの性能はA0比でさらに約25%向上する見込み――B0の単一コンピュートダイのMXFP4演算性能は13.4 PFLOPsに達し、TDPは700Wを維持する。

システムレベルでは、OpenAIはCelesticaと協力して完全なラックソリューションを設計した：各ASICラックには128個のJalapeñoチップが搭載され、デュアルラックシステムの総消費電力は約160kWで、NVIDIA GB300デュアルワイドラックと同等だ。

大規模デプロイに関しては、単一の拡張ネットワークドメインは最大2048個のJalapeño XPUを接続でき、16ラックをカバーする。量産については、SemiAnalysisは2027年から徐々に立ち上がると予想しており、次のマイルストーン目標は100MWのデプロイ規模だ。

さらに大きな戦略構想として、OpenAIとBroadcomは10GWのカスタム