OpenAIは2026年8月25日、初の自社開発推論チップ「Jalapeño」の初の計測結果を公開した。公開ベンチマーク「InferenceX」で、GPT-OSS 120B・DeepSeek R1・Kimi K2.5 1Tの3モデルにおいて、比較対象の商用システムに対しピーク時1ワットあたり1.5〜1.9倍の処理量と、1.7〜3.6倍低いエンドツーエンドのレイテンシを示したと同社は主張する。本記事は、この数字が何を意味するのかを、同社の公開資料から読み解く。

OpenAIは2026年8月25日、エンジニアリングブログで自社初のカスタム推論チップ「Jalapeño」の性能計測結果を初めて公開した（OpenAI Engineering Blog）。翌日には、このチップを含むコンピュート戦略の全体像を説明する記事「The full stack behind abundant intelligence」も公開している（OpenAI)。以下、断りのない限り数値はすべてOpenAI自身の発表値であり、独立機関による検証結果ではない点に注意されたい。

チップ単位ではなく「ワットあたり」で示された性能

OpenAIが今回の計測で用いたのは、SemiAnalysisが公開するベンチマーク「InferenceX」だ。これはAIリクエストのサービング処理全体を測定するもので、OpenAIは「性能はチップ単位ではなく消費電力あたりで評価すべきだ」という立場をとっている。

発表によれば、GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tという3つの公開モデルにおいて、Jalapeñoは比較対象の商用システムに対して、ピークスループット時でワットあたり1.5〜1.9倍のAI処理量を達成し、エンドツーエンドのレイテンシは1.7〜3.6倍低かった。特に対話的なワークロードでは2.1〜4.1倍の性能を示したとされる。最大のテストモデルだったKimi K2.5 1Tでは、ワットあたりピーク性能が約1.5倍、レイテンシが3.4倍低いとしている。

注目すべきは、スループットとレイテンシを同時に改善した点だ。既存のハードウェアではこの2つはトレードオフになることが多く、片方を立てるともう片方が犠牲になりがちだった。OpenAIは「1つのアーキテクチャで両立した」と主張している。なお、チップの定格は700ワットだが、テストしたワークロードでは実効消費電力は550ワット以下に収まっていたという。

推論のフェーズごとのボトルネックに合わせた設計

言語モデルの推論は複数のフェーズで構成され、ボトルネックが異なる。プロンプトを処理する「prefill」は計算集約的、トークンを逐次生成する「decode」はメモリ帯域に制約される。さらにコア間やチップ間のデータ移動がレイテンシを加算し、待機中の処理ユニットが遊ぶこともある。

Jalapeñoの設計思想は、このデータ移動と通信遅延を最小化することだという。レスポンス生成中のKVキャッシュなどのモデル状態を明示的にローカルに配置し、推論フェーズごとに計算・メモリ・ネットワークの適切な組み合わせを activate する。ネットワーク自体がアーキテクチャの一部であり、ワークロード全体を1つの接続システム内に収めることでデータ移動を減らす。その結果、prefillとdecodeの両方に対応でき、バランスが変化するエージェンティックなワークロードにも追随できる「バランスの取れたアクセラレータ」になったと同社は説明する。

AIがチップを設計し、チップがAIにプログラムされる

この発表で興味深いのは、開発プロセスそのものにもAIを組み込んだ点だ。OpenAIによれば、初期設計からテープアウト（マスク作成）まで9か月だったとされ、AIが実装の探索や検証ループの短縮に寄与したという。また演算回路の最適化にもAIを用い、スケジュール内により多くの計算性能を収めたとしている。

プログラミング面でも、エンジニアはローカルテンソル・明示的な通信・予測可能な同期でワークを記述し、AIがそのマッピングやスケジューリングを最適化する構造だ。実際、元の生産計画に含まれていなかった3つのオープンウェイトモデルを、CodexとGPT-Astraを使って2か月で高性能化したとされる。さらに、GPT-OSSの一部のattentionブロックとMoEブロックでは、AIが生成した実装が人間の専門家による実装より1.5〜1.8倍高速だったと報告されている。ただし同社自身も「これはモデル全体ではなく選択されたブロックの数値だ」と限定しており、解釈には幅がある。

主張として読むべき数字と、検証のこれから

これらの数値はすべてOpenAIによる自己申告であり、「comparison systems（比較対象システム）」が具体的にどの商用システムかは公開資料では明示されていない。ベンチマークのInferenceXは公開されたものであり、正規化には各アクセラレータの公称チップ消費電力を用いたとされるが、独立した第三者検証はまだ公表されていない。

一方、この発表の位置づけは明確だ。OpenAIはJalapeñoを「マルチジェネレーションのプラットフォームの始まり」と位置づけ、すでに次世代の開発を進行中としている。同社のコンピュートポートフォリオはMicrosoft・NVIDIAに加え、AWS、AMD、Broadcom、Cerebras、CoreWeave、Oracleなど多岐にわたり、自社シリコンはその中の「ファーストパーティの選択肢」を増やすものだ。モデル・サービングソフト・チップ・メモリ・ネットワークを協調設計するフルスタック戦略が、推論コストの低減という形でどこまで実証されるか。今後の独立検証と、次世代チップの実測値を見る必要がある。