OpenAIのJalapeño Chipが、より高速な推論でNvidiaに挑戦

• Jalapeñoは公開テストにおいて、Nvidia GB300を応答速度とワットあたりのAI処理量で上回りました。
• 700ワットのプロセッサはモデルのトレーニングではなく、AI推論を対象としています。
• OpenAIは今年中に導入を予定しており、第2世代・第3世代の開発も進めています。

OpenAIは2026年末までにOpenAI JalapeñoチップをAIインフラ全体に展開する計画です。公開テストでは、この推論プロセッサがNvidiaのGB300に対してワットあたりの処理量や応答速度で優れた結果を示しました。OpenAIのチップ責任者Richard Ho氏によると、この設計は高いスループットと低レイテンシを両立しています。これらの結果はあくまで推論に関するもので、モデルのトレーニングには適用されません。

OpenAI Jalapeñoチップ、推論テスト2項目でGB300を上回る

OpenAI Jalapeñoチップは700ワットで動作します。この消費電力レベルは、データセンターの電力、冷却、および配電コスト削減を可能にします。Ho氏によれば、このプロセッサを使用することで、より多くのユーザーに低コストでサービスを提供し、レイテンシの要求が高いワークロードでもより迅速な応答が可能です。

OpenAIはこのハードウェアを、小型のオープンソースモデルやDeepSeekおよびMoonshot AIのサードパーティーモデルでテストしました。MoonshotのKimiは、テストされた中で最大規模のパブリックワークロードであり、最も大きな成果が見られました。同社によれば、社内テストではまだ未公開のOpenAIモデルも検証しています。

それでも、Jalapeñoは出荷が始まったNvidiaの新しいVera Rubinプラットフォームとは比較されていません。SemiAnalysisは、JalapeñoがHBM4メモリを使用しているため、GB300との比較は不完全だと指摘しています。NvidiaのRubinもHBM4を採用しており、より技術的に近い比較対象となります。

どのモデルをこのプロセッサで稼働させるかはOpenAIが決定します。顧客はコスト削減または高速化を狙ったオプションを選択できるようになります。Ho氏は、このアプローチによりモデル需要の増加に合わせて応答時間とサービスの可用性が向上すると述べています。

BroadcomとのパートナーシップでカスタムAI推論チップを推進

OpenAI Jalapeñoチップは、大手テクノロジー企業向けにカスタムシリコンを提供するBroadcomと共同開発されました。OpenAIは、独自のAIモデルが設計プロセスの加速に貢献したとしています。第2世代はテープアウト間近で、エンジニアはすでに第3世代の設計コンセプトにも着手しています。

Ho氏によれば、Jalapeñoは一部の低レイテンシ特化型システムよりも大規模なモデルの処理が可能です。しかしOpenAIは今後もCerebrasなど他の計算資源プロバイダーを活用し続ける見通しです。サービス全体の需要が一つのチッププログラムで賄える規模を超えているためです。

OpenAI Jalapeñoチップは推論ユニットのコスト削減が期待できますが、最先端モデルのトレーニングはできません。Nvidiaはトレーニングや幅広いプログラミング、CUDAサポートで重要な存在であり続けます。Ho氏はNvidiaは重要なパートナーだと述べ、OpenAIは今後も同社のハードウェア購入を継続する計画です。