OpenAI自社チップが1.9倍｜NVIDIA最上位超え

公開日:

SHARE

伊東雄歩
監修者 伊東 雄歩

株式会社ウォーカー CEO。東北大学卒。MENSA会員、JDLA認定講師、健全AI教育協会理事。生成AI×教育・学習科学を専門とし、2億円超のシステム開発プロジェクトを統括。

taolis.net X note Voicy YouTube
  • OpenAIが自社設計した推論専用チップ「Jalapeño（ハラペーニョ）」の実測ベンチマークが初公開されました
  • 消費電力700WのJalapeñoが、1400WのNVIDIA最上位システムに電力あたり1.5〜1.9倍の性能で勝ちました
  • 応答の待ち時間は最大で3.6分の1。反応の速さを競う用途では最大4.1倍の差がつきました
  • 設計から量産まで、わずか9か月。設計作業そのものにAIが使われています
  • ただし「比較相手が1年前の製品」など、専門家からは慎重な見方も出ています

ChatGPTの返事が返ってくるまで、数秒待たされたことはありませんか。その「待ち時間」と「電気代」を同時に減らすために、OpenAIは自分でチップを作り始めました。2026年8月25日、その実力を示す初めての数字が公開されました。結果は、700WのチップがNVIDIAの1400Wの最上位機に勝つ、というものでした。

Jalapeñoとは？OpenAIが自分で作った「推論専用」チップ

Jalapeño（ハラペーニョ）は、OpenAIが半導体大手のBroadcom（ブロードコム）と一緒に設計したAI用のチップです。製造はTSMC（台湾の世界最大手の半導体工場）が担当しています。

いちばんの特徴は、「推論」だけに特化していることです。

AIの仕事は大きく2つに分かれます。ひとつは学習（トレーニング）。大量の文章を読ませて、AIを賢く育てる作業です。もうひとつが推論（インファレンス）。育ったAIに実際に質問して、答えを返してもらう作業です。

私たちがChatGPTを使うとき、動いているのは全部この「推論」のほうです。

今やAI用コンピューター資源の約3分の2が、この推論に使われていると言われています。学習は一度やれば終わりですが、推論は世界中のユーザーが使うたびに毎回発生するからです。

なぜ「専用」にすると強いのか

NVIDIAのGPUは、学習も推論も画像処理もこなせる万能選手です。どんな仕事でもそこそこ速い。

一方のJalapeñoは、推論しかできません。そのかわり、推論に必要のない回路をすべて削ぎ落としています。

包丁にたとえると、GPUは何でも切れる万能包丁、Jalapeñoは刺身専用の柳刃包丁です。刺身を引くことだけを考えれば、専用の刃のほうが速く、きれいに切れます。

この考え方は「ASIC（エーシック／特定の用途だけに絞って作った専用チップ）」と呼ばれ、半導体業界では昔からある手法です。

初公開されたベンチマーク｜700Wが1400Wに勝った

今回公開されたのは、半導体調査会社SemiAnalysis（セミアナリシス）が運営する「InferenceX」という測定基準での結果です。第三者のものさしを使った点がポイントになります。

比較相手は、NVIDIAの現行最上位ラックシステムGB200 NVL72とGB300 NVL72でした。

3つの数字で見る結果

  • 電力あたりの処理量：1.5〜1.9倍（同じ電気で1.5〜1.9倍の仕事ができる）
  • 応答の待ち時間：1.7〜3.6分の1（質問してから答えが返るまでが短い）
  • 反応速度を最優先した条件：2.1〜4.1倍（対話やエージェント用途で差が広がる）

テストに使われたのは、GPT-OSS 120B、DeepSeek R1（670B）、そしてMoonshot AIの1兆パラメータモデルKimi K2.5の3つです。いずれも誰でも中身を確認できる公開モデルなので、検証しやすくなっています。

電力の差が効いている

ここで効いてくるのが消費電力です。

Jalapeñoの定格消費電力は700W。テスト中に実際に流れ続けた電力は、550W以下に収まったと報告されています。

対するNVIDIA GB200は1200W、GB300は1400Wです。つまりJalapeñoは、半分の電気で相手を上回ったことになります。

データセンターの運営者にとって、これは電気代がそのまま半分になる話ではありません。ですが「同じ電力契約でこれまでの1.5〜1.9倍のユーザーをさばける」ことを意味します。電力の枠が足りずにサーバーを増やせない事業者にとっては、大きな意味を持ちます。

なぜ勝てたのか｜設計の中身と「9か月」の衝撃

データを動かさない設計

OpenAIのハードウェア責任者リチャード・ホー氏は「Jalapeñoは同じ電力でより多くのAIの仕事をこなし、同時により速く答えを返せる」と述べています。

その鍵になっているのが、データの移動を極力減らすという設計思想です。

AIチップの中では、計算そのものよりも「計算に必要なデータを取りに行く時間」のほうが長くなりがちです。

とくにAIが会話の流れを覚えておくための一時的な記憶領域（KVキャッシュ）は、やり取りが長くなるほど巨大になります。ここの扱いをチップの設計段階から作り込んだ、というのがOpenAIの説明です。

スペックも公表されています。1ラックに128個のチップを載せ、4ビット精度で1.7エクサFLOPS。チップ1個あたりのメモリは最新のHBM4を216GB搭載し、メモリ帯域は毎秒15.4TBに達します。ラック全体では27.5TBのメモリを積む計算です。

AIがAIチップを設計した

もうひとつ驚かれているのが、開発スピードです。

構想から量産設計の完成まで、わずか9か月。半導体の新規設計は通常2〜3年かかると言われる世界です。

これを可能にしたのが、OpenAI自身のAIモデルでした。設計候補の分析、検証用スクリプトの自動生成、回路の最適化などにAIを投入したと説明されています。

AIを速く動かすためのチップを、AIが設計した。この循環が現実に回り始めた、という点が業界で注目されています。

NVIDIAは終わるのか｜専門家が指摘する3つの注意点

数字だけ見ると圧勝ですが、専門メディアからは冷静な指摘も出ています。ここは押さえておきたいところです。

注意点1：比較相手が「今の最新」ではない

GB200とGB300は2024年から2025年にかけての製品です。NVIDIAは次世代の「Rubin（ルービン）」を控えています。

次世代同士で比べたとき、差がどこまで残るかはまだ誰にもわかりません。

注意点2：テスト条件から一部の高速化技術が外されている

今回の測定では、投機的デコーディング（先に答えの候補を予測して処理を前倒しする高速化の工夫）を使っていません。

条件をそろえて比べるためには合理的な判断です。ただし実際のサービスではこの技術が使われることも多く、現場での差は縮まる可能性があります。

注意点3：融通の利かなさは弱点でもある

専用チップの強みは、そのまま弱みになります。

新しいモデル構造が流行したとき、GPUならソフトを書き換えれば対応できます。専用チップでは、設計そのものが合わなくなるリスクがあります。

NVIDIAが長年かけて築いたCUDA（GPUを動かすためのソフト基盤）という資産も健在です。OpenAI自身、学習用にはNVIDIAとAMDのチップを引き続き使うと明言しています。

Jalapeñoは「NVIDIAを置き換えるもの」ではなく、「推論だけを切り出して自前化するもの」と捉えるのが正確です。

他社の自社チップと比べてどうか

自社チップを作っているのはOpenAIだけではありません。むしろ後発です。

  • Google TPU（第7世代・Ironwood）：約10年の歴史があり、2026年の推定稼働数は約90万台。この分野の最古参です
  • AWS Trainium3：FP8で2.52ペタFLOPS、HBM3eを144GB搭載。約60万台。AnthropicやOpenAIの処理にも使われています
  • Microsoft Maia 200：TSMCの3nmプロセス製、HBM3eを216GB搭載。約25万台
  • Meta MTIA：2年間で4世代を投入。1700WのRISC-Vスーパーチップで30ペタFLOPS。約18万台

2026年のカスタムチップ稼働台数は、合計で約190万台と見積もられています。この市場は年率44.6%で伸びる見通しです。

ただし重要な違いがあります。これらのチップは、どれも外販されません。GoogleでもAmazonでもMicrosoftでもMetaでもない企業にとっては、事実上「存在しないチップ」です。

Jalapeñoも同じです。私たちが買えるわけではなく、ChatGPTやAPIの裏側で静かに動くだけです。

日本のユーザー・企業への影響

「アメリカのチップの話でしょう」と思うかもしれません。ですが、日本にこそ効いてくる要素があります。

1. API料金の値下げ余地が生まれる

OpenAIは、Jalapeñoによって1トークンあたりの推論コストを約50%削減することを目標に掲げています。

AIを業務に組み込んでいる日本企業にとって、API料金は円建てで支払う変動費です。円安が続く状況では、ドル建て価格の引き下げは為替の逆風を打ち消す効果があります。

月に50万円のAPI費用を払っている企業なら、コスト構造が変われば十数万円規模の差になる可能性があります。

2. 「待たされないAI」が現実になる

遅延が3.6分の1になるインパクトは、料金より大きいかもしれません。

あるコールセンターで、オペレーターの隣にAIが座っている場面を想像してみてください。お客様の質問に対して、AIが回答候補を出すまで3秒かかると会話が止まります。1秒を切れば、会話の流れに乗ったまま使えます。

この「3秒か1秒か」の差が、AIを導入できるかどうかの分かれ目になっている現場は少なくありません。

音声対話、リアルタイム翻訳、そして自律的に作業を進めるAIエージェント。いずれも遅延がボトルネックだった分野です。

3. 電力単価が高い日本で意味を持つ

日本は電気料金が高く、データセンター向けの電力確保も年々厳しくなっています。

国内のクラウド事業者やAI基盤を運営する企業にとって、「電力あたりの性能」は最重要の指標です。Jalapeño自体は国内で買えませんが、専用チップという流れが加速すれば、NVIDIAへの需要集中がやわらぐ可能性があります。

GPU価格の高騰に悩む国内事業者にとっては、間接的な追い風になり得ます。

4. 日本の半導体産業への波及

Jalapeñoの製造はTSMCが担い、HBM4という最先端メモリを大量に使います。

メモリや製造装置、材料の分野には日本企業が数多く関わっています。専用チップの量産が本格化すれば、この裾野に需要が回ってくる構図です。

よくある質問（FAQ）

Q1. Jalapeñoはいつから実際に使われるのですか？

2026年末に少量の導入が始まり、2027年にかけて本格的に台数を増やす計画です。データセンターでのフル稼働は2028年前半が見込まれています。私たちがChatGPTを使うとき、いつの間にか裏側で動いているという形になります。

Q2. なぜ「ハラペーニョ」という名前なのですか？

OpenAIから公式な由来の説明は出ていません。唐辛子の一種の名前で、「小さくても辛い（強い）」というイメージと重なります。実際、700Wという小さな電力で1400Wの相手に勝った点は、名前の印象どおりの結果になりました。

Q3. NVIDIAの株価や事業に打撃はありますか？

短期的には限定的と見られています。OpenAIは学習用にNVIDIAのGPUを買い続けると表明しており、Jalapeñoは推論の一部を置き換えるものだからです。ただし推論がAI計算の3分の2を占める以上、中長期では無視できない変化と言われています。

Q4. 日本の企業がJalapeñoを買うことはできますか？

できません。GoogleのTPUやAmazonのTrainiumと同じく、自社のデータセンター専用です。日本のユーザーが恩恵を受けるとすれば、ChatGPTやAPIの「料金」と「速さ」を通じてになります。

Q5. 個人ユーザーにも違いはわかりますか？

体感できる可能性は高いです。とくに音声モードやリアルタイム翻訳のように、応答の速さがそのまま使い勝手に直結する機能では違いが出やすくなります。文章生成の速度向上も期待できます。

まとめ

  • OpenAIとBroadcomが開発した推論専用チップ「Jalapeño」の初ベンチマークが2026年8月25日に公開されました
  • 700WのJalapeñoが、1400WのNVIDIA GB300などに対し電力あたり1.5〜1.9倍、遅延は最大3.6分の1という結果を示しました
  • 1ラック128チップで1.7エクサFLOPS、HBM4を216GB搭載。設計から量産までわずか9か月で、設計作業にAIが使われています
  • 一方で「比較相手が1年前の製品」「投機的デコーディングを除外」など、専門家からは慎重な指摘も出ています
  • Google、AWS、Microsoft、Metaもすでに自社チップを持ち、2026年の稼働数は合計約190万台と推定されます
  • 日本にとっては、API料金の値下げ余地、リアルタイム用途の解禁、電力制約の緩和という3つの形で影響が及びます

まずは自社で使っているAI APIの月額コストと平均応答時間を記録しておきましょう。2027年にこの数字がどう動くかで、専用チップ時代の恩恵を正確に測れます。

参考文献

前の記事

最上位AIが11%止まり｜半額モデルに逆転

次の記事

画像AI39種を同じ命令で比較｜1枚6円