- 企業の83%が、高価なGPUを「半分も使えていない」と回答したこと
- 本番でAIを大規模に動かせている企業は、たった21%しかない現実
- GPUを買う速さに、コスト把握が追いついていない「AIコンピュートギャップ」の正体
- なぜ使わないGPUを手放せないのか、その意外な理由
- 日本の企業やユーザーが、電力問題も含めて何に気をつけるべきか
「AIのためにGPU（AI計算に使う超高速な半導体）を大量に買ったのに、思ったほど使えていない」。そんな企業が、今とても増えています。ある調査では、なんと83%の企業が「GPUを半分も動かせていない」と答えました。買う速さにコスト把握が追いつかない現象は「AIコンピュートギャップ」と呼ばれます。この記事では、その正体と日本への影響をやさしく解説します。
何が起きたのか｜83%が「GPUを使い切れない」
米メディアのVentureBeatが、2026年6月に企業向けの調査を行いました。
対象は従業員100人を超える企業107社です。中堅企業が中心で、AI導入の判断ができる立場の人が多く回答しました。
その結果が衝撃的でした。自社でGPUを持つ企業の83%が、使用率50%以下と答えたのです。
使用率とは、買った計算パワーのうち実際に働いている割合のことです。50%以下ということは、半分以上が「遊んでいる」状態を意味します。
さらに深刻なのは稼働の中身です。AIを本番で大規模に動かせている企業は、わずか21%でした。多くの企業は、まだ試験段階にとどまっています。
つまり「投資は先に走り、成果はまだ追いついていない」というのが実態なのです。
「AIコンピュートギャップ」とは何か
調査が指摘した一番の問題は、お金の流れが「見えていない」ことです。
AI計算にかかるコストを、きちんと数字で追えている企業は44%だけでした。残りの多くは「部分的にしか把握できない」「まだ数字にできない」と答えています。
買う量は増えているのに、いくらかかっているかが分からない。この「投資の速さ」と「把握の遅さ」のズレが、AIコンピュートギャップの正体です。
家計に置きかえると分かりやすいかもしれません。高い車を何台も買ったのに、月にどれだけガソリン代がかかっているか誰も計算していない。そんな状態が、今の多くの企業で起きているのです。
なぜ使わないGPUを手放せないのか
「使わないなら手放せばいいのでは？」と思ったことはありませんか。ところが、そう簡単ではありません。
多くの企業は、GPUを3〜5年の長期契約で借りたり買ったりしています。会計の世界では、この費用を数年かけて分割して計上します。これを減価償却（げんかしょうきゃく）と呼びます。
一度契約してしまうと、使っても使わなくても、毎月の費用は変わりません。いわば「固定費」になってしまうのです。
背景には、少し前まで続いた「GPUの奪い合い」があります。品薄になる不安から、多くの企業が必要以上に確保しました。この「乗り遅れたくない」という心理が、遊ぶGPUを生み出したのです。
実際の監査では、平均使用率がわずか5%まで落ちていた例も報告されています。100の力のうち5しか使っていない計算です。
4,010億ドルの投資に潜む無駄
この無駄は、業界全体で見るととても大きな金額になります。
調査会社ガートナーは、AIインフラへの新規支出が今年だけで4,010億ドル（約60兆円）増えると見込んでいます。
ある専門家は「半導体に1ドル使うと、そのうち95セントはクラウド事業者への寄付のようなものだ」と表現しました。それほど多くのお金が、使われないまま消えているという指摘です。
もちろん、これは「AIへの投資が間違い」という話ではありません。問題は、使ったお金の中身が見えていないこと。まず「今いくら無駄になっているか」を知ることが、最初の一歩になります。
従来のクラウド利用と何が違う？対策の選択肢
では、企業はどう手を打とうとしているのでしょうか。主な選択肢を整理します。
- 専用AIクラウドへの移行：AI計算に特化したサービスに乗り換える動き。調査では45%の企業が今後の検討対象に挙げました
- クラスタ最適化ツール：Cast AIなどが提供する仕組みで、遊んでいる計算資源を自動でまとめ、無駄を減らします
- GPUの再販・貸し出し：使わない時間帯のGPUを他社に貸す「仲介」サービスも登場しています
従来のクラウド利用は「必要な分だけ、使った分だけ払う」のが基本でした。しかしGPUは品薄だったため、多くの企業が「先にまとめて確保する」方式を選びました。ここが従来との大きな違いです。
実際、64%の企業が「1年以内にインフラ事業者を乗り換えるか、追加する」と回答しています。38%は「3カ月以内に動く」とまで答えました。これは、土台となる設備としては異例の高さです。
ちなみに、こうした乗り換えラッシュ自体が新たなコストを生む可能性もあります。焦って動く前に、まず現状のコストを見える化することが大切だと専門家は指摘しています。
日本の企業・ユーザーへの影響
この話は、海外だけの問題ではありません。日本にも深く関わってきます。
海外の大手IT企業は、日本にも次々とAI用のデータセンターを建てています。たとえばMicrosoftは、2026年からの4年間で日本に100億ドル（約1.6兆円）を投資すると発表しました。
ここで日本ならではの問題になるのが「電力」です。日本のデータセンターの電力消費は、2024年の19TWh（テラワット時）から、2034年には66TWhへと3倍以上に増えると予測されています。
東京では、新しい電力の接続に5〜10年かかるとも言われています。GPUが遊んでいる状態は、貴重な電力を無駄に使うことにもつながります。
企業の担当者にとっては、他人事ではありません。ある中小企業が「まわりが導入したから」とGPUをまとめて契約したものの、社内で使いこなせず費用だけがかさむ。そんなケースは、日本でも十分に起こり得ます。
大切なのは、流行に乗って一気に買うのではなく、「今の自社に本当に必要な量」から始めることです。使った分のコストを毎月確認する習慣も欠かせません。
よくある質問（FAQ）
Q1. GPU使用率が低いと、具体的に何が困るのですか？
A. 使っていなくても費用は発生し続けます。つまり、成果を生まないお金を毎月払い続けることになります。ライバル企業に対して、コスト競争で不利になる恐れがあります。
Q2. なぜ企業はコストを把握できていないのですか？
A. AIの計算費用は、使う量やモデルによって細かく変わります。仕組みが複雑で、専門の管理ツールを入れないと正確に測れないためです。調査では56%の企業が、十分に測れていないと答えました。
Q3. 個人ユーザーには関係のない話ですか？
A. 間接的に関係します。企業のインフラコストが上がると、AIサービスの利用料金に跳ね返る可能性があります。無駄が減れば、私たちが使うサービスも安くなりやすくなります。
Q4. 日本企業はどう備えればよいですか？
A. まず小さく始めて、使った分のコストを毎月きちんと測ることです。必要になってから増やす方が、遊ぶGPUを抱えるリスクを減らせます。
まとめ
今回のポイントを振り返ります。
- 企業の83%が、GPUを半分も使い切れていない
- AIを本番で大規模に動かせているのは、わずか21%
- コストを正確に把握できている企業は44%だけ
- 長期契約による「固定費化」が、遊ぶGPUを生んでいる
- 日本では電力制約もあり、無駄な稼働は特に避けたい
AI投資で本当に大事なのは、買う量ではなく「使った分をきちんと見える化すること」です。まずは自社のAIコストが今いくらかかっているか、確認するところから始めてみてはいかがでしょうか。
参考文献
- The AI compute gap: Enterprises are buying infrastructure faster than they can measure what it costs（VentureBeat）
- Wall Street is debating the AI buildout. Enterprises just answered（VentureBeat）
- 5% GPU utilization: The $401 billion AI infrastructure problem（VentureBeat）
- Why 95% of enterprise GPUs sit idle while AI startups can’t get compute（TechRadar）
- Japan’s AI Data Center Boom Collides with Power Crisis（Introl）
こんな時代だから遊んで学びたい
AIを学ぶオンラインサロン「AIフレンズ」では、生成AIを楽しく、どこよりも優しく学べる環境をご用意しております。
毎週開催されるオンラインセッションでは、リアルタイムで学び合える機会を提供しています。 さらに、月に一度のオフラインイベントでは、メンバー同士が直接交流し、アイデアや知識を深めることができます。
「AIフレンズ」の仲間とともに、新しい価値を創造し、可能性を広げてみませんか？
一緒に学び、成長しながら、生成AIを使いこなす力を身につけましょう！
