AIインフラの次の主戦場は「GPUの枚数」ではなく「GPU稼働率」になる

AIインフラの次の主戦場は「GPUの枚数」ではなく「GPU稼働率」になる

MetaがAIコンピューティングへのアクセスを販売するクラウドインフラ事業「Meta Compute」を開発中だと報じられたことで、AIインフラの見方が一段変わり始めている。これまでMetaのAI投資は、広告、Instagram、Facebook、Llama、生成AI、スマートグラスなどの自社サービスを強化するための巨大な設備投資として見られていた。しかし、余剰AI計算資源を外部に販売できるなら、その投資は単なる費用ではなく、収益を生むインフラ資産になる。

Reutersによると、MetaはBloomberg報道ベースで、余剰AI計算容量やAIモデルへのアクセスを販売するクラウド事業を検討しており、Amazon、Microsoft、Googleなどのクラウド大手と競合し得るとされている。計画はまだ初期段階で変更の可能性があるが、市場はこの報道を受けてMetaのAI投資回収可能性を好感した。

だが、このニュースの本質は「MetaがAWSになる」という単純な話ではない。より重要なのは、AI時代の計算資源が、ただ所有するものから、外販・予約・Spot・マネージド推論・長期容量契約として市場化されるものへ変わり始めているという点である。

計算資源は「工場」ではなく「市場化できる容量」になる

従来の製造業では、工場の設備は基本的に自社の生産に使われる。余剰があっても、それをリアルタイムに外部へ貸し出し、価格を変動させながら販売するのは簡単ではない。

しかしクラウド計算資源は違う。AWSのSpot Instanceは、未使用のEC2容量を安価に使える代わりに、AWS側が容量を必要とすれば中断される仕組みである。AWSはSpot Instanceについて、容量が利用できなくなれば停止・休止・終了され得ると説明している。 つまり、クラウドはすでに「余剰計算資源を価格付けして販売する」仕組みを持っている。

この意味で、計算資源は電力や航空座席に近い。ピーク需要に合わせて設備を持つと、平常時には余剰が出る。その余剰を、低優先度・中断可能・安価な商品として売ることで、設備稼働率を上げる。これがCPUクラウドで起きたことであり、いまGPU/AIクラウドでも同じことが起きようとしている。

ただし、GPUはCPUのようには証券化できない

ここで重要なのが、CPUとGPU/AI ASICの違いである。

CPUは非常に汎用的だ。Webサーバー、データベース、アプリケーション、バッチ処理、仮想マシン、コンテナ、サーバーレスまで幅広く動かせる。さらに、仮想化、cgroups、Kubernetes、microVM、オートスケーリング、監視、課金、SLA、セキュリティ分離のエコシステムが長年かけて整っている。

一方で、GPUやAI ASICは構造的にCPUほど汎用的ではない。GPUは大量の並列演算をまとめて走らせる装置であり、HBM、CUDAコンテキスト、カーネル実行、NVLink、KVキャッシュ、テンソル並列、パイプライン並列などが絡む。AI ASICはさらに特定ワークロードに寄るため、「誰でも好きな処理を安全に細切れで動かす」には向きにくい。

NVIDIAのMIGは、対応GPUを複数の独立インスタンスに分割し、それぞれに専用の計算資源とメモリ資源を割り当てる技術であり、GPU利用率を上げる重要な基盤である。 しかし、MIGは万能ではない。NVIDIAのGPU Operatorドキュメントでは、time-slicingはより多くのユーザーでGPUを共有できる一方、MIGが持つメモリ分離や障害分離を犠牲にすると説明されている。

つまり、GPUは分割できるが、CPUのように自由自在に細かく、安全に、低コストで切り分けられるわけではない。

このため、GPUクラウドの未来は「GPUを1/8枚ずつ売る」よりも、もっと上位のレイヤーで商品化される可能性が高い。すなわち、GPUそのものではなく、推論エンドポイント、トークン生成能力、レイテンシ保証、バッチ推論、人工データ生成、モデルホスティング、専用推論クラスタとして販売される。

Meta ComputeはEC2型ではなく、マネージド推論型になりやすい

MetaがAIインフラを外販する場合、Amazon EC2のように裸のサーバーを貸すIaaS型でAWSと正面衝突する可能性は低い。Metaには巨大なデータセンターとAI需要があるが、AWS、Azure、Google Cloudが持つ企業向け営業網、課金、認証、SLA、監査、ストレージ、ネットワーク、サポート、リージョン展開の堀は簡単には再現できない。

むしろ現実的なのは、Meta側がGPUクラスタを管理し、顧客にはAPIや推論エンドポイントとして提供する形である。

たとえば、Llama系モデルのAPI、顧客モデルのホスト推論、画像・動画生成、広告素材生成、分類器、埋め込み、人工データ生成、低優先度バッチ推論などである。顧客はGPUを直接触らず、Metaは裏側でリクエストを集約し、GPUを効率的に詰め込む。

この形なら、GPUの仮想化限界を避けながら、計算資源を現金化できる。Metaにとって重要なのは、GPUを貸すことではなく、自社需要と外部需要を組み合わせて、クラスタ全体の稼働率を高めることである。

Matthew Princeの発言が示す本質

CloudflareのMatthew Princeは、X上で「GPU utilization is embarrassingly low」と述べた。つまり、GPU利用率は恥ずかしいほど低く、今後はCPUクラウドが25年かけて進めてきたマルチテナント最適化を、GPUで高速に再現することになる、という趣旨である。

この発言の本質は、AIクラウドの競争軸が「GPUをどれだけ持っているか」から、「GPUをどれだけ遊ばせず、安全に複数顧客・複数ワークロードで共有できるか」に移るということだ。

Cloudflare自身もこのテーマに直結している。Cloudflare Workers AIは、開発者がGPUのスケーリング、保守、未使用インフラへの支払いを気にせず、Cloudflareのネットワーク上で動くGPUモデルを呼び出せるサーバーレスAI基盤として説明されている。 これは、顧客にGPUを丸ごと貸すのではなく、大量の小さな推論リクエストを集約して、裏側でGPU利用率を高めるモデルである。

つまりPrinceの発言は、Cloudflareのポジショントークでもある。Cloudflareは、AWSやGCPのように巨大GPUインスタンスを貸すのではなく、Workersのようなサーバーレス実行基盤でGPUを高密度に使う方向に勝機を見ている。

GPUを遊ばせない司令塔としてのCPU

GPUクラウドでも、司令塔はCPUに依存する。特にエージェントAIや長文推論では、GPUだけでは処理は完結しない。

リクエスト受付、認証、課金、トークナイズ、RAG検索、ツール呼び出し、コード実行、データベースアクセス、モデル選択、バッチング、KVキャッシュ管理、prefill/decodeの分離、障害処理、セキュリティ分離など、多くの処理はCPU側やDPU側に残る。

NVIDIAがVeraを「エージェント向けCPU」として打ち出しているのは、この流れそのものだ。NVIDIAはVera CPUについて、エージェント型推論、強化学習、データ処理、オーケストレーション、ストレージ管理などに適したCPUとして説明している。 また、Rubin世代ではVera CPU、Rubin GPU、NVLink 6、ConnectX-9、BlueField-4、Spectrum-6を共同設計し、学習時間と推論トークン生成コストを下げると説明されている。

これは、NVIDIAが単なるGPU会社ではなく、AIファクトリー全体を制御する企業になろうとしていることを意味する。GPUを速くするだけではなく、CPU、GPU、DPU、NIC、スイッチ、推論ソフトウェアを統合し、GPUを待たせない構造を作ろうとしている。

推論時代の鍵はprefill/decode分離とKVキャッシュ

LLM推論では、処理は大きくprefillとdecodeに分かれる。prefillは長い入力文脈を処理してKVキャッシュを作る段階であり、decodeはそのキャッシュを使って1トークンずつ生成する段階である。

NVIDIA Dynamoのドキュメントでは、prefill engineがprefill処理を行ってKVキャッシュを生成し、そのKVキャッシュをdecode engineへ転送し、decode engineが生成を続けるという分散 serving の流れが説明されている。 また、NVIDIA DynamoはKVキャッシュをprefill engineのVRAMからdecode engineのVRAMへ直接転送し、転送中もGPU forward passが他リクエストを処理し続けられる設計を示している。

この方向性は重要である。GPUを単純に貸すのではなく、推論処理そのものを分解し、異なるクラスタやGPUプールへ配置することで、GPU利用率を高める。長文推論、エージェント、複数モデル呼び出しが増えるほど、こうした推論スケジューリングの価値は高まる。

Jalapeñoは「GPUを使い切る」のではなく「最初から使い切りやすいASICを作る」戦略

OpenAIとBroadcomのJalapeñoも同じ文脈で読める。OpenAIとBroadcomは、JalapeñoをLLM推論向けに設計されたカスタムAIチップとして発表し、OpenAIのChatGPT、Codex、API、将来のエージェント製品のワークロードから得た知見をもとに、カーネル、メモリ移動、ネットワーク、サービングパターンを最適化したと説明している。

これはNVIDIAとは別のアプローチだ。NVIDIAは汎用GPUクラスタをCPU、DPU、ネットワーク、ソフトウェアで最適化する。一方、JalapeñoはOpenAIの推論パターンに合わせて、チップ自体を最初から高効率に設計する。

つまり、GPUの低利用率をソフトウェアで改善するのではなく、そもそもLLM推論に合ったASICを作ることで、実効利用率と性能効率を上げる戦略である。

Microsoft・Anthropic・NVIDIA提携も「GPU稼働率最適化」の話である

Microsoft、Anthropic、NVIDIAの戦略提携も、単にAzureが計算資源を貸し、AnthropicがClaudeを動かし、NVIDIAがGPUを売るという話ではない。

Microsoft公式発表では、AnthropicはNVIDIA Grace BlackwellおよびVera Rubin systemsを使う最大1GWの計算容量を契約し、AnthropicとNVIDIAはAnthropicモデルを最高の性能、効率、TCOに最適化し、将来のNVIDIAアーキテクチャをAnthropicワークロードに合わせて最適化するために協力するとされている。

ここで重要なのは、モデル企業、クラウド企業、半導体企業が共同で最適化する点だ。Claudeという具体的なワークロードを、Azure上のNVIDIA基盤でどれだけ低コスト・高効率に動かせるかが競争力になる。これはまさに、AIインフラ競争が「GPUを何枚確保したか」から「そのGPUでどれだけ多くのトークンを低コストに生成できるか」へ移っていることを示している。

投資テーマは「GPU保有」から「GPU稼働率改善」へ

この構図から見た場合、注目すべき銘柄も変わる。

単にGPUを買って貸すだけのネオクラウドは、GPU不足の局面では強い。しかし、Meta、Oracle、AWS、Azure、Google Cloud、xAI、各国主権AIクラウドが一斉に容量を増やし、さらにGPU利用率改善技術が進むと、単純なGPU貸しは価格競争に巻き込まれやすい。

一方で強いのは、GPU利用率を上げる技術やサービスを持つ企業である。

NVIDIAは、GPU、Vera CPU、NVLink、BlueField、ConnectX、Spectrum、MIG、Dynamoを統合するAIファクトリーOS企業に近づいている。Cloudflareは、Workers AIのようなサーバーレス推論基盤で、小さな推論リクエストを集約してGPUを高稼働化できる可能性がある。Metaは、自社需要と外部需要を組み合わせて、AI計算資源を収益資産に変えるオプションを持つ。Microsoft、Google、Amazonは、既存のクラウド運用、課金、セキュリティ、企業営業、AIサービスを通じて、計算資源の商品化に強い。Broadcomは、JalapeñoのようなカスタムASICとAIネットワークで、推論効率化の中心に入る可能性がある。

このテーマで見るなら、重要なのは「GPUをどれだけ保有しているか」ではない。重要なのは、同じGPUからどれだけ多くの売上、トークン、推論、SLA、顧客価値を生み出せるかである。

結論：AIインフラは「GPU争奪戦」から「トークン工場の稼働率競争」へ移る

Meta Compute、Matthew PrinceのGPU利用率発言、NVIDIA Vera/Rubin、Dynamo、OpenAI/BroadcomのJalapeño、Microsoft・Anthropic・NVIDIA提携は、すべて同じ方向を指している。

AIインフラの主戦場は、GPUをどれだけ買えるかだけではなくなっている。 次の競争軸は、GPUをどれだけ遊ばせず、CPU・DPU・ネットワーク・メモリ・ストレージ・推論スケジューラを組み合わせ、トークン生成能力として商品化できるかである。

CPUクラウドでは、仮想化、コンテナ、Spot、サーバーレスによって、サーバー資源が市場化された。GPU/AI ASICでは、CPUほど低レイヤーで綺麗に分割することは難しい。しかし、その代わりに、推論エンドポイント、トークン生成能力、レイテンシ保証、バッチ推論、モデルホスティング、AI処理の卸売という上位レイヤーで市場化が進む。

つまり、GPUはCPUのようには証券化されない。 しかし、GPUが生み出す「トークン処理能力」は証券化されていく。

この変化を受けて、AIインフラ相場の見方も変わる。今後の勝者は、単にGPUを大量に持つ企業ではない。GPUを高稼働で、安全に、複数顧客・複数ワークロードへ振り分け、推論サービスとして収益化できる企業である。

AI時代の本当の競争は、GPUの枚数ではなく、AIファクトリーの稼働率で決まる。

特定銘柄の推奨・勧誘・投資助言を目的とするものではありません。投資判断はご自身の責任でお願いいたします。

サムネはPixAIsunflowerモデルとGPTImage2.0

下の動画は2026/05/08に作った動画です

https://www.youtube.com/watch?v=fpLJ-hui7ro