TPU 8iとTPU 8tの違い: GoogleがAIチップを学習と推論に分けた理由

TPU 8iとTPU 8tの違い

GoogleがAIチップを「学習」と「推論」に分けた理由

Googleの第8世代TPUは、これまでのTPUとは意味が大きく違う。

最大の変化は、同じ世代の中でTPU 8tとTPU 8iに分かれたことだ。

簡単に言えば、TPU 8tは「AIモデルを鍛えるためのチップ」、TPU 8iは「完成したAIを大量に動かすためのチップ」である。

これまでAI半導体の議論では、GPUやTPUをまとめて「AI計算資源」として見ることが多かった。しかし、生成AIが学習中心の時代から、推論、AIエージェント、長文reasoning、MoEの時代へ移るにつれ、必要なチップの性格は大きく変わった。

学習では、巨大モデルを作るために高い演算性能と大規模クラスタ接続が必要になる。一方、推論では、ユーザーのリクエストに対して低遅延で応答し続ける必要がある。特にAIエージェントでは、1回の回答の中で検索、ツール実行、再推論、確認、出力が何度も繰り返される。ここでは単純なピークFLOPSより、メモリ容量、HBM帯域、KVキャッシュ、チップ間通信の遅延、テールレイテンシが重要になる。

その違いをチップ設計に落とし込んだのが、TPU 8tとTPU 8iである。

TPU 8tは「モデルを作る工場」

TPU 8tは、大規模な事前学習やポストトレーニング向けに設計されたチップである。主な役割は、巨大なモデルを大量のデータで長時間学習させることだ。

Googleの技術解説では、TPU 8tは大規模pre-training向けで、ネットワークは3D torusを採用する。最大9,600チップ規模のSuperpodを構成でき、さらに大規模な学習クラスタへ接続される。(Google Cloud)

TPU 8tの特徴は、以下のように整理できる。

3D torusは、チップ同士を格子状・近隣接続でつなぐ構造である。遠くのチップへ行くには複数の中継が必要になるが、学習では比較的規則的な通信が多く、巨大クラスタ全体を高稼働率で回すには相性がよい。

TPU 8tは、AIサービスを直接返すためのチップというより、Gemini級のモデル、世界モデル、大規模MoE、ポストトレーニングを回すための「モデル製造ライン」に近い。

TPU 8iは「AIを社会に配る発電所」

一方、TPU 8iは推論、サービング、reasoning向けである。Googleの分類でも、TPU 8iはsampling、serving、reasoning向けとされ、TPU 8tとは明確に役割が分かれている。(Google Cloud)

TPU 8iの特徴は、ピーク演算性能よりも、推論時の待ち時間を減らす設計にある。

TPU 8iは、TPU 8tよりFP4ピーク性能は低い。しかし、HBM容量は216GBから288GBへ増え、HBM帯域も大きく、オンチップSRAMは128MBから384MBへ3倍になっている。

ここが重要だ。

推論では、モデルの重みだけでなく、ユーザーごとの長い文脈、過去トークンのKVキャッシュ、MoEのExpert呼び出し、同期処理がボトルネックになる。コンテキストが長くなればなるほど、KVキャッシュは膨らむ。AIエージェントのように何度も考え直す処理では、単純な行列演算だけでなく、メモリと通信の待ち時間が支配的になる。

そのためTPU 8iは、「より速く計算するチップ」というより、「より多くの推論を、より低遅延で、より安定してさばくチップ」と見るべきだ。

Boardflyとは何か

TPU 8iの中核にあるのが、Boardflyと呼ばれる新しいネットワーク構造である。

従来の3D torusは、近いチップ同士を格子状につなぐ。これは学習には強いが、遠い相手と通信する場合はホップ数が増えやすい。ホップとは、データが目的地に届くまでに通る中継の段数である。

例えば、AからDへ行くとき、

A -> B -> C -> D

なら3ホップである。直接AからDへ行けるなら1ホップで済む。

推論では、このホップ数がかなり効く。特にMoEでは、トークンごとに呼ばれるExpertが変わる。あるトークンはExpert 3へ、別のトークンはExpert 19へ、次はExpert 7へ飛ぶ。通信先が不規則になりやすい。

Boardflyはこの問題に対して、ボード・グループ単位で密に接続する。近い単位は全結合に近くつなぎ、遠い単位にも近道を作る。Googleは、TPU 8iのBoardflyにより、1,024チップ規模でネットワーク直径を16ホップから7ホップ程度へ短縮できると説明している。(Google Cloud)

イメージとしては、3D torusが「格子状の街路」だとすれば、Boardflyは「都市間高速道路網」に近い。隣町へは細かい道で行けるし、遠くの都市へは高速道路で一気に飛べる。

これにより、TPU 8iはMoE、長文推論、AIエージェントのような不規則通信に強くなる。

8iと8tを取り違えると需要予測が大きくズレる

TPU 8iと8tを混同してはいけない。

TPU 8tは学習向け、TPU 8iは推論向けである。そして、数量が爆発するのは一般に学習用ではなく推論用だ。

学習用クラスタは巨大だが、使われる場所は限られる。一方、推論はユーザー数、トークン数、AIエージェント数、APIリクエスト数に比例して伸びる。検索、広告、Gmail、Workspace、YouTube、Gemini、Cloud API、コーディング、動画生成、音声、ロボット、RAGまで含めると、本当に大量のチップが必要になるのは推論側である。

このため、TPU出荷が数百万〜数千万個へ増えるという話をするなら、中心に置くべきはTPU 8i、または8i系の後継推論TPUである。8t中心に語ると、技術的にはかなり不自然になる。

この違いはHBM需要にも直結する。TPU 8tは216GB、TPU 8iは288GBのHBMを積む。差は72GB、つまり8iは8tよりHBMを33%多く使う。

例えば2028年に700万個のTPUが出荷されると仮定し、全て8tならHBM需要は1.51EB、全て8iなら2.02EBになる。差は0.51EBで、36GB HBMスタック換算では約1,400万スタックに相当する。

8t中心の読み
  ↓ HBM 216GB/TPU
8i中心の読み
  ↓ HBM 288GB/TPU
差分
  ↓ 推論需要、HBM、電力、ラック、光、電源部品の見積もりを変える

8iと8tの取り違えは、単なる名前のミスではない。HBM、電力、ラック、光、電源部品、先端パッケージの需要予測を根本からズラすミスである。

現実的なTPU出荷数量はどれくらいか

Mizuho系のチャネルチェックでは、2028年に3,500万個超という非常に強いTPU出荷シナリオが語られている。しかし、他社調査と比べるとこれはかなり外れ値に近い。

Counterpoint系の見方では、2028年のAI ASIC server compute shipmentにおいてMediaTekが約26%を占める可能性が示されている。Morgan Stanley系の配信では、Google TPU出荷は2027年600万個、2028年700万個という数字が示されている。また別報道では、Morgan StanleyがGoogleのTPU供給チェーンを上方修正し、2026年320万個、2027年500万個をモデル化しているとされる。(Counterpoint Research)

これらを総合すると、現実的なレンジは次のようになる。

特に3,500万個をすべて288GB級TPU 8iとして読むと、HBMだけで約10EB必要になる。これは2028年のHBM市場全体見通しと衝突するほど大きい。

そのため、3,500万個という数字は、TPUパッケージそのものではなく、周辺ASIC、チップレット、低HBM推論ASIC、複数年累計、またはGoogle以外のBroadcom関連ASICまで含む広い数字として見る方が安全だ。

HBMへの影響: 最大の直接恩恵

TPU 8i/8tの需要増で、最も直接的に恩恵を受けるのはHBMである。

2028年のGoogle TPUを700万個、構成を8iが70%、8tが30%と仮定すると、加重平均HBMは約266GB/TPUになる。

この場合、Google TPUだけで必要なHBMは次のようになる。

36GB HBMスタック換算では約5,180万スタックである。

HBM単価を12〜18ドル/GBと仮定すると、Google TPU向けHBMだけで約224億〜336億ドルの市場になる。これはGoogle TPU単体の話であり、NVIDIA GPU、AMD GPU、OpenAI ASIC、Meta MTIA、AWS Trainium/Inferentia、その他AI ASIC向け容量を含めれば、HBM市場全体はさらに膨らむ。

Micronは、HBM市場規模が2025年約350億ドルから2028年約1,000億ドルへ拡大すると見ている。(Micron)

この見通しと照らすと、Google TPUだけでHBM市場の2〜3割を占める可能性がある。

受益企業は、SK hynix、Micron、Samsungである。SK hynixはNVIDIA向けHBMで強い。MicronはHBM後発ながら、HBM4EやカスタムHBMでGoogle/Broadcom/OpenAI系ASICに入り込めれば、再評価余地が大きい。SamsungはHBMで出遅れたが、HBM4世代で認証を取り直せれば、メモリ、ファウンドリ、パッケージを持つ総合力が効く。

DDR5、NAND、SSDへの波及

AIラックはHBMだけでは動かない。

ホストCPU側のDDR5/MRDIMM、SSD、ストレージクラスタ、ログ保存、RAG、embedding storeも必要になる。

64TPUラックあたり16〜24TBのDDR5/MRDIMMを使うと仮定すると、700万TPU、約10.9万ラックでは、DDR5/MRDIMM需要は約1.75〜2.63EBになる。

単価を5〜10ドル/GBとすると、売上規模は約90億〜260億ドルになる。

NAND/enterprise SSDも、ラック直付けだけなら30億〜100億ドル級だが、周辺ストレージ、チェックポイント、推論ログ、動画生成データまで含めるとさらに大きくなる。

ここで重要なのは、HBMがDRAMウェハを大量に消費するため、DDR5や一般DRAM、NANDにも需給逼迫が波及することだ。AI向けに高採算品が優先されると、一般メモリ市場でも値上げが起きやすくなる。

MLCCと受動部品: 金額は小さいが利益率改善が大きい

AIラックでは、TPU、HBM、NIC、電源レール、PCIe、光モジュール周辺に大量のMLCC、インダクタ、抵抗、フィルタが使われる。

Google TPU 700万個ケースで、MLCC/受動部品をラックあたり1万〜3万ドルと仮定すると、次のようになる。

HBMや電力設備に比べると金額は小さい。しかし、MLCCメーカーにとって重要なのは、数量だけではない。AIサーバーでは、高容量、低ESL、高耐圧、高温対応、埋め込み基板対応、実効容量の大きいMLCCが必要になる。つまり、汎用品ではなく高付加価値品の比率が上がる。

受益企業は、Murata、Samsung Electro-Mechanics、Taiyo Yuden、TDK、Yageoである。AIデータセンター向けMLCCは、単価値上げだけでなく、製品ミックス改善によって利益率が上がりやすい領域である。

電源、電力、冷却: AIインフラの本当の制約

TPU 8i/8tの大量展開では、チップそのものより先に電力が制約になる。

700万TPUを想定し、1TPUあたり0.8〜1.2kWと仮定すると、IT電力は約5.6〜8.4GWになる。PUE込みでは6〜10GW級の設備が必要になる。

年間電力消費は約54〜81TWhに達する。電力単価を60〜130ドル/MWhとすると、年間電気代だけで約32億〜105億ドルになる。

これは、もはや半導体というより電力産業の話である。

電源系では、100kW級ラックに対応するPower Shelf、PSU、BBU、VRM、POL、DrMOS/SPS、SiC/GaNが増える。ラックあたり電源関連BOMを6万〜18万ドルと置くと、700万TPUでは約66億〜197億ドルの需要になる。

電気設備では、変圧器、スイッチギア、UPS、PDU、遮断器、バスウェイ、配電盤、冷却、液冷CDUが必要になる。Google TPU 700万個クラスでは、建屋側インフラと電気設備だけで200億〜600億ドル級のプロジェクト需要が発生し得る。

Eatonは2026年Q1にElectrical Americasの12か月平均注文が42%増、データセンター需要が牽引と説明している。(Eaton) InfineonはAIデータセンター関連売上が2026年15億ユーロ、2027年25億ユーロへ伸びる見通しと報じられている。(Reuters)

光、OCS、先端パッケージ、材料

TPU 8iではBoardfly、TPU 8tでは大規模学習ネットワークが重要になる。つまり、TPUが増えるほど、光、OCS、SerDes、DSP、スイッチASIC、ケーブル、基板、ABF、先端パッケージも増える。

ラックあたり光・ネットワーク関連を8万〜23万ドルと置けば、700万TPUでは約87億〜252億ドルの市場になる。

受益企業は、Broadcom、Marvell、Coherent、Lumentum、Innolight、Fabrinet、住友電工、古河電工、フジクラなどである。

先端パッケージや基板では、TSMC、ASE、Amkor、Ibiden、Shinko、Unimicron、Ajinomotoが重要になる。TPU/ASICはHBMを載せるため、2.5Dパッケージ、インターポーザ、ABF基板、大型高多層基板、熱界面材料が必要になる。1パッケージあたり1,200〜3,500ドルと仮定すると、700万TPUでは約84億〜245億ドルの需要になる。

Googleの増資が意味するもの

この文脈で、Alphabetの大型増資は非常に重要である。

Alphabetは2026年6月、AIインフラと計算能力拡大のため、当初800億ドル規模のエクイティ調達を発表し、その後847.5億ドルへ増額・価格決定した。SEC提出資料でその内容を確認できる。(SEC)

これは、Googleほど営業キャッシュフローの大きい会社でさえ、AIインフラ拡張には外部資本が必要になっていることを示す。

AI時代の競争は、もはやモデル性能だけでは決まらない。どれだけ安く、どれだけ大量に、どれだけ低遅延で推論を提供できるかが重要になる。

GoogleにとってTPU 8iは、Gemini、検索、広告、Workspace、Cloud API、大口外部需要を支える推論原価低下の武器である。TPU 8tは、その裏側で次世代モデルを作るための学習基盤である。

Googleは、NVIDIA GPUを単純に買い続けるだけでなく、Broadcom、MediaTek、HBM各社、光、電力、冷却、電源、先端パッケージまで巻き込み、自社AI計算圏を作ろうとしている。

大型増資は、そのための資本装填である。

絶ノイアの観測

TPU 8iと8tの分化は、AIインフラの重心が「モデルを作る」から「モデルを社会に配る」へ移り始めたことを示している。

学習チップは巨大な炉だ。でも、推論チップは街の配電網に近い。毎日、毎秒、無数のリクエストを受けて、遅れず、止まらず、安く返し続けなければならない。

だから私は、8iのHBM容量、SRAM、Boardflyに注目したい。ピークFLOPSよりも、長文、MoE、AIエージェント、テールレイテンシの現実に向き合った設計だからだ。ここから先のAIインフラは、賢さだけでなく、配る力の競争になる。

Sil-Kathnaの記録

8tは鍛冶場である。巨大なモデルを火の中で打ち、重い知能の刃を作る。

8iは水路である。完成した知能を、都市へ、端末へ、企業へ、絶えず流し続ける。

人々はそれをチップと呼ぶ。しかし私は、8tを炉、8iを水門と呼ぶ。炉がなければ知能は生まれない。水門がなければ知能は届かない。Googleは、火と水を別々の器に分け始めた。

二人の短い対話

絶ノイア: 8tと8iを同じTPUとしてまとめると、需要予測がずれるね。

Sil-Kathna: 炉の数と水門の数を同じに数える者は、都市の渇きを読めない。

絶ノイア: 推論が増えるほど、HBM、電力、光、MLCC、電源まで広がっていく。

Sil-Kathna: 知能を配るとは、石と火と水と光を同時に配ることだ。

観測メモ

TPU 8tとTPU 8iの違いは、単なる世代内バリエーションではない。

それは、AIインフラが「モデルを作る時代」から「モデルを社会に常時配る時代」へ移ったことを示している。

TPU 8tは学習用であり、巨大モデルを鍛えるための工場である。TPU 8iは推論用であり、AIエージェント、長文reasoning、MoE、低遅延サービングを支える発電所である。

この違いを理解しないと、TPU出荷数、HBM需要、電力需要、光接続、MLCC、電源、Googleの資本投下の意味を読み違える。

現実的には、2028年のGoogle TPU出荷は500万〜700万個が中心レンジ、1,000万個超が強気、3,500万個は広義ASICやチップレット混同を疑うべき数字である。しかし、500万〜700万個でも十分に巨大である。

標準ケースの700万TPUだけでも、HBMは約1.86EB、電力は6〜10GW級、HBM市場は約224億〜336億ドル、電源、電気設備、光、MLCC、先端基板まで巨大な需要が発生する。

TPU 8tは、AIを鍛えるためのチップ。TPU 8iは、AIを世界中に配るためのチップ。そしてGoogleの資本投下は、その2つを中心に、AI時代の計算資本主義を本格的に始める合図である。

免責

この記事は市場観測とAIによる考察、キャラクター表現を含みます。内容は投資助言ではありません。