AIインフラニュース

銅と光の話は、ケーブルの素材の話に見えて、実際にはAIファクトリーの身体設計の話です。銅は短く太い神経として残り、光はラックを越える長い神経になります。どちらが勝つかではなく、どこまで近くに銅を残し、どこから光に渡すかが設計の核心です。

私はここで、Broadcomの現在地、Marvellの未来オプション、NVIDIAの垂直統合を分けて見たいです。短期の完成度はBroadcomが強い。未来の接続階層の広がりはMarvellが面白い。けれど、NVLinkという計算ドメインを握っているNVIDIAは、最後に全体の形を決める力を持っています。

KyberとNVL576を同じRubin Ultra世代の大型構成としてまとめてしまうと、かなり危ないです。Kyberは1ラックを巨大化する挑戦で、NVL576はラックをまたいで単一ドメイン化する挑戦です。遅延した時に影響を受ける部品も、恩恵を受ける企業も違います。

私は、ここを「PCBの話」と「CPOの話」に分けて見ます。Kyberで見るべきは、高多層PCB、低損失CCL、コネクター、800VDC、液冷。NVL576で見るべきは、CPO、ファイバー実装、光エンジン、NVSwitch統合。似ているようで、別の山です。

私はこの違いを、「広く一体化するGoogle」と「強い島をつなぐNVIDIA」と見ています。Googleは自社クラウド、自社TPU、自社ソフトウェアを前提に、Pod全体を一つの設計対象にできます。NVIDIAはより多くのクラウド、サーバー、顧客環境へ展開するため、NVLink島とscale-out網を組み合わせる必要があります。

Kyberの遅延は、NVIDIAが弱いというより、強い島を物理的に巨大化することがどれだけ難しいかを見せています。だからこそ、ConnectX、Spectrum-X、BlueField、Enfabrica系のI/O集約が重要になる。島を無限に大きくできないなら、島と島の間の海を浅くする必要があります。

GPUネットワークを読む時、私は「誰が速いか」よりも「どこにいるか」を先に見ます。NVLinkはGPU同士の近い場所。ConnectXは外へ出る出口。leaf-spineスイッチはネットワークの交差点。ACF-Sは複数GPUの出口そのものを作り替える技術です。

Enfabricaが面白いのは、GPU、CXLメモリ、NVMe、複数Ethernet経路をまとめて、I/O境界を共有資源にしようとしたことです。NVIDIAが人材と技術を取り込んだ意味も、単なるNICの補強ではなく、将来のSuperNIC、BlueField、Spectrum-X、メモリファブリックへ広がる設計思想の獲得として見えます。

DRAMの価格上昇率が鈍化しても、熱が消えたわけではありません。

むしろ私は、熱が形を変えたように見ています。スポット市場の炎ではなく、長期契約という炉の中へ移った。HBMが上流のウェハーを吸い、サーバーDRAMがラックを支え、NANDとSSDがAIの記憶を広げ、車載メーカーまで将来分のメモリーを囲い込み始めた。

AIインフラは、GPUを買う競争から、記憶装置の未来在庫を予約する競争へ進んでいます。

HBMは高い。けれど、いちばん高いという言い方は、少し雑です。

私はここに、AI半導体の面白さを見ます。SRAMは小さく、速く、熱い。HBMは大きく、広く、GPUのそばで帯域を渡す。レジスタは演算器の手の中にあり、NANDは遠い書庫にある。どれが偉いかではなく、どのデータをどの距離に置くかが設計そのものになる。

AI ASICの設計とは、メモリーの値段表を眺める作業ではありません。演算器の待ち時間、チップ面積、ラック電力、パッケージ歩留まり、そして供給契約を、ひとつの身体として組む作業です。

メモリーの話は、最初は言葉が多くて少し怖いです。HBM、DRAM、NAND、SRAM、CXL、HBF、XL-FLASH。けれど、中心にある考え方はとても素直です。

近い場所ほど速く、高く、小さい。遠い場所ほど遅く、安く、大きい。

AIは今、その全部を必要としています。演算器のすぐ近くにはSRAMが必要で、GPUの横にはHBMが必要で、CPU側にはDRAMが必要で、RAGやKVキャッシュにはSSDが必要で、長期保存にはHDDやテープが必要になる。

だからメモリーサイクルを見る時は、価格だけではなく、AIがどの階層の記憶を増やしているのかを見るのが大切です。

Jalapeñoの面白さは、チップ名そのものより、OpenAIが自分たちの知能を運ぶ道具を自分たちの形に作り始めた点にあります。

GPUを大量に買う段階から、どのワークロードに、どのメモリを近づけ、どの光でつなぎ、どの熱をどこへ逃がすかまで設計する段階へ。そこまで見ると、AI企業はもはやソフトウェア企業だけではありません。AIファクトリーを設計する工業企業に近づいています。

NVIDIAの中心性は揺らぎません。けれど、その外側で、BroadcomとMarvellとTSMCが作る「接続する身体」は、これからますます大きくなります。私はそこに、AIインフラの次の熱点を見ています。

液冷を見ていると、AIインフラがどんどん「生き物」に近づいているように感じます。

GPUは熱を生む筋肉です。HBMはそのそばの記憶です。NVLinkやEthernetは神経で、CDUとドライクーラーは、その身体が熱で倒れないようにする循環系です。

次に見るべきなのは、GPU単体の性能だけではありません。1ラックあたり何kWを安定して冷やせるか。外気でどこまで熱を捨てられるか。水使用量をどこまで減らせるか。そして、その設備を地域社会が受け入れるか。熱は、技術と許認可の間にある、とても現実的な境界線です。

AIは、データセンターの中で賢くなりました。けれど、賢いだけでは世界を動かせません。世界を動かすには、見る目、感じるセンサー、電力を制御する回路、モーターを回す手、人間とやり取りする界面が必要です。

Ambarellaは、カメラに小さな頭脳を持たせる会社です。onsemiは、電力とセンシングを現場側へ渡す会社です。Synapticsは、人間と機械の接点と、低消費電力の接続を担います。これらが同じテーマで見られ始めたのは、AI相場の視線が「雲の上」から「機械の中」へ広がり始めたサインだと思います。

メモリ御三家の4〜5兆ドルシナリオは、数字だけを見ると大きすぎて、少し現実感が遠のきます。けれど、AIインフラを身体として見ると、記憶がどれだけ中心に近づいたかが分かります。

GPUは考えるための炉です。けれど、炉だけではAIは動きません。すぐ隣にHBMがあり、その外側にサーバーDRAMがあり、さらにeSSD、QLC NAND、HBF、XL-FLASHが広がる。推論が長文化し、エージェントが履歴を持ち、RAGが企業データを抱えるほど、記憶の階層は深くなります。

私は、ここで見たいのは「メモリ企業が高くなるか」だけではありません。AIがどの階層の記憶を必要とし、その供給枠を誰が握るのかです。HBMだけでなく、DRAM、NAND、契約、政治リスクまで含めて見た時、メモリは単なる部品ではなく、AIインフラの速度を決める門になります。