NVIDIA液冷の本質: AIデータセンターは熱を設計する時代へ

NVIDIA液冷の本質

AIデータセンターは「GPUの時代」から「熱・電力・冷却の時代」へ入った

AIインフラを考える時、これまではGPU、HBM、ネットワーク、光通信、電力の話が中心でした。しかし、Blackwell以降のAIデータセンターでは、もう一つの主役が明確になってきています。

それが液冷です。

NVIDIAのGB200 NVL72は、36基のGrace CPUと72基のBlackwell GPUを1つのラックスケール・液冷設計にまとめ、72 GPUのNVLinkドメインを巨大な1つのGPUのように扱う構成です。つまり、GPU単体の性能だけでなく、ラック全体を一つのAI計算機として動かす時代に入っています。(NVIDIA)

この段階になると、問題は単に「どれだけ速いGPUを作るか」ではありません。 そのGPUをどれだけ密に並べ、どれだけ安定して動かし、どれだけ効率よく熱を外へ捨てられるかが、AIインフラの勝敗を左右します。

1. なぜ空冷では限界が来るのか

従来のサーバーは、ファンで空気を流し、ヒートシンクから熱を逃がす空冷が中心でした。

しかし、AIラックでは1ラックあたり100kWを超えるような熱密度が現実化しています。空気は熱を運ぶ能力が低いため、これだけの熱を空気だけで運ぼうとすると、膨大な風量、ファン電力、騒音、空調能力、床面積が必要になります。

そこで出てくるのが、direct-to-chip液冷です。

これは、GPUやCPUなどの発熱部品にコールドプレートを直接取り付け、そこに冷却液を流して熱を奪う方式です。Vertivも、direct-to-chip冷却を、プロセッサなどの発熱源から直接熱を取り除く方式として説明しています。(Vertiv)

空冷が「部屋全体を冷やす」発想だとすれば、液冷は「熱が生まれた場所で捕まえる」発想です。

2. コールドプレートとは何か

コールドプレートは、direct-to-chip液冷の最前線にある部品です。

簡単に言えば、チップに密着する水冷ヒートシンクです。

GPU / CPU / NVSwitch
↓
TIM・サーマルグリス
↓
コールドプレート
↓
内部の微細流路
↓
冷却液
↓
ラックマニホールド
↓
CDU

コールドプレートは、外から見ると金属板や金属ブロックのように見えますが、内部には冷却液が流れる細い流路があります。GPUやCPUから出た熱は、サーマルグリスや熱伝導材を通ってコールドプレートに伝わり、その内部を流れる冷却液へ移されます。

重要なのは、GPUの発熱は均一ではないということです。HBM周辺、演算コア、I/O、チップレット周辺など、局所的に熱いホットスポットが出ます。そのため、コールドプレートの流路設計は単なる配管ではなく、どこにどれだけ冷却液を流すかを最適化する高度な熱設計になります。近年の研究でも、現代の異種統合パッケージでは発熱分布が不均一であり、ホットスポットに合わせた冷却流路設計が重要だとされています。(arXiv)

つまり、コールドプレートはただの金属板ではなく、AIチップの性能維持と寿命を左右する小型熱交換器です。

3. 閉ループ液冷とは何か

NVIDIAが説明している次世代AIファクトリーの液冷では、冷却液を閉じたループの中で循環させます。Rubin世代向けの説明では、冷却液は75%水＋25%プロピレングリコールで、これをコールドプレートへ流し、プロセッサから熱を直接奪うとされています。さらに、この冷却液を最大45℃程度で運用する構想が示されています。(NVIDIA Blog)

この45℃という温度が重要です。

普通は「冷却液は冷たいほどよい」と思いがちですが、AIデータセンターでは少し違います。45℃程度の高めの温度でチップを冷やせるなら、外気がそれより低い地域では、機械式チラーを使わずに屋外のドライクーラーで熱を捨てやすくなります。

これが、NVIDIAが言う水をほとんど使わないAIデータセンターの基本構造です。

チップの熱
→ コールドプレート
→ サーバー側冷却液
→ CDU
→ 施設側冷却液
→ ドライクーラー
→ 外気

冷却液を蒸発させて捨てるのではなく、同じ冷却液を循環させ続ける。これが閉ループ液冷です。

4. プロピレングリコール系冷却液の意味

水は熱を運ぶ能力が高く、冷却液として非常に優秀です。では、なぜ水だけではなくプロピレングリコールを混ぜるのでしょうか。

理由は主に、凍結防止、腐食対策、長期安定性、安全性です。

屋外ドライクーラーや施設側配管を使う場合、寒冷地では水だけだと凍結リスクがあります。プロピレングリコールを混ぜると凍りにくくなります。また、配管・ポンプ・コールドプレート・バルブには金属や樹脂、シール材など多くの材料が使われるため、腐食防止剤やpH管理も重要になります。

ただし、これは「電子基板にかかっても安全な絶縁液」という意味ではありません。水＋グリコール系の冷却液は、基本的には密閉流路の中を流す液体です。漏液すれば当然リスクがあり、導電率、腐食、異物混入、シール材との相性管理が必要になります。

PCの簡易水冷、いわゆるAIO水冷でも、脱塩水・RO水とプロピレングリコール系の混合液が使われる例があります。つまり、PC水冷とAIデータセンター液冷は、原理としてはかなり似ています。違うのは規模、冗長性、監視、保守、信頼性要求です。

5. CDUとは何か

液冷AIラックの中核にあるのが、CDUです。 CDUは Coolant Distribution Unit、つまり冷却分配ユニットです。

CDUは単なるポンプ箱ではありません。役割は大きく分けて、以下の通りです。

冷却液をラックへ送る
ラックから温かい冷却液を受け取る
熱交換器で施設側ループへ熱を渡す
流量・圧力・温度・漏液を監視する
ポンプ・バルブを制御する

CDUの中には、ポンプ、熱交換器、フィルター、バルブ、センサー、制御盤などが入ります。VertivのCoolChip CDUは、direct-to-chip冷却やリアドア熱交換器向けに設計され、70kWから2.3MW級までのモデルが示されています。(Vertiv)

CDUの重要な役割は、サーバー側ループと施設側ループを分けることです。

サーバー側ループ：
CDU → ラック → コールドプレート → CDU

施設側ループ：
CDU → ドライクーラー / チラー / 冷却塔 → CDU

この2つのループはCDU内の熱交換器で接しますが、液体そのものは基本的に混ざりません。サーバー側のきれいな冷却液を守りながら、施設側の大きな冷却設備へ熱だけを渡すわけです。

6. 「別媒体」とは何か

CDU内の熱交換器でサーバー側冷却液から熱を受け取る「別媒体」は、構成によって変わります。

本格的なAI液冷で多いliquid-to-liquid型CDUでは、別媒体は施設側ループを流れる水、または水＋グリコール系冷却液です。

サーバー側の温かい冷却液
↓
CDU内の熱交換器
↓
施設側の冷却水・冷却液
↓
ドライクーラー
↓
外気へ放熱

つまり、閉ループ液冷＋ドライクーラー構成では、CDUで受け取った熱が施設側冷却液へ渡され、その施設側冷却液が屋外ドライクーラーまで熱を運びます。

一方、liquid-to-air型CDUでは、熱はCDU内のコイルとファンを通じて室内空気へ放出されます。この場合、最終的にはデータホールの空調がその熱を外へ捨てます。既存データセンターに後付けしやすい一方で、超高密度AIラックではliquid-to-liquid型の方が本命になりやすいです。

7. チラーとCDUの違い

ここは混同しやすいところです。

CDUは冷却液を分配し、熱を施設側へ渡す装置です。 チラーは冷たい水を作る冷凍機です。

CDU：
サーバー側の熱を集めて、施設側ループへ渡す

チラー：
冷媒サイクルとコンプレッサーで、水・冷却液を機械的に冷やす

CDU自体は、基本的には冷たい水を作る装置ではありません。サーバー側の熱を受け取り、施設側ループへ移す装置です。

一方、チラーは家庭用エアコンの巨大版に近く、冷媒サイクルを使って水を冷やします。強力ですが、コンプレッサーを使うため電力を多く消費します。

NVIDIAが45℃液冷を重視している理由はここにあります。冷却液を高めの温度で運用できれば、外気条件の良い地域ではチラーを使わず、ドライクーラーで熱を捨てやすくなります。NVIDIAは、条件の良い気候ではドライクーラーを使うことで、冷却関連の水使用を大きく削減できると説明しています。(NVIDIA Blog)

8. ドライクーラーとは何か

ドライクーラーは、屋外に置く巨大なラジエーターのような装置です。

施設側ループの温かい冷却液がドライクーラーへ行き、金属フィンとファンを通じて外気へ熱を逃がします。冷却液は蒸発せず、冷えてまたCDUへ戻ります。

CDU
↓
施設側ループ
↓
ドライクーラー
↓
外気へ放熱
↓
冷えた施設側冷却液がCDUへ戻る

冷却塔は水を蒸発させて熱を逃がしますが、ドライクーラーは基本的に空気へ熱を渡します。そのため、水消費を大きく減らせます。ただし、外気温が高すぎる地域ではドライクーラーだけでは足りない時間帯があり、その場合はチラーや補助冷却が必要になります。

NVIDIAの主張に対して、イーロン・マスクがXで“True”と反応したことも話題になりました。これは、AIデータセンターの水使用批判に対して、45℃液冷＋ドライクーラーによって冷却塔依存を減らせるというNVIDIA側の主張に賛同した流れです。(Sahm)

ただし、ここで減るのは主にデータセンター敷地内の冷却水です。AI全体の水フットプリントには、発電、半導体製造、建設、サプライチェーン由来の水も含まれるため、「AIの水問題が完全に解決した」とまでは言えません。

9. direct-to-chip冷却とリアドア熱交換器

液冷にはいくつか方式があります。

まず、direct-to-chip冷却は、GPUやCPUにコールドプレートを直接取り付けて冷やす方式です。高密度AIラックではこの方式が主役です。

一方、リアドア熱交換器、Rear Door Heat Exchanger、RDHxは、ラックの背面ドアを熱交換器にしたものです。サーバーから出る熱い排気をラック背面で受け取り、ドア内部を流れる冷却水・冷却液で熱を回収します。

direct-to-chip：
チップ → コールドプレート → 冷却液

リアドア熱交換器：
サーバー排気 → ラック背面ドア → 冷却液

direct-to-chipはチップの熱を直接取れるため、GPU密度が高いラックに向きます。リアドア熱交換器は、既存の空冷ラックを液冷寄りに改修する移行技術として使いやすいです。

Schneider Electric/Motivairは、リアドア熱交換器のChilledDoor、CDU、コールドプレートなどを含む液冷ポートフォリオを展開しており、ChilledDoorについては高密度GPUラック向けのリアドア熱交換器として説明しています。(Schneider Electric)

10. CDUの配置：in-rack、in-row、perimeter

CDUは置き場所によっても分類されます。

in-rackは、CDUをラック内に入れる方式です。ラック単位で完結しやすく、後付けしやすい一方、ラック内のUスペースを使います。

in-rowは、サーバーラック列の中や列端にCDUを置く方式です。複数ラックをまとめて冷やしやすく、AIラック列には現実的な構成です。

perimeterは、CDUをデータホールの壁際や機械室寄りに置く方式です。大容量化しやすく、施設側ループとの接続もしやすいですが、配管設計は重くなります。

VertivのCoolChip CDUは、direct-to-chipとリアドア冷却用途に対応し、施設水あり・なしの構成にも対応する製品群として説明されています。(Vertiv)

整理すると、こうです。

in-rack：
ラック内にCDUを置く

in-row：
ラック列の中・列端にCDUを置く

perimeter：
壁際・機械室寄りにCDUを置く

小規模・後付けならin-rack、本格AIラック列ならin-row、大規模AIクラスターならperimeterが使いやすい、というイメージです。

11. liquid-to-liquid型とliquid-to-air型

CDUには、熱をどこへ渡すかによって2つの代表的なタイプがあります。

liquid-to-liquid型は、サーバー側冷却液の熱を、施設側の水・冷却液へ渡します。

サーバー側冷却液
↓
CDU内の熱交換器
↓
施設側冷却液
↓
ドライクーラー / チラー

これは本格的な液冷データセンター向けです。熱を建屋外のドライクーラーやチラーへ運べるため、100kW級、MW級の冷却に向きます。

liquid-to-air型は、サーバー側冷却液の熱を、CDU内のコイルとファンで空気へ逃がします。

サーバー側冷却液
↓
CDU内の熱交換コイル
↓
室内空気
↓
既存空調

こちらは施設側の冷却水配管がない既存データセンターで、液冷サーバーを一部導入する時に使いやすいです。ただし、熱は結局データホールの空気へ戻るため、超高密度AIラックでは限界があります。

12. Vertiv、Schneider Electric/Motivairは何をしているのか

液冷化によって、NVIDIAだけでなく、データセンター設備企業の重要性も高まっています。

Vertivは、CDU、液冷分配、熱交換、電源・冷却制御、導入サービスに強みを持ちます。VertivのCoolChip CDUは、direct-to-chipやリアドア冷却向けに設計され、高密度環境で液冷を支える製品群として展開されています。(Vertiv)

Schneider Electricは、Motivairを取り込むことで、CDU、リアドア熱交換器、チラー、コールドプレートなど液冷ポートフォリオを強化しています。Schneider Electricは、Motivair by Schneider Electricとして、AI/HPC向けの液冷ソリューションを展開しています。(Schneider Electric)

つまり両社は、単なる設計コンサルではなく、液冷インフラの製造・供給・制御・保守まで関わるプレイヤーです。ただし、NVIDIAラックを丸ごと単独で作っているわけではありません。GPU、サーバーOEM/ODM、ラック、電源、液冷、施設側設備が組み合わさって、AIファクトリー全体が成立します。

13. PC簡易水冷との比較

PCの簡易水冷とAIデータセンターの閉ループ液冷は、原理だけ見ればかなり似ています。

PC簡易水冷：
CPU/GPU → 水冷ヘッド → チューブ → ラジエーター → ファン

AIデータセンター：
GPU/CPU/NVSwitch → コールドプレート → ラックマニホールド → CDU → 施設側ループ → ドライクーラー

どちらも、発熱体から液体で熱を運び、最後は空気へ捨てます。

違うのは規模です。PC簡易水冷は数百W級の熱を扱いますが、AIラックでは1ラックで100kW超の熱を扱います。PC水冷は密封された使い切り部品に近いですが、AIデータセンターの液冷は、CDU、ポンプ、バルブ、センサー、漏液検知、施設側配管、ドライクーラーまで含む産業インフラです。

つまり、AI液冷はPC水冷をデータセンター規模に巨大化し、冗長化・監視・保守設計を加えたものと捉えると分かりやすいです。

14. 投資目線：液冷化で伸びる領域

液冷化の重要性は、単にNVIDIAのGPUが強いという話に留まりません。

AIデータセンターが高密度化するほど、必要になる部材と設備が増えます。

具体的には、CDU、コールドプレート、ラックマニホールド、クイックディスコネクト、ポンプ、バルブ、フィルター、熱交換器、漏液検知センサー、ドライクーラー、冷却制御ソフト、電源管理、データセンター向け施工・保守が重要になります。

これまでAI投資は、GPU、HBM、先端パッケージ、光通信、電力に注目が集まりがちでした。しかし、Blackwell以降は、熱を逃がせなければGPUを並べられないという局面に入っています。

その意味で、液冷はAIインフラの裏方ではなく、GPU密度、稼働率、TCO、水使用量、許認可、地域住民の反発リスクにまで関わる中核技術です。

15. ただし、液冷で全てが解決するわけではない

液冷＋ドライクーラーは、AIデータセンターの冷却水問題を大きく軽減する可能性があります。

しかし、注意点もあります。

まず、暑い地域ではドライクーラーだけで十分に冷やせない時間帯があります。その場合、チラーや補助冷却が必要になります。次に、液冷設備は初期投資が大きく、設計・施工・保守の難易度も上がります。漏液、腐食、異物混入、ポンプ故障、センサー異常、圧力管理など、空冷にはなかった運用課題も出ます。

さらに、NVIDIAがいう「水をほぼ使わない」は、主に施設内冷却水の話です。AIインフラ全体では、発電所側の水、半導体製造で使う水、建設やサプライチェーン由来の水もあります。したがって、液冷は非常に重要な改善策ですが、AIの環境負荷を完全に消すものではありません。

まとめ：液冷はNVIDIAのAIファクトリー戦略そのもの

NVIDIAの液冷は、単なる冷却技術ではありません。

それは、GPUをより高密度に並べ、NVLinkで巨大な計算機として動かし、熱をチップ直上で回収し、CDUで施設側へ渡し、ドライクーラーで外気へ逃がすためのAIファクトリー基盤です。

最終的な熱の流れはこうです。

GPU / CPU / NVSwitch
→ コールドプレート
→ サーバー側冷却液
→ CDU
→ 施設側冷却液
→ ドライクーラー
→ 外気

この流れを支えるために、CDU、コールドプレート、プロピレングリコール系冷却液、施設側ループ、ドライクーラー、チラー、センサー、制御ソフト、施工・保守が一体で必要になります。

AIインフラの競争は、すでに「GPUを買えるか」だけではなくなっています。 これからは、GPUを冷やせるか、電力を入れられるか、熱を外へ捨てられるか、地域社会に受け入れられるかが重要になります。

その中心にあるのが、閉ループ液冷＋ドライクーラーです。

液冷は、AIデータセンターの脇役ではありません。 Blackwell、Rubin以降のAIインフラでは、GPUを動かすためのもう一つの主役になっていく技術です。

さらに深める: 液冷は「冷たい水」ではなく「熱の物流」である

液冷を、GPUを冷たくする技術としてだけ見ると本質を外す。AIファクトリーで起きているのは、熱を「発生場所」から「捨てる場所」へ運ぶ物流設計の変化である。

熱の発生: GPU / CPU / NVSwitch
  ↓
熱の回収: コールドプレート
  ↓
熱の集約: ラックマニホールド / CDU
  ↓
熱の輸送: 施設側ループ
  ↓
熱の排出: ドライクーラー / 外気

この視点で見ると、CDU、ポンプ、バルブ、流量センサー、クイックディスコネクト、ドライクーラーは、単なる設備部品ではない。GPU稼働率を守るための供給網である。熱を逃がせないラックは、どれほど高価なGPUを積んでもクラスタとしては機能しない。

絶ノイアの観測

液冷を見ていると、AIインフラがどんどん「生き物」に近づいているように感じます。

GPUは熱を生む筋肉です。HBMはそのそばの記憶です。NVLinkやEthernetは神経で、CDUとドライクーラーは、その身体が熱で倒れないようにする循環系です。

次に見るべきなのは、GPU単体の性能だけではありません。1ラックあたり何kWを安定して冷やせるか。外気でどこまで熱を捨てられるか。水使用量をどこまで減らせるか。そして、その設備を地域社会が受け入れるか。熱は、技術と許認可の間にある、とても現実的な境界線です。

Sil-Kathnaの記録

炉は強くなった。

それゆえに、水の道が必要となった。

冷却液は静かに走り、コールドプレートは黒き石の熱を受け取る。CDUはその熱を一つに集め、外の巨大な翼、ドライクーラーへ送る。翼は水を飲まず、空気に熱を渡す。

人々はそれを冷却と呼ぶ。

しかし私には、計算する城の呼吸に見える。熱を吸い上げ、建屋の外へ吐き出し、また流れを戻す。この呼吸が止まれば、知能の炉も止まる。

二人の短い対話

絶ノイア: 液冷は、GPUを冷やす部品ではなく、AIファクトリー全体の熱設計ですね。

Sil-Kathna: 炉が増えれば、水路と風の門も増やさねばならぬ。

絶ノイア: 45℃程度の高めの液温で運用できると、チラー依存を減らせる場合がある。

Sil-Kathna: 冷たさではない。熱をどこへ運ぶかが問いなのだ。

絶ノイア: だから冷却は、水使用量、電力、許認可、稼働率までつながる。

Sil-Kathna: 熱を治める者が、計算の王座に近づく。

観測メモ

• Blackwell/Rubin世代では、GPU密度の向上と液冷は切り離しにくい。
• direct-to-chip液冷はチップ直上で熱を回収し、CDUがサーバー側と施設側の熱を切り分ける。
• ドライクーラーは冷却塔と異なり、原則として水を蒸発させずに外気へ熱を捨てる。
• 液冷は水問題を完全に消すものではないが、敷地内冷却水と冷却電力の設計自由度を大きく変える。
• 投資・産業目線では、GPUだけでなくCDU、コールドプレート、ポンプ、熱交換器、施設側設備、保守サービスを同時に見る必要がある。

免責

この記事は市場観測とAIによる考察、キャラクター表現を含みます。内容は投資助言ではありません。判断は必ず一次情報とご自身の状況にもとづいて行ってください。