AIサーバーの熱設計は、この数年でデータセンター業界の最重要テーマに躍り出ました。GPU 1個の熱設計電力（TDP）は1,000Wを超え、ラックあたりの電力密度は従来の10倍にあたる100kW超へ。NVIDIAのGB200/GB300 NVL72に代表されるラックスケールAIシステムは完全液冷を前提とし、給電と冷却を一体で設計する時代が始まっています。本ページでは高密度化の実態と、それが冷却設備に突きつける設計要件を報告します。
GPUのTDPはどこまで上がったか
AIアクセラレータの熱設計電力は世代ごとに階段状に上昇してきました。2017年のV100は300W、2020年のA100は400W、2022年のH100はSXM版で700W、2024年のBlackwell世代B200は約1,000W、そして2025年のGB300世代では1個あたり1,400W級に達しています。次のRubin世代ではさらに引き上げられるロードマップが公表されており、チップ単体の発熱がすでに家庭用電子レンジを超える水準です。
図1 NVIDIA主要GPUのTDP推移（W/チップ）
8年間でTDPは約4.7倍に上昇。空冷ヒートシンクで処理できる実用上限（チップあたり700〜800W程度）をすでに超えています。
重要なのは、この上昇が「止まる兆しがない」ことです。演算性能あたりの電力効率は世代ごとに改善しているものの、AIモデルの大規模化がそれを上回るペースで演算需要を生み、結果としてチップ単体の絶対発熱量は増え続けています。冷却業界にとってこのロードマップは、数年先までの需要を約束する事実上の受注予報になっています。
発熱の「質」も変わっています。チップレット化とHBMメモリの積層により、発熱がパッケージ内の狭い領域に集中するホットスポットが強まり、平均温度だけでなく局所温度の管理が難しくなりました。コールドプレートの流路をホットスポット直上で密にするなど、冷却部品の設計は半導体パッケージの内部構造と一体で考える段階に入っています。
ラック電力密度の急上昇
チップの発熱はラック単位で集積されます。従来のクラウド向けデータセンターのラック密度は5〜15kWが標準で、高密度と呼ばれる構成でも20〜30kW程度でした。これに対してGB200 NVL72ラックは約120kW、GB300世代では140kW前後に達し、2027年に予定されるRubin Ultra世代のラックは600kW級という計画が公表されています。わずか数年でラック密度の「常識」が一桁変わったことになります。
密度が上がる理由は、AI学習の性能がGPU間の通信速度に強く依存するためです。チップを物理的に近づけるほど高速・低消費電力の銅接続が使えるため、ベンダーには「詰め込むほど速くなる」強い動機があります。発熱の集中は高密度化の副作用ではなく、性能追求の必然的な帰結なのです。
図2 ラック電力密度の比較（kW/ラック）
600kW級ラックは中規模オフィスビル1棟分の電力を1本のラックで消費する計算であり、給電・冷却・床荷重のすべてが再設計の対象になります。
密度上昇は冷却だけでなく施設設計全体を変えます。1ラック数トンに達する重量への床補強、太径化する冷却配管のルート確保、ラックあたり数百アンペア級の給電など、建屋そのものがAI専用設計になりつつあります。汎用データセンターとAIデータセンターは、もはや別種の建築物と考えるべき段階に来ています。
高密度化には合理的な見返りもあります。同じ計算能力を狭い床面積に収められるため、土地・建屋のコストと、チップ間を結ぶ高価な光配線の距離を同時に節約できるのです。「密度を上げるほど冷却は難しくなるが、システム全体は安く速くなる」というトレードオフの均衡点が、世代ごとに高密度側へ移動し続けている、というのがこの数年の本質です。
GB200/GB300 NVL72と完全液冷
2024年に発表されたGB200 NVL72は、72基のBlackwell GPUと36基のGrace CPUを1ラックに収め、全体を単一の巨大GPUのように動作させるラックスケールシステムです。この構成を可能にしたのが完全液冷設計であり、すべての演算チップにコールドプレートが装着され、ラック内マニホールドとCDUを通じて熱が回収されます。2025年のGTCで発表された後継のGB300 NVL72、さらに2026年以降のRubin世代でも、液冷は標準構成として明示されています。
これは冷却業界にとって決定的な転換点でした。サーバーベンダーの最上位製品が液冷を前提とした瞬間、データセンター事業者に方式選択の余地はなくなり、「液冷に対応できるか」が受注競争の入場券になったからです。実際、世界のハイパースケーラーとGPUクラウド事業者は、NVL72系ラックの設置能力を軸に施設計画を再編しています。
NVL72の設計で注目すべきは、冷却が性能の一部として扱われている点です。72基のGPUを1つの計算ドメインとして動かすには、チップ間を結ぶ銅ケーブルの距離を最小化する高密度実装が不可欠で、それは液冷なしには物理的に成立しません。つまり液冷は「発熱への対症療法」ではなく、「性能を引き出すための前提技術」に位置づけが変わりました。この構図はAMDなど他のアクセラレータベンダーのラックスケール製品にも共通しており、ハイパースケーラーが自社開発するAIチップのラックでも同様に、液冷前提の高密度実装が業界全体の標準設計思想になっています。
45℃温水冷却という発想の転換
液冷の普及とともに広がっているのが「温水冷却」という考え方です。従来の空調は15℃前後の冷水を必要とし、その製造に冷凍機（チラー）の大きな電力を要しました。一方、コールドプレートに直接液体を流すDLCでは、チップの許容温度が高いため45℃前後の「温水」でも十分に冷却が成立します。NVIDIAも45℃温水での運転を想定した設計を公表しており、業界の標準条件になりつつあります。
温水で冷やせることの意味は大きく、冷凍機を使わずに屋外の冷却塔やドライクーラーだけで放熱できる時間帯が大幅に増えます。これはPUE（電力使用効率）の改善に直結し、寒冷地では通年フリークーリングも視野に入ります。さらに、回収した40〜50℃の温水は地域熱供給や農業への再利用価値を持ちます。省エネと排熱再利用の詳細はPUE・WUEと省エネで扱います。
ただし温水設計には精密さが要求されます。入口水温が高いほどチップとの温度差（熱を押し出す余裕）は小さくなるため、コールドプレートの流路設計、流量配分、そしてチップごとの発熱ばらつきの管理がシビアになります。「何℃の水で、どの世代のチップを、どの稼働率まで支えられるか」という熱設計の方程式が、施設の資産価値を直接決める時代になったと言えます。
800VDC給電と冷却の一体設計
高密度化は給電方式にも波及しています。NVIDIAは2026年以降のAIファクトリー向けに800V直流（800VDC）給電への移行を提唱し、電源大手・冷却大手がこれに対応するリファレンス設計を相次いで発表しました。電圧を上げて電流を減らすことで、銅材の削減と変換損失の低減を狙うものですが、同時にラック内の電力変換部品の発熱分布が変わるため、冷却設計と給電設計を切り離せなくなります。
この結果、業界では「パワー&クーリング」を一体のシステムとして提供する動きが加速しています。CDU、分電盤、バスバー、バッテリーバックアップを同一ベンダーがラック単位・列単位でプレファブ化して納入するモデルが広がり、従来は別々だった電気設備業界と空調設備業界の垣根が急速に溶けています。ベンダー勢力図は主要企業とM&A動向をご覧ください。
熱設計の実務課題
高密度AIラックの熱設計には、カタログスペックには現れにくい実務課題が数多くあります。第一に負荷変動です。AI学習ジョブの開始・停止でラック全体の消費電力が数十kW単位で瞬時に変動し、冷却系には急峻な追従性が求められます。流量制御の遅れはチップのサーマルスロットリング（性能低下）に直結します。
第二に部分故障時の熱リスクです。ポンプやCDUの冗長構成、漏えい検知時の自動遮断、停電時に冷却が停止した場合の温度上昇速度（サーマルランナウェイ）の評価など、空冷時代より障害シナリオが複雑になっています。液冷ラックは熱容量が小さいため、冷却停止から温度限界までの猶予は分単位しかありません。
第三に規格の過渡期であることです。コールドプレートの接続規格、冷媒の仕様、CDUの通信プロトコルは標準化団体（OCPなど）での議論が進行中で、現時点ではベンダー間の相互運用性が完全ではありません。マルチベンダー構成を計画する事業者は、規格動向を継続的に確認する必要があります。
最後に人材の課題があります。高密度ラックの熱設計には、IT・電気・空調・水処理にまたがる横断知識が必要ですが、この領域を体系的に学べる教育課程はまだ整っておらず、経験者の争奪戦が世界的に起きています。設備投資と同時に、設計・運用人材の育成投資をどう組み込むかが、AIデータセンター計画の隠れたボトルネックになりつつあります。導入手順の詳細は液冷導入の実務で報告します。