NVIDIAのGB300とCoWoS-L

#

NVIDIAのGB300にCoWoSはどのように使われていますか？

#

主要ポイント

#

CoWoSは、NVIDIAのGB300でB300 GPUをパッケージングするために使用されます。
CoWoS-L技術は、2つの計算ダイと複数のHBMメモリダイをRDLインター poserで統合します。
これはAIワークロードのパフォーマンスを向上させる高密度統合を可能にします。

#

概要

#

NVIDIAのGB300は、次世代AIサーバープラットフォームで、B300 GPUを使用しています。このB300 GPUは、TSMCのCoWoS-L（Chip on Wafer on Substrate - Large）パッケージング技術を使用して製造されています。この技術は、2つの計算ダイと複数のHBM（High Bandwidth Memory）メモリダイを再配線層（RDL）インターposerに統合し、高密度なパッケージングを実現します。これにより、AIワークロードの性能と効率が向上します。

#

詳細

#

GB300サーバープラットフォームは、288GBのHBM3Eメモリと12層スタックを特徴とし、前の世代（GB200）よりも性能が向上しています。B300 GPU自体は、TSMCの4NPプロセスノードに基づく新しい設計で、FLOPS性能が50%向上し、消費電力は1.4KWに達します。CoWoS-Lは、特にAIトレーニングチップ向けに設計されており、計算ダイとメモリダイ間の高帯域幅接続を可能にします。

#

興味深いことに、GB300 NVL72構成では、2つの計算ダイを使用したデュアルダイ設計が採用されており、これはCoWoS-Lによって実現されています。このパッケージングアプローチは、GPUのスケーラビリティと性能を高め、サーバー内のメンテナンスやアップグレードを容易にするソケット設計と組み合わせることで、さらに柔軟性が増します。

#

調査ノート：NVIDIA GB300におけるCoWoSの使用に関する詳細分析

#

NVIDIAのGB300 AIサーバープラットフォームとそのB300 GPUにおけるCoWoS（Chip on Wafer on Substrate）の使用は、最新の半導体パッケージング技術の進化を反映しています。以下では、利用可能な情報に基づいて詳細を調査し、技術的背景とその影響を明らかにします。

#

背景とコンテキスト

#

GB300は、2025年3月のGTCカンファレンスで発表される予定の次世代AIサーバープラットフォームで、Blackwell UltraシリーズのB300 GPUを統合しています。このプラットフォームは、前の世代（GB200）からメモリ容量を192GBから288GB（12層HBM3E）に増強し、ネットワーク速度をConnectX 7からConnectX 8（800Gbpsから1.6Tbps）にアップグレードしています。また、FP4性能は50%向上し、消費電力は1,400Wに達します。

#

B300 GPUは、TSMCの4NPプロセスノードに基づく新しいテープアウトで、計算ダイの設計が最適化されています。これにより、FLOPS性能がB200に対して50%向上し、一部はTDPの増加（GB300で1.4KW、B300 HGXで1.2KW）によるものです。

#

CoWoSとCoWoS-Lの技術的詳細

#

CoWoSは、TSMCが開発した2.5D ICパッケージング技術で、シリコンインターposer上に複数のダイをサイドバイサイドで配置し、高密度な相互接続と性能向上を実現します。個々のチップはマイクロバンプを通じてインターposerに結合され、TSV（Through-Silicon Via）で垂直接続が提供されます。

#

一方、CoWoS-LはCoWoSの派生形で、RDL（Redistribution Layer）インターposerを使用します。これはポリマーと銅トレースで構成され、機械的に柔軟で、C4ジョイントの完全性を高め、より複雑な機能要件に対応する大型パッケージを可能にします。CoWoS-Lは特にAIトレーニングチップ向けに設計されており、2023-2024年に商業生産が開始される予定でした。

#

GB300におけるCoWoS-Lの具体的使用

#

GB300のB300 GPUは、CoWoS-Lパッケージングを使用して製造されています。この技術は、2つの計算ダイと複数のHBMメモリダイをRDLインターposerに統合します。たとえば、GB300 NVL72構成では、デュアルダイ設計が採用されており、これはCoWoS-Lによって実現されています。これは、B200（前のBlackwell世代）も同様に2つの計算ダイを使用していたことと一致します。

#

この統合により、計算ダイ間の10 TB/sのチップ間リンク（Blackwellアーキテクチャの特徴）と、288GBのHBM3Eメモリ（12層スタック）の高帯域幅接続が可能です。CoWoS-Lの使用は、GPUのスケーラビリティと性能を高め、AIワークロード、特に推論モデルとトレーニングモデルの性能を大幅に向上させます。

#

設計とパフォーマンスの影響

#

CoWoS-Lの採用は、GB300の性能向上に大きく貢献しています。たとえば、FP4性能はB200に対して1.5倍に向上し、これは計算ダイの設計最適化とCoWoS-Lによる高密度パッケージングの結果です。また、メモリ容量の増加（288GB HBM3E）は、長いシーケンス長のKVキャッシュを扱うOpenAI O3スタイルのLLM推論トレーニングに特に重要です。

#

さらに、GB300サーバープラットフォームはソケット設計を導入しており、B300 GPUのメンテナンスとアップグレードを容易にします。これは、CoWoS-LパッケージングがGPU内部のダイ統合を処理し、サーバーレベルでの柔軟性を高めることを意味します。

#

供給チェーンと市場の影響

#

CoWoS-Lの需要は、GB300の導入により2025年に増加すると予想されています。FoxconnとQuantaはGB300の主要サプライヤーであり、Inventecも注文シェアを増やしています。この移行は、Hopper GPUのライフサイクル終了に伴うCoWoS-S注文の減少を補うと見込まれています。

#

表：GB300とB300の主要仕様比較

#

項目	GB300	B200 (前世代)
HBMメモリ容量	288GB (12層HBM3E)	192GB (8層HBM3E)
消費電力 (TDP)	1,400W (GB300), 1,200W (B300 HGX)	1,200W (GB200), 1,000W (B200)
ネットワーク速度	ConnectX 8 (1.6Tbps)	ConnectX 7 (800Gbps)
FP4性能	B200比1.5倍	基準
パッケージング技術	CoWoS-L	CoWoS-L (推定)

#

結論

#

NVIDIAのGB300におけるCoWoSの使用は、B300 GPUのCoWoS-Lパッケージングを通じて実現されています。この技術は、2つの計算ダイと複数のHBMメモリダイをRDLインターposerに統合し、AIワークロードの性能と効率を向上させます。このアプローチは、GB300のスケーラビリティとメンテナンス性を高め、次世代AIコンピューティングのニーズに対応します。

#

NVIDIAのGB300は、AIサーバープラットフォームで、B300 GPUを使用しています。
CoWoS-L技術は、B300 GPUの2つの計算ダイと複数のHBMメモリダイを統合するために使用されます。
これにより、AIワークロードのパフォーマンスと効率が向上します。

#

GB300の概要

#

NVIDIAのGB300は、2025年3月のGTCカンファレンスで発表された次世代AIサーバープラットフォームで、Blackwell UltraシリーズのB300 GPUを統合しています。このプラットフォームは、288GBのHBM3Eメモリ（12層スタック）を特徴とし、前の世代（GB200）よりも性能が向上しています。B300 GPUは、TSMCの4NPプロセスノードに基づく新しい設計で、FP4性能が50%向上し、消費電力は1,400Wに達します。

#

CoWoSの使用

#

B300 GPUは、TSMCのCoWoS-L（Chip on Wafer on Substrate - Large）パッケージング技術を使用して製造されています。この技術は、2つの計算ダイと複数のHBMメモリダイを再配線層（RDL）インターposerに統合し、高密度なパッケージングを実現します。これにより、計算ダイ間の10 TB/sのチップ間リンクと288GBのHBM3Eメモリの高帯域幅接続が可能になり、AIワークロード、特に推論モデルとトレーニングモデルの性能が大幅に向上します。

#

予想外の詳細

#

興味深いことに、GB300 NVL72構成では、デュアルダイ設計が採用されており、これはCoWoS-Lによって実現されています。この設計は、GPUのスケーラビリティとメンテナンス性を高め、サーバー内のアップグレードを容易にするソケット設計と組み合わせることで、さらに柔軟性が増します。

#

調査ノート：NVIDIA GB300とCoWoSの詳細分析

#

NVIDIAのGB300 AIサーバープラットフォームとそのB300 GPUにおけるCoWoS（Chip on Wafer on Substrate）の使用は、最新の半導体パッケージング技術の進化を反映しています。以下では、利用可能な情報に基づいて詳細を調査し、技術的背景とその影響を明らかにします。

#

背景とコンテキスト

#

GB300は、2025年3月のGTCカンファレンスで発表された次世代AIサーバープラットフォームで、Blackwell UltraシリーズのB300 GPUを統合しています。このプラットフォームは、前の世代（GB200）からメモリ容量を192GBから288GB（12層HBM3E）に増強し、ネットワーク速度をConnectX 7からConnectX 8（800Gbpsから1.6Tbps）にアップグレードしています。また、FP4性能は50%向上し、消費電力は1,400Wに達します。

#

B300 GPUは、TSMCの4NPプロセスノードに基づく新しいテープアウトで、計算ダイの設計が最適化されています。これにより、FLOPS性能がB200に対して50%向上し、一部はTDPの増加（GB300で1.4KW、B300 HGXで1.2KW）によるものです。

#

CoWoSとCoWoS-Lの技術的詳細

#

CoWoSは、TSMCが開発した2.5D ICパッケージング技術で、シリコンインターposer上に複数のダイをサイドバイサイドで配置し、高密度な相互接続と性能向上を実現します。個々のチップはマイクロバンプを通じてインターposerに結合され、TSV（Through-Silicon Via）で垂直接続が提供されます。

#

一方、CoWoS-LはCoWoSの派生形で、RDL（Redistribution Layer）インターposerを使用します。これはポリマーと銅トレースで構成され、機械的に柔軟で、C4ジョイントの完全性を高め、より複雑な機能要件に対応する大型パッケージを可能にします。CoWoS-Lは特にAIトレーニングチップ向けに設計されており、2023-2024年に商業生産が開始される予定でした。

#

GB300におけるCoWoS-Lの具体的使用

#

GB300のB300 GPUは、CoWoS-Lパッケージングを使用して製造されています。この技術は、2つの計算ダイと複数のHBMメモリダイをRDLインターposerに統合します。たとえば、GB300 NVL72構成では、デュアルダイ設計が採用されており、これはCoWoS-Lによって実現されています。これは、B200（前のBlackwell世代）も同様に2つの計算ダイを使用していたことと一致します。

#

この統合により、計算ダイ間の10 TB/sのチップ間リンク（Blackwellアーキテクチャの特徴）と、288GBのHBM3Eメモリ（12層スタック）の高帯域幅接続が可能です。CoWoS-Lの使用は、GPUのスケーラビリティと性能を高め、AIワークロード、特に推論モデルとトレーニングモデルの性能を大幅に向上させます。

#

設計とパフォーマンスの影響

#

CoWoS-Lの採用は、GB300の性能向上に大きく貢献しています。たとえば、FP4性能はB200に対して1.5倍に向上し、これは計算ダイの設計最適化とCoWoS-Lによる高密度パッケージングの結果です。また、メモリ容量の増加（288GB HBM3E）は、長いシーケンス長のKVキャッシュを扱うOpenAI O3スタイルのLLM推論トレーニングに特に重要です。

#

さらに、GB300サーバープラットフォームはソケット設計を導入しており、B300 GPUのメンテナンスとアップグレードを容易にします。これは、CoWoS-LパッケージングがGPU内部のダイ統合を処理し、サーバーレベルでの柔軟性を高めることを意味します。

#

供給チェーンと市場の影響

#

CoWoS-Lの需要は、GB300の導入により2025年に増加すると予想されています。FoxconnとQuantaはGB300の主要サプライヤーであり、Inventecも注文シェアを増やしています。この移行は、Hopper GPUのライフサイクル終了に伴うCoWoS-S注文の減少を補うと見込まれています。

#

表：GB300とB300の主要仕様比較

#

項目	GB300	B200 (前世代)
HBMメモリ容量	288GB (12層HBM3E)	192GB (8層HBM3E)
消費電力 (TDP)	1,400W (GB300), 1,200W (B300 HGX)	1,200W (GB200), 1,000W (B200)
ネットワーク速度	ConnectX 8 (1.6Tbps)	ConnectX 7 (800Gbps)
FP4性能	B200比1.5倍	基準
パッケージング技術	CoWoS-L	CoWoS-L (推定)

#

結論

#

NVIDIAのGB300におけるCoWoSの使用は、B300 GPUのCoWoS-Lパッケージングを通じて実現されています。この技術は、2つの計算ダイと複数のHBMメモリダイをRDLインターposerに統合し、AIワークロードの性能と効率を向上させます。このアプローチは、GB300のスケーラビリティとメンテナンス性を高め、次世代AIコンピューティングのニーズに対応します。

#

主要引用

#

主要ポイント

#

CoWoSは、TSMCが開発した高性能コンピューティング向けの2.5Dパッケージング技術で、AIやスーパーコンピューティングに使用されます。
複数のチップを1つのシリコンインターposerに統合し、性能と統合密度を向上させます。
CoWoSにはCoWoS-S、CoWoS-R、CoWoS-Lの3つのバリエーションがあり、それぞれ異なる用途に適しています。
NVIDIAのGB300では、B300 GPUにCoWoS-Lが使用され、2つの計算ダイと複数のHBMメモリダイを統合します。

#

直接回答

#

概要

#

CoWoS（Chip on Wafer on Substrate）は、TSMCが開発した先進的なパッケージング技術で、主にAIや高性能コンピューティング（HPC）向けに設計されています。この技術は、複数のチップをシリコンインターposer上に配置し、従来の2Dパッケージングよりも高い性能と統合密度を提供します。研究によれば、CoWoSはチップ間の接続距離を短縮し、データ転送速度を向上させ、消費電力を低減します。

#

バリエーション

#

CoWoSには3つの主要なバリエーションがあります：

#

CoWoS-S: シリコンインターposerを使用し、大型のインターposerが必要な高性能アプリケーションに適しています。
CoWoS-R: ポリマーと銅トレースからなるRDL（再配線層）インターposerを使用し、ネットワーク製品向けにコスト効率を高めます。
CoWoS-L: CoWoS-SとInFO技術を組み合わせ、LSI（ローカルシリコンインターコネクト）チップとRDL層を使用して、より複雑な統合を可能にします。

#

NVIDIA GB300での使用

#

NVIDIAのGB300サーバープラットフォームでは、B300 GPUにCoWoS-Lが使用されています。これは、2つの計算ダイと複数のHBM（高帯域幅メモリ）ダイを統合し、AIワークロードのパフォーマンスを最大化します。たとえば、GB300 NVL72構成では、このパッケージングにより288GBのHBM3Eメモリ（12層スタック）をサポートし、計算ダイ間の10 TB/sのチップ間リンクを実現します。

#

予想外の詳細

#

興味深いことに、CoWoS-Lはソケット設計と組み合わせることで、GPUのメンテナンスとアップグレードを容易にし、サーバーの柔軟性を高めます。これは、AIデータセンターの運用効率を向上させる可能性があります。

#

調査ノート：CoWoSの詳細分析

#

NVIDIAのGB300とそのB300 GPUにおけるCoWoS（Chip on Wafer on Substrate）の使用は、最新の半導体パッケージング技術の進化を反映しています。以下では、利用可能な情報に基づいて詳細を調査し、技術的背景とその影響を明らかにします。

#

背景とコンテキスト

#

CoWoSは、TSMCが開発した2.5D ICパッケージング技術で、シリコンインターposer上に複数のダイをサイドバイサイドで配置し、高密度な相互接続と性能向上を実現します。個々のチップはマイクロバンプを通じてインターposerに結合され、TSV（Through-Silicon Via）で垂直接続が提供されます。この技術は、特にAIトレーニングチップや高性能コンピューティング（HPC）アプリケーション向けに設計されており、2023-2024年に商業生産が開始されました。

#

GB300は、2025年3月のGTCカンファレンスで発表された次世代AIサーバープラットフォームで、Blackwell UltraシリーズのB300 GPUを統合しています。このプラットフォームは、288GBのHBM3Eメモリ（12層スタック）を特徴とし、前の世代（GB200）よりも性能が向上しています。B300 GPUは、TSMCの4NPプロセスノードに基づく新しい設計で、FP4性能が50%向上し、消費電力は1,400Wに達します。

#

CoWoSのバリエーション

#

CoWoSには3つの主要なバリエーションがあり、それぞれ異なる用途と技術的特徴を持っています：

#

CoWoS-S: シリコンインターposerを使用し、TSVを通じて高密度な相互接続を提供します。最大3.3Xレティクルサイズ（約2,700mm²）のインターposerが生産可能で、AIサーバーやHPC製品（例：NVIDIAのH100、AMDのMI300）に使用されます。ただし、生産コストが高く、大きなシリコンインターposerの歩留まり問題が課題です。
CoWoS-R: InFO（Integrated Fan-Out）技術と有機インターposerを採用し、シリコンインターposerを置き換えます。RDLインターposerはポリマーと銅トレースで構成され、熱膨張係数のミスマッチによる信頼性問題を軽減します。これにより、コストを下げ、ネットワーク製品向けに適しています。
CoWoS-L: CoWoS-SとInFO技術の利点を組み合わせた最新技術で、LSI（Local Silicon Interconnect）チップをシリコンインターposerに組み込み、チップ間接続とRDL層による電力・信号伝達を提供します。1.5Xレティクルサイズから始まり、SoC + 4x HBMキューブの統合を可能にし、将来的にはさらに大きなサイズへの拡張が予定されています。このバリエーションは、特に複雑な機能要件を持つAIチップに適しており、TSVやTIV（Through InFO Via）を使用して歩留まり問題を軽減します。

#

GB300におけるCoWoS-Lの具体的使用

#

GB300のB300 GPUは、CoWoS-Lパッケージングを使用して製造されています。この技術は、2つの計算ダイと複数のHBMメモリダイをRDLインターposerに統合します。たとえば、GB300 NVL72構成では、デュアルダイ設計が採用されており、これはCoWoS-Lによって実現されています。これは、B200（前のBlackwell世代）も同様に2つの計算ダイを使用していたことと一致します。

#

この統合により、計算ダイ間の10 TB/sのチップ間リンク（Blackwellアーキテクチャの特徴）と、288GBのHBM3Eメモリ（12層スタック）の高帯域幅接続が可能です。CoWoS-Lの使用は、GPUのスケーラビリティと性能を高め、AIワークロード、特に推論モデルとトレーニングモデルの性能を大幅に向上させます。

#

設計とパフォーマンスの影響

#

CoWoS-Lの採用は、GB300の性能向上に大きく貢献しています。たとえば、FP4性能はB200に対して1.5倍に向上し、これは計算ダイの設計最適化とCoWoS-Lによる高密度パッケージングの結果です。また、メモリ容量の増加（288GB HBM3E）は、長いシーケンス長のKVキャッシュを扱うOpenAI O3スタイルのLLM推論トレーニングに特に重要です。

#

さらに、GB300サーバープラットフォームはソケット設計を導入しており、B300 GPUのメンテナンスとアップグレードを容易にします。これは、CoWoS-LパッケージングがGPU内部のダイ統合を処理し、サーバーレベルでの柔軟性を高めることを意味します。

#

供給チェーンと市場の影響

#

CoWoS-Lの需要は、GB300の導入により2025年に増加すると予想されています。FoxconnとQuantaはGB300の主要サプライヤーであり、Inventecも注文シェアを増やしています。この移行は、Hopper GPUのライフサイクル終了に伴うCoWoS-S注文の減少を補うと見込まれています。TrendForceの報告によれば、NVIDIAは2025年にグローバルHBM市場の70%以上を占め、CoWoS-Lの需要を牽引すると予測されています (Press Center - NVIDIA Renames Blackwell Ultra to B300 Series; CoWoS-L Expected to See Growth by 2025, Says TrendForce)。

#

表：CoWoSバリエーションの比較

#

バリエーション	インターposerの種類	主な用途	特徴
CoWoS-S	シリコンインターposer	AIサーバー、HPC製品	TSVを使用、高密度接続、コスト高、歩留まり問題あり
CoWoS-R	RDLインターposer（有機）	ネットワーク製品	コスト効率、熱膨張係数のミスマッチ軽減、柔軟性あり
CoWoS-L	LSIチップ+RDLインターposer	複雑なAIチップ	高密度ルーティング、TSV/TIV使用、拡張性高、ソケット設計との相性良好

#

結論

#

CoWoSは、TSMCの先進的なパッケージング技術で、AIとHPCの性能向上に貢献します。NVIDIAのGB300では、B300 GPUにCoWoS-Lが使用され、2つの計算ダイとHBMメモリダイの統合を可能にし、AIワークロードの効率とスケーラビリティを高めます。この技術は、データセンターの運用効率を向上させる可能性があり、2025年の市場で重要な役割を果たすと予想されます。

#

主要引用

#

記事はgrok3 DeepSeach 画像はnovelai

#

NVIDIAのGB300にCoWoSはどのように使われていますか？

主要ポイント

概要

詳細

調査ノート：NVIDIA GB300におけるCoWoSの使用に関する詳細分析

背景とコンテキスト

CoWoSとCoWoS-Lの技術的詳細

GB300におけるCoWoS-Lの具体的使用

設計とパフォーマンスの影響

供給チェーンと市場の影響

表：GB300とB300の主要仕様比較

結論

主要引用

NVIDIAのGB300について詳しく教えて下さい

主要ポイント

GB300の概要

CoWoSの使用

予想外の詳細

調査ノート：NVIDIA GB300とCoWoSの詳細分析

背景とコンテキスト

CoWoSとCoWoS-Lの技術的詳細

GB300におけるCoWoS-Lの具体的使用

設計とパフォーマンスの影響

供給チェーンと市場の影響

表：GB300とB300の主要仕様比較

結論

主要引用

主要ポイント

直接回答

概要

バリエーション

NVIDIA GB300での使用

予想外の詳細

調査ノート：CoWoSの詳細分析

背景とコンテキスト

CoWoSのバリエーション

GB300におけるCoWoS-Lの具体的使用

設計とパフォーマンスの影響

供給チェーンと市場の影響

表：CoWoSバリエーションの比較

結論

主要引用