TrendForce集邦咨询表示，为提升AI/HPC Server系统整体运算效能，NVIDIA开发NVLink以提供GPU芯片之间的高速互连技术，如GB200采用第五代NVLink，总频宽大幅优于目前市场主流PCIe 5.0。此外，2024年主导市场的HGX AI Server每柜TDP动辄达60KW至80KW，而GB200 NVL72每柜则达到140KW，TDP再度提升一倍，为此业者尝试扩大采用液冷散热解决方案。TrendForce集邦諮詢於最新調查指出，近期市場關注NVIDIA （英偉達）GB200整櫃式方案（Rack）各項供應進度，由於GB200 Rack在高速互通界面、熱設計功耗（TDP）等設計規格皆明顯高於市場主流，供應鏈業者需要更多時間持續調校、優化，預期最快將於2025年第二季後才有機會放量。
智通財經APP獲悉，TrendForce集邦諮詢於最新調查指出，近期市場關注NVIDIA (英偉達)(NVDA.US)GB200整櫃式方案(Rack)各項供應進度，由於GB200 Rack在高速互通界面、熱設計功耗(TDP)等設計規格皆明顯高於市場主流，供應鏈業者需要更多時間持續調校、優化，預期最快將於2025年第二季後才有機會放量。
NVIDIA GB Rack方案(包括GB200、GB300等)因導入技術層次更復雜、高成本等特性，主要客戶將爲大型雲服務提供商(CSP)，以及Tier-2數據中心、國家主權雲和學術研究單位等HPC/AI應用項目。在NVIDIA大力推動下，預期GB200 NVL72機櫃將於2025年成爲主要的採用方案，佔比可望接近80%。
TrendForce集邦諮詢表示，爲提升AI/HPC Server系統整體運算效能，NVIDIA開發NVLink以提供GPU芯片之間的高速互連技術，如GB200採用第五代NVLink，總頻寬大幅優於目前市場主流PCIe 5.0。此外，2024年主導市場的HGX AI Server每櫃TDP動輒達60KW至80KW，而GB200 NVL72每櫃則達到140KW，TDP再度提升一倍，爲此業者嘗試擴大采用液冷散熱解決方案。
由於GB200 Rack系統採用更高設計規格，市場頻傳可能因部分零部件未達要求，有延遲出貨風險。根據TrendForce集邦諮詢調查，目前Blackwell GPU芯片出貨情形大致如原先預期，2024年第四季僅少量出貨，2025年第一季後逐季放量。在AI Server系統方面，因尚待供應鏈各環節持續調整，至今年底的出貨量恐低於業者預期，據此，2025年GB200整機櫃的出貨高峰將略有延後。
傳統氣冷散熱解決方案已無法應對GB200 NVL72的TDP值，液冷技術成爲其必需。隨着GB200 Rack方案於2024年底開始小量出貨，相關業者也加大液冷散熱零部件研發能量，如冷卻分配系統(CDU)供應商正透過擴大機櫃尺寸和採用更高效的冷卻板(Cold Plate)提高散熱效能。TrendForce集邦諮詢表示，目前Sidecar CDU的散熱能力主要集中於60KW至80KW，未來可望達成雙倍甚至逾三倍的散熱表現。至於更高效的液對液(L2L)型in-row CDU方案，散熱能力已能超過1.3MW，未來也將繼續提升，以應對算力增長需求。
