輝達AI水冷散熱時代 來臨

2024/03/12 工商時報 陳穎芃 、 鄭淑芳

GPU產品路徑圖
 

AI散熱模式將跨入「水冷」時代，輝達執行長黃仁勳稍早證實，下一代DGX伺服器將採用水冷散熱。儘管黃仁勳未說明具體內容，但外媒指出黃仁勳可望在輝達18日舉辦的GTC大會上發表下一代GPU伺服器詳情。

GTC大會將公布詳情

黃仁勳上周末出席史丹福大學舉辦的經濟研討會，於會中表示輝達下一代DGX伺服器「在各方面都相當完美」，且運算能力是「資料中心規模」。

輝達新世代GPU B100即將亮相，市場投以矚目焦點，而散熱族群更在輝達執行長黃仁勳提前劇透新一代DGX將全面導入水冷，包括雙鴻、尼得科超眾11日股價飆升至漲停板價位，高力及奇鋐分別上漲8.66％及1.91％。

戴爾營運長克拉克（Jeff Clarke）日前發表季度財報時搶先透露，輝達預定明年推出的B100 GPU能耗將達1,000W，高於H100 GPU的700W。克拉克雖表示B100還不需要動用直接水冷散熱，但他預期B200 GPU能耗更大，勢必得改用水冷散熱。

掌管DGX系統產品的輝達執行副總裁波爾（Charlie Boyle）去年曾表示，輝達極力避免DGX GH200伺服器採用水冷散熱，主要是因為許多客戶擔心水冷散熱必須大幅調整伺服器系統設計，但當時波爾已預告隨著AI晶片運算能力持續增強，最後終究要從氣冷走向水冷散熱。

走向CPU+GPU封裝設計

科技業者表示，輝達過去GPU採均熱板氣冷散熱，已不足以因應B100等新架構GPU，今年下半年量產的B100和今年底小幅量產的B200功耗將逐步推升至1,000W以上，且未來AI系統晶片可望走向CPU+GPU的封裝設計，需功耗更將提升至2,000W以上，對於散熱需求將是長線趨勢。

法人指出，以美超微（Supermicro）為例，採用六大關鍵元件包括水冷板（Cold Plate）、液冷分配器（CDU）、幫浦、分歧管（CDM）及冷卻液體為主，水冷產業將倍數成長，2026年水冷散熱在AI市場滲透率上看五成以上。

另外，輝達在推動技術升級之餘也悄悄開始擴大投資新創企業，逐步打造輝達AI晶片生態圈。華爾街日報引述Dealogic資料報導，去年輝達一共投資超過36家新創企業，數量是前年的3倍以上。截至今年1月為止，輝達對這些新創企業投入的資金總額達到15.5億美元，與1年前的3億美元相比增幅驚人。