輝達AI水冷散熱時代 來臨
2024/03/12 工商時報 陳穎芃 、 鄭淑芳
AI散熱模式將跨入「水冷」時代,輝達執行長黃仁勳稍早證實,下一代DGX伺服器將採用水冷散熱。儘管黃仁勳未說明具體內容,但外媒指出黃仁勳可望在輝達18日舉辦的GTC大會上發表下一代GPU伺服器詳情。
GTC大會將公布詳情
黃仁勳上周末出席史丹福大學舉辦的經濟研討會,於會中表示輝達下一代DGX伺服器「在各方面都相當完美」,且運算能力是「資料中心規模」。
輝達新世代GPU B100即將亮相,市場投以矚目焦點,而散熱族群更在輝達執行長黃仁勳提前劇透新一代DGX將全面導入水冷,包括雙鴻、尼得科超眾11日股價飆升至漲停板價位,高力及奇鋐分別上漲8.66%及1.91%。
戴爾營運長克拉克(Jeff Clarke)日前發表季度財報時搶先透露,輝達預定明年推出的B100 GPU能耗將達1,000W,高於H100 GPU的700W。克拉克雖表示B100還不需要動用直接水冷散熱,但他預期B200 GPU能耗更大,勢必得改用水冷散熱。
掌管DGX系統產品的輝達執行副總裁波爾(Charlie Boyle)去年曾表示,輝達極力避免DGX GH200伺服器採用水冷散熱,主要是因為許多客戶擔心水冷散熱必須大幅調整伺服器系統設計,但當時波爾已預告隨著AI晶片運算能力持續增強,最後終究要從氣冷走向水冷散熱。
走向CPU+GPU封裝設計
科技業者表示,輝達過去GPU採均熱板氣冷散熱,已不足以因應B100等新架構GPU,今年下半年量產的B100和今年底小幅量產的B200功耗將逐步推升至1,000W以上,且未來AI系統晶片可望走向CPU+GPU的封裝設計,需功耗更將提升至2,000W以上,對於散熱需求將是長線趨勢。
法人指出,以美超微(Supermicro)為例,採用六大關鍵元件包括水冷板(Cold Plate)、液冷分配器(CDU)、幫浦、分歧管(CDM)及冷卻液體為主,水冷產業將倍數成長,2026年水冷散熱在AI市場滲透率上看五成以上。
另外,輝達在推動技術升級之餘也悄悄開始擴大投資新創企業,逐步打造輝達AI晶片生態圈。華爾街日報引述Dealogic資料報導,去年輝達一共投資超過36家新創企業,數量是前年的3倍以上。截至今年1月為止,輝達對這些新創企業投入的資金總額達到15.5億美元,與1年前的3億美元相比增幅驚人。
【2024業界能專計畫宣導說明會】4月18日臺北、4月23日臺中、4月26日高雄共3場次,歡迎踴躍報名 | |
(商研院)政府診斷輔導計畫的簡介說明 |