700W功耗實(shí)在hold不住了！英偉達(dá)計(jì)算卡第一次上液冷

　　對于下一代顯卡，AMD、NVIDIA在臺北電腦展期間都三緘其口，絲毫沒有提及。AMD只講處理器，NVIDIA則只說數(shù)據(jù)中心GPU、CPU。

　　NVIDIA宣布，Ampere架構(gòu)的計(jì)算卡A100、桌面超算HGX A100，Hopper架構(gòu)的計(jì)算卡H100、桌面超算HGX H100，將在該系列中首次引入液冷散熱，從而提高散熱效率、降低能耗、節(jié)省空間和成本。NVIDIA表示，它們都采用了Direct-to-Chip冷卻技術(shù)。

　　HGX A100、HGX H100系統(tǒng)采用的都是SXM樣式計(jì)算卡，在機(jī)架內(nèi)直接整合液冷散熱系統(tǒng)，取代傳統(tǒng)的系統(tǒng)風(fēng)冷散熱，體積更加緊湊，前者現(xiàn)已出貨，后者今年第四季度。

　　A100 PCIe(80GB)、H100 PCIe獨(dú)立計(jì)算卡則有些類似桌面液冷顯卡，整合水冷頭，不過接口放置在尾部，以便對接液冷系統(tǒng)，前者今年第三季度出貨，后者明年初。

　　數(shù)據(jù)中心服務(wù)商Equinix正在實(shí)驗(yàn)室中測試自己的首款液冷GPU方案，結(jié)果發(fā)現(xiàn)，采用液冷技術(shù)的數(shù)據(jù)中心工作負(fù)載可與風(fēng)冷設(shè)施持平，同時(shí)消耗的能源減少了約30％。

　　同時(shí)，液冷版的A100/H100 PCIe只需占用一個(gè)插槽位，相比傳統(tǒng)兩個(gè)插槽位的風(fēng)冷版，可以節(jié)省最多66％的機(jī)架空間。

　　NVIDIA估計(jì)，液冷數(shù)據(jù)中心的PUE(電源使用效率)可能達(dá)到1.15，遠(yuǎn)低于風(fēng)冷的PUE 1.6。

　　NVIDIA GH100核心采用臺積電4nm工藝制造、CoWoS 2.5D晶圓級封裝，集成800億個(gè)晶體管、18432個(gè)CUDA核心、576個(gè)Tensor核心、60MB二級緩存，可搭配6144-bit HBM2e/HBM3高帶寬內(nèi)存。

　　H100計(jì)算卡支持SXM、PCIe 5.0兩種形態(tài)，其中后者功耗高達(dá)史無前例的700W，相比A100多了整整300W。SXM5版本只開啟15872個(gè)CUDA核心、528個(gè)Tensor核心、50MB二級緩存。PCIe 5.0版本則只有14952個(gè)CUDA核心、456個(gè)Tensor核心。