影片|氣冷、液冷、浸沒式三種散熱差在哪?一文看懂AI大商機:關鍵技術、概念股有哪些?

2024為AI元年,美國晶片三巨頭多次來台展示AI晶片火力。但軍備競賽的火藥味可以濃厚,搭載晶片的AI伺服器則忙著「降溫」,為台灣散熱廠商帶來巨大商機。

摩根士丹利預期,輝達在數據中心的GPU散熱系統所需要的冷卻,將創造48億美元商機,到2027年時將創造價值48億美元的商機,台廠中則點名台達電、奇鋐受益,其中台達電明年在AI冷卻收入將高達逾90億元,成為最大受惠者。

「全世界散熱供應商有7成是台廠包辦。」台灣熱管理協會理事長、英特爾水冷團隊技術總監龔育諄指出,從氣冷、液冷到浸沒式的散熱方案,台灣散熱廠商負責提供這些散熱系統的零組件,包含散熱鰭片、散熱導管、水冷板、水冷接頭以及CDU(散熱控制核心)。

為什麼散熱不斷被提出來討論?

從簡單的數學中就可以看出端倪,根據資策會資料顯示,一台GB200 NVL72機架,連接了36個Grace CPU和72個Blackwell GPU,總功耗高達116千瓦(kW),而目前廣泛使用的氣冷散熱只能做到20千瓦熱功耗的散熱,也就是高達近6倍的散熱缺口。所以「氣冷」在AI時代遠遠不足,「液冷」就成為台廠的努力項目。

AI晶片過熱怎麼解?3種伺服器散熱方式一次看

在更深度切入散熱賽局之前,必須先對散熱方式有初步的了解,目前大致分為3種:氣冷、液冷以及浸沒式。

氣冷散熱:還是有高度市場需求

氣冷是目前資料中心或是一般企業機房最廣泛使用的散熱方法,就像讓伺服器吹冷氣,透過風扇、鰭片、導熱管等方式帶走熱能。

而氣冷散熱若要提高到最強的散熱效果,就要使用到熱管結合熱板設計的高階氣冷技術3D VC(Vapor Chamber),並加上大量的風扇來散熱。

然而,工研院電光系統所博士彭奐森表示,雖然風量風速越快,熱對流速度就越快,但是不可能一直無限上綱,震動、噪音都會為伺服器或工作場域帶來負面影響。

台灣氣冷散熱的元件供應商有奇鋐、雙鴻、建準、尼得科超眾、高力及台達電等。 高力副總經理吳俊英表示,目前氣冷散熱在市場需求還是很有空間,因為H100晶片用氣冷就可以散熱,但當GB系列的晶片出貨之後,液冷取代氣冷的速度就會加快。

液冷散熱:現在各家廠商追求的最大市場

「液冷」又稱為直接式液冷(DLC,Direct liquid cooling),可細分成「水對氣」和「水對水」。

水對氣:利用水冷管線帶走晶片的熱能之後,變熱的水再透過水管傳送到機櫃後的風扇背門,將熱能吹散,進而達到散熱效果。

水對氣的散熱方案是現有資料中心在氣冷散熱的物理極限下,所因應的對策。因為不需要大規模修改機房或者伺服器的機櫃設備,只要加裝一個風扇背門,就可以加強散熱效果,「目前約有6~7成的資料中心還是使用這樣的散熱方式。」龔育諄說。

然而水對氣雖然是目前的最適解,卻也不是最佳解,加裝的風扇牆會讓機房噪音達到90~100分貝(車水馬龍的路旁大約是80分貝),工作人員根本無法在機房內長時間作業。

一圖看懂水冷技術 圖/數位時代製作
一圖看懂水冷技術 圖/數位時代製作

水對水:將裝滿冷卻液的密封管線(或稱封閉式冷卻迴路)環繞在伺服器內最容易發熱的關鍵零組件附近,零組件透過導熱銅片(或稱「冷板」)將熱能傳導到冷卻液,再透過液冷管線進行冷熱液體的交換循環。與水對氣最大的差異在於,伺服器機櫃背後不需要再使用風扇牆,大大提高機房空間使用率和降低機房噪音。

NVIDIA的高階晶片GB200 NB072就是採用水對水的液冷散熱。而此架構也是目前許多伺服器代工廠商,如美超微、技嘉子公司技鋼、緯穎、英業達、雲達等已投入的技術。

浸沒式散熱:是未來散熱聖杯?

浸沒式冷卻,顧名思義就是將整台伺服器放進不導電的液體當中,就像泡澡一樣解熱,且不只解決晶片的熱,連同CPU、記憶體等各種伺服器中的電子設備,都可以進行散熱。

台灣的浸沒式廠商包含技鋼、光寶科、台達電、緯穎等。 然而浸泡的液體(介電液)帶來的環保問題、伺服器內的電子設備是否可以長時間浸泡、後續伺服器的保養該由誰來維護等,浸沒式還有很大一段路需要克服。

資策會分析師陳牧風舉例,資料中心在導入浸沒式方案時,也必須考量到工廠樓層耐重程度,以及電路和水路的機房基礎設施等。也就是說,若想要導入浸沒式方案,就必須要重新規劃廠房,所耗費的成本非常龐大。

散熱賽局起跑!誰能掌握品質、價格,誰就能掌握商機

總結上述的3種散熱方式來說,必須注意氣冷並沒有被淘汰,搭載最新AI晶片的伺服器在下半年才會問世,也不是全部的伺服器都是AI伺服器,因此氣冷還是有存在的必要。

此外,浸沒式雖然有部分商轉的案例,像是中國阿里巴巴和中東地區的資料中心已在採用,但大多還是小規模的試驗為主。

「液冷」就成為現階段最有機會的領域,也讓台灣散熱產業受到前所未有的關注。不過,必需要注意的是,現階段Tier 1的雲端業者,需要的不只是價格,對於品質更是高度要求,畢竟液冷如果出問題「漏水」,對於伺服器可能帶來重大的傷害。

因為著重品質,讓這一波散熱賽局,先天設立的高度檢驗與認證門檻,誰能笑到最後、是否雨露均霑,還很難蓋棺定論。

延伸閱讀:全球7成散熱產業在台灣!AI帶動水冷需求,台廠起飛關鍵在這一點

責任編輯:林美欣

本文不授權媒體夥伴轉載

更多報導
緯創砸4.9億元入主元鈦科技25%股份!水冷散熱是什麼?為何AI資料中心必備?
影片|黃仁勳、梁見後用台語拌嘴的「液冷機櫃」是什麼?會是台灣伺服器「出頭天」機會?