10月16日,,在市場(chǎng)調(diào)研機(jī)構(gòu)TrendForce舉行的“AI時(shí)代半導(dǎo)體全局展開2025科技產(chǎn)業(yè)大預(yù)測(cè)”研討會(huì)上,,TrendForce資深分析師龔明德表示,受益于云端服務(wù)供應(yīng)商(CSP)及品牌客戶對(duì)建設(shè)AI基礎(chǔ)設(shè)施需求強(qiáng)勁,,2024年全球AI服務(wù)器(含搭載GPU,、FPGA,、ASIC等)出貨量將同比增長(zhǎng)42%。2025年受云端業(yè)者及主權(quán)云等需求帶動(dòng),,出貨量有望再增長(zhǎng)約28%,,推動(dòng)AI服務(wù)器占整體服務(wù)器市場(chǎng)出貨量比例提高至近15%。中長(zhǎng)期來看,,預(yù)期在各種云端AI訓(xùn)練及推理應(yīng)用服務(wù)推進(jìn)下,,2027年AI服務(wù)器占比有機(jī)會(huì)逼近19%。
觀察主要AI服務(wù)器芯片供應(yīng)商,,龔明德認(rèn)為,,英偉達(dá)(NVIDIA)表現(xiàn)一枝獨(dú)秀,其高階GPU 出貨量同比增長(zhǎng)率將超過150%,其中以H200等H系列GPU為出貨主力產(chǎn)品,。推動(dòng)英偉達(dá)在2024年的AI GPU市場(chǎng)的市占率接近90%,。至于Blackwell GPU平臺(tái)將于明年上半年放量并成為主流,明年占比從4% 拉高至84%,。
其他AI芯片供應(yīng)商如AMD,、英特爾以及云端服務(wù)供應(yīng)商也在積極推動(dòng)自家的AI服務(wù)器芯片,將推升2025年AI芯片出貨增長(zhǎng)動(dòng)能,,進(jìn)一步帶動(dòng)AI芯片所需的先進(jìn)封裝(CoWoS),、高帶寬內(nèi)存(HBM)出貨量翻倍增長(zhǎng)。先進(jìn)封裝技術(shù)也將從CoWoS-S 往CoWoS-L 邁進(jìn),,HBM也將由HBM3 轉(zhuǎn)向HBM3e,,也將明顯提升液冷散熱方案滲透率。
TrendForce 分析師邱珮雯認(rèn)為,,隨著運(yùn)算能力提升,,液態(tài)冷卻解決方案在數(shù)據(jù)中心逐步重要。在英偉達(dá)Blackwell GPU新平臺(tái)帶動(dòng)下,,GB200 NVL72 機(jī)柜方案的熱設(shè)計(jì)功耗(TDP)高達(dá)約140kW,,須采用液冷方案才可有效解決散熱問題,預(yù)計(jì)初期將以水對(duì)氣(Liquid-to-Air,,L2A)方式為主流,。
除了英偉達(dá)之外,近年來谷歌,、亞馬遜網(wǎng)絡(luò)服務(wù)公司(AWS)和微軟(Microsoft)等大型美系云端業(yè)者,,也在布局液冷方案。其中CSP 自研高階ASIC 以谷歌最積極采用液冷方案,,其TPU 芯片同時(shí)使用氣冷與液冷解決方案,,其他CSP 仍以氣冷為主要散熱方案。中國(guó)產(chǎn)生方面,,則以阿里巴巴采用液冷散熱解決方案最為積極,。長(zhǎng)期來看,全球?qū)SG 逐漸重視,,將加速帶動(dòng)散熱方案由氣冷轉(zhuǎn)液冷形式,。
隨著頭部廠商的積極推動(dòng),預(yù)計(jì)AI 芯片的液冷散熱滲透率將從2024 年的11% 提升至2025 年的24%,。