英特爾表示,數(shù)據(jù)中心芯片庫存消化時(shí)間遠(yuǎn)比PC更長,,整個(gè)數(shù)據(jù)中心業(yè)務(wù)將延宕復(fù)蘇。日前,,更傳出英特爾一批數(shù)據(jù)中心服務(wù)器CPU以40~50%折扣出售,最后由騰訊,、阿里等大客戶出手“救援”,。
同樣身處數(shù)據(jù)中心巨頭的英特爾與英偉達(dá),對于服務(wù)器的需求感受是冰火二重天,,反映出傳統(tǒng)的通用服務(wù)器需求持續(xù)低迷,,對比需求熱絡(luò)的AI服務(wù)器宛若兩個(gè)世界。
當(dāng)AI教主黃仁勛布道:你買越多,,你節(jié)省越多(The more you buy, the more you save.)但也意味著當(dāng)你買越多的AI服務(wù)器芯片,,需要的通用服務(wù)器芯片就會越少。
在數(shù)據(jù)中心領(lǐng)域,,英偉達(dá)GPU生意越好,,英特爾,、AMD的CPU生意就會越暗淡,因此英特爾再度示警數(shù)據(jù)中心芯片庫存嚴(yán)重,,知名分析師陸行之一語道破:英特爾在數(shù)據(jù)中心領(lǐng)域早已不再有話語權(quán),,因?yàn)轭A(yù)算排擠效應(yīng),每賣一臺AI服務(wù)器,,就會少賣好幾臺通用服務(wù)器,。
為什么在AI數(shù)據(jù)中心里,使用GPU會勝過使用CPU,?
如果只是單看采用GPU的AI服務(wù)器,,會覺得該系統(tǒng)單價(jià)非常昂貴,買越多真的能省越多嗎,? 其實(shí)仔細(xì)計(jì)算,,舉例由960個(gè)CPU處理器組成的AI服務(wù)器價(jià)格1,000萬美元,電力消耗為11GWh,,可提供1倍的大型語言模型LLM處理性能,,然而由172組GPU組成的AI服務(wù)器的價(jià)格雖然高達(dá)3400萬美元,但是它能在同樣消耗11GWh電力的前提下,,提供150倍效能,算下來只需要幾百臺NVIDIA DGX系統(tǒng),,就可以取代采用CPU的上萬臺服務(wù)器,。這不就應(yīng)驗(yàn)了黃仁勛說的“買越多,省越多”,。
黃仁勛在今年2023 COMPUTEX演講中即提到,,PC產(chǎn)業(yè)正同時(shí)經(jīng)歷“加速運(yùn)算”和“生成式AI”兩大轉(zhuǎn)變,CPU時(shí)代已經(jīng)結(jié)束,,產(chǎn)業(yè)需要一個(gè)更快的計(jì)算模式,,即是GPU。以往PC,、服務(wù)器中最重要的零組件為CPU,,但隨著需要大量計(jì)算能力的AI應(yīng)用出現(xiàn)后,GPU將成為主角,,CPU淪為配角,。目前最先進(jìn)的系統(tǒng)是采用8個(gè)GPU配1個(gè)CPU的配置,以發(fā)揮最高的計(jì)算能力,。
另一個(gè)數(shù)據(jù)中心CPU和GPU感受兩極化的原因:GPU產(chǎn)能因?yàn)镃oWoS封裝產(chǎn)能不足而受限,,大家買不到足夠GPU后來變成重復(fù)下單。
某客戶本來只需要50顆GPU,,因?yàn)橘I不到足夠數(shù)量只好到處下訂,,最后延伸出200顆GPU的需求量,,即使最后訂單砍單一半,供需還是有缺口,。這也是為什么黃仁勛一直說GPU需求真的很強(qiáng)很強(qiáng),,因?yàn)榭蛻舳寂氯必洠瑢?shí)際下單的數(shù)量都早已超過實(shí)際需求不知道幾倍,。
反觀通用服務(wù)器,,因?yàn)槿蚪?jīng)濟(jì)景氣不佳,消費(fèi)力轉(zhuǎn)趨保守,,服務(wù)器客戶對于新建的資本支紛紛縮手,,轉(zhuǎn)而傾向優(yōu)化現(xiàn)有設(shè)備,或是用軟件更新等各種方式來延長使用壽命和資源重新分配,,釋放更大性能,,因此通用服務(wù)器芯片供應(yīng)商當(dāng)然會感受到無盡寒意。
不過,,AI服務(wù)器和通用服務(wù)器的兩極化現(xiàn)象也不會無止境的擴(kuò)大下去,,因?yàn)锳I服務(wù)器還是要建立在既有的基礎(chǔ)架構(gòu)和終端設(shè)備之上,GPU侵蝕很大部分的CPU使用量,,但不能全然取代CPU,。
短期內(nèi),生成式AI帶來很多新應(yīng)用和海量信息需求,,大家趕著布建AI服務(wù)器,,因此瘋狂下單GPU,等到AI服務(wù)器的需求布建到一定程度,,最后還是會回過頭來布建通用服務(wù)器,。長期來看,AI服務(wù)器的氣勢如虹,,終究會帶動通用服務(wù)器需求脫離谷底才對,。
近期,傳出ChatGPT有退潮跡象,,微軟砍單Nvidia H100芯片的消息,。加上英偉達(dá)股價(jià)自高點(diǎn)跌落,華爾街在英偉達(dá)股價(jià)上的多,、空兩派將交戰(zhàn)太過激烈,,繪聲繪影指出英偉達(dá)塞貨給另一家AI新創(chuàng)公司Coreweave虛灌營收的夸張不實(shí)傳言,多多少少顯示AI過熱下的發(fā)展在資本市場上開始有扭曲的跡象,。
回頭來看英特爾的數(shù)據(jù)中心業(yè)務(wù),,除了服務(wù)器CPU,英特爾也是有布局AI領(lǐng)域,,2019年并購以色列AI新創(chuàng)公司Habana Labs,,推出AI加速器芯片Gaudi 2,,采用7nm制程技術(shù),試圖挑戰(zhàn)Nvidia H100,,更推進(jìn)新一代的Gaudi 3產(chǎn)品線問世,,采用5nm制程。
根據(jù)市調(diào)機(jī)構(gòu)統(tǒng)計(jì),,目前在AI服務(wù)器領(lǐng)域,,英偉達(dá)市占率有60~70%,其次是云端業(yè)者自行開發(fā)的ASIC芯片,。一般而言,,大型的云服務(wù)提供商CSP除了采購英偉達(dá)的GPU,像是Google,、AWS也都有自己開ASIC的解決方案,。同時(shí)也可觀察到,英偉達(dá)在AI服務(wù)器高達(dá)70%的市占率,,難怪英特爾,、AMD等處理器大廠都加速推出相關(guān)AI產(chǎn)品來分一杯羹的急迫心態(tài)。
更多精彩內(nèi)容歡迎點(diǎn)擊==>>電子技術(shù)應(yīng)用-AET<<