《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 模擬設(shè)計(jì) > 業(yè)界動(dòng)態(tài) > 英特爾Guadi 3對(duì)華特供版或僅為英偉達(dá)H20的一半

英特爾Guadi 3對(duì)華特供版或僅為英偉達(dá)H20的一半

2024-06-11
來(lái)源:芯智訊

0.png

雖然目前在AI加速芯片市場(chǎng),英偉達(dá)可謂是一家獨(dú)大,占據(jù)了大約超過(guò)90%的市場(chǎng)份額,,但是英偉達(dá)AI加速芯片的供應(yīng)瓶頸和高昂的價(jià)格也讓不少客戶頗有微詞,。

對(duì)此,AMD和英特爾也在持續(xù)推出更具性價(jià)比AI加速芯片來(lái)爭(zhēng)奪市場(chǎng)份額,。根據(jù)最新披露的數(shù)據(jù)顯示,,英特爾新推出的 Guadi 3 的價(jià)格僅為15,650美元左右,只有英偉達(dá)H100 80G版本價(jià)格的一半左右,。

資料顯示,,Gaudi 3將基于臺(tái)積電5nm工藝,擁有 8 個(gè)矩陣數(shù)學(xué)引擎、64 個(gè)張量?jī)?nèi)核,、96MB SRAM(每個(gè)Tile 48MB,,可提供12.8 TB/s的總帶寬) 和 128 GB HBM2e 內(nèi)存,16 個(gè) PCIe 5.0 通道和 24 個(gè) 200GbE 鏈路 ,。在計(jì)算核心的周?chē)?,則是八個(gè)HBM2e內(nèi)存堆棧,總?cè)萘繛?28 GB,,帶寬為3.7 TBps,。

根據(jù)英特爾官方公布的數(shù)據(jù)顯示,Gaudi 3 在流行的大語(yǔ)言模型(LLM)訓(xùn)練速度方面,,比英偉達(dá)H100平均快了40%,;在流行大模型的推理能效表現(xiàn)上,比如英偉達(dá)H100領(lǐng)先50%,。英特爾 Gaudi 3 與英偉達(dá) H100 在相同節(jié)點(diǎn)數(shù)量下,,相關(guān)大模型訓(xùn)練時(shí)間對(duì)比上最高快了1.7倍,其中,,LLAMA2 70 億參數(shù)對(duì)比有 1.5 倍于 H100 的優(yōu)勢(shì),,LLAMA2 130 億參數(shù)最高有 1.7 倍的優(yōu)勢(shì),GPT-3 1750 億參數(shù)有 1.4 倍優(yōu)勢(shì),。在大模型推理速度表現(xiàn)上,,Gaudi 3 相比 H100 平均快了1.5倍,最高快了4倍,。

0.png

英特爾CEO帕特·基辛格在Computex 2024展會(huì)上表示,,其Xeon處理器與Gaudi系列加速器不僅具備高效能,整體成本低于其他平臺(tái)的三分之一,,這兩款產(chǎn)品也可以整合在單一系統(tǒng)中,,整體平臺(tái)也比其他競(jìng)爭(zhēng)者的解決方案更具競(jìng)爭(zhēng)力。

目前,,英特爾Gaudi 3已經(jīng)上市,,并且與戴爾、慧與科技,、聯(lián)想,、美超威、華碩,、鴻海,、技嘉、英業(yè)達(dá),、廣達(dá)和緯創(chuàng)展開(kāi)合作,。

根據(jù)Tirias Research 分析師 Jim McGregor 最新公布的數(shù)據(jù)顯示,,英特爾集成了8個(gè)Gaudi 2 芯片的加速器售價(jià)為 65,000 美元,集成了8個(gè)Gaudi 3 芯片的加速器售價(jià)為 125,000 美元,。這也意味著單個(gè) Gaudi 2 芯片價(jià)格約為 8,125 美元,,而單個(gè) Gaudi 3 芯片價(jià)格約為 15,650 美元。當(dāng)然,,這是批量購(gòu)買(mǎi)時(shí)的價(jià)格,,如果采購(gòu)量更大,英特爾可能還會(huì)進(jìn)一步提供折扣,。

對(duì)比之下,,英偉達(dá)當(dāng)前熱銷(xiāo)的 H100 80GB 加速卡售價(jià)約為 30,000 美元。匯豐銀行預(yù)計(jì),,基于 Blackwell 架構(gòu)的英偉達(dá)“入門(mén)級(jí)”下一代 B100 GPU 的平均售價(jià) (ASP) 將在 30,000 美元至 35,000 美元之間,,與當(dāng)前的 H100 價(jià)格相當(dāng)(B100上市后,H100會(huì)進(jìn)一步降價(jià)),。性能更強(qiáng)大的 GB200 則集成了一個(gè) Grace CPU 和兩個(gè) B200 GPU,,預(yù)計(jì)售價(jià)在 60,000 美元至 70,000 美元之間。但是,,需要注意的是,,這些只是分析師的估計(jì),實(shí)際價(jià)格可能會(huì)更高,。

顯然,,英特爾最新的 Guadi 3 不僅性能優(yōu)于英偉達(dá)H100 80G,價(jià)格更是僅只有其一半左右,,這個(gè)價(jià)格顯然還是非常有吸引力的,。

如果與英偉達(dá)對(duì)華特供的AI加速芯片H20,以及華為的昇騰910B相比,,英特爾Gaudi 3 則更具性價(jià)比優(yōu)勢(shì),。

此前的消息顯示,,AI算力只有英偉達(dá)H100不到15%的H20的批量?jī)r(jià)格已經(jīng)降至了10萬(wàn)元人民幣左右(約13,800美元),,而華為昇騰910B售價(jià)約在12萬(wàn)元人民幣(約合16,556美元)左右。

當(dāng)然由于美國(guó)出口限制的存在,,英特爾Gaudi 3 也無(wú)法直接對(duì)華銷(xiāo)售,。不過(guò),根據(jù)之前曝光的消息,,英特爾也準(zhǔn)備對(duì)華推出“特供版”的Gaudi 3,,AI性能似乎只有原版的Gaudi 3的不到10%,不過(guò)即便如此應(yīng)該還是要優(yōu)于英偉達(dá)H20,,畢竟英特爾Gaudi 3的128GB HBM內(nèi)存容量更大(英偉達(dá)H20 HBM容量為96 GB),。

對(duì)于AI芯片來(lái)說(shuō),,AI算力固然重要,但絕不能小看更大HBM容量所帶來(lái)的優(yōu)勢(shì),。此前的分析數(shù)據(jù)顯示,,擁有更大HBM容量的英偉達(dá)H20在多數(shù)大模型推理場(chǎng)景中的速度表現(xiàn)比英偉達(dá)H100更優(yōu)異。

據(jù)此不難推測(cè),,擁有更大HBM容量的英特爾對(duì)華特供版Gaudi 3 整體的性能表現(xiàn)要更優(yōu)于英偉達(dá)H20,,并且特供版的Gaudi 3 價(jià)格預(yù)計(jì)也將會(huì)更低。參考英偉達(dá)H20的定價(jià),,其價(jià)格大約僅為H100的一半,,如果對(duì)華特供版Gaudi 3 也只有原版的一半,那么價(jià)格大約為7825美元,,僅為英偉達(dá)H20最初價(jià)格(約15,000美元)的一半左右,。

不過(guò),以上對(duì)于特供版Gaudi 3 價(jià)格只是推測(cè),,畢竟目前還沒(méi)在國(guó)內(nèi)上市,,但可以確定的是定價(jià)必定會(huì)比英偉達(dá)H20更低,這意味著英偉達(dá)H20接下來(lái)不僅將面臨昇騰910B的競(jìng)爭(zhēng),,也將面臨英特爾對(duì)華特供版Gaudi 3 的強(qiáng)力競(jìng)爭(zhēng),,可謂是“壓力山大”。

Magazine.Subscription.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章,、圖片,、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者,。如涉及作品內(nèi)容,、版權(quán)和其它問(wèn)題,請(qǐng)及時(shí)通過(guò)電子郵件或電話通知我們,,以便迅速采取適當(dāng)措施,,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118,;郵箱:[email protected],。