2022年3月3日,,中國北京—— Graphcore? 今日正式發(fā)布全新IPU系統(tǒng)產(chǎn)品——Bow系列,。Bow Pod系統(tǒng)產(chǎn)品采用了全球首款3D Wafer-on-Wafer處理器——Bow IPU。Bow IPU是新一代Bow Pod AI計(jì)算機(jī)系統(tǒng)的核心。與上代產(chǎn)品相比,,它可為真實(shí)世界的AI應(yīng)用提供高達(dá)40%的性能提升和16%的電源效率提升,同時(shí)價(jià)格保持不變,,且無需更改現(xiàn)有代碼,。Bow的命名來源于倫敦市的一處地名,。
Bow IPU處理器
Bow-2000 計(jì)算刀片
同時(shí),Graphcore將于2024年交付全球首臺(tái)超級(jí)智能計(jì)算機(jī)—— Good ? Computer(古德計(jì)算機(jī)),。Graphcore正在開發(fā)新一代IPU技術(shù),,為這款Good? Computer提供超過10 Exa-Flops的AI浮點(diǎn)計(jì)算;最高可達(dá)4PB的存儲(chǔ),,帶寬超過10PB/秒,;支持超過500萬億參數(shù)的AI模型;3D Wafer-on-Wafer邏輯棧,;同時(shí)獲得Poplar? SDK的完全支持,。該計(jì)算機(jī)預(yù)計(jì)價(jià)格在100萬美元至1.5億美元(取決于配置)。這款超未來的智能計(jì)算機(jī)之所以被命名為Good,,一方面是Graphcore致力于打造“好”的計(jì)算機(jī),,一方面是向計(jì)算機(jī)科學(xué)家先驅(qū)Jack Good(杰克·古德)致敬。
Graphcore大中華區(qū)總裁兼全球首席營收官盧濤表示:“隨著AI計(jì)算市場的整體快速發(fā)展,,客戶需要兼顧性能,、效率和可靠性的計(jì)算機(jī)系統(tǒng)。我們發(fā)布新一代IPU,,正是為了支持全球技術(shù)開發(fā)者和創(chuàng)新者在AI計(jì)算領(lǐng)域取得新的技術(shù)突破,,實(shí)現(xiàn)高質(zhì)量發(fā)展。我們希望不斷開拓IPU在中國的AI應(yīng)用場景,,通過IPU賦能高效AI計(jì)算,,支持中國創(chuàng)新者不斷推進(jìn)機(jī)器智能的邊界?!?br/>
Bow Pod的出色性能
旗艦產(chǎn)品Bow Pod256提供超過89 PetaFLOPS的AI計(jì)算,,而超大規(guī)模Bow Pod1024可提供350 PetaFLOPS的AI計(jì)算,支持機(jī)器學(xué)習(xí)工程師在AI模型規(guī)模呈指數(shù)增長的情況下仍可領(lǐng)先一步,,在機(jī)器智能領(lǐng)域取得新的技術(shù)突破,。
Bow Pod旨在為各種AI應(yīng)用大規(guī)模提供真實(shí)世界的性能,從用于自然語言處理的GPT和BERT到用于計(jì)算機(jī)視覺的EfficientNet和ResNet,,再到圖神經(jīng)網(wǎng)絡(luò)和許多其他應(yīng)用,。
·在與配有Bow Pod系統(tǒng)的Mk2 IPU-Pod系統(tǒng)相同的峰值功率范圍內(nèi),客戶發(fā)現(xiàn)各種AI應(yīng)用的性能提升高達(dá)40%,。
·對(duì)于最先進(jìn)的計(jì)算機(jī)視覺模型EfficientNet,,Bow Pod16性能比同類Nvidia DGX A100系統(tǒng)提升5倍以上,而價(jià)格只有一半,,因而總體擁有成本提升高達(dá)10倍,。
·與上代產(chǎn)品相比,除了40%的性能提升,,Bow Pod系統(tǒng)還可以大幅提高電源效率,。經(jīng)過一系列實(shí)際應(yīng)用測試表明,,Bow Pod的每瓦性能最高可提升16%。
Wafer-on-Wafer創(chuàng)新技術(shù)
Bow Pod系統(tǒng)核心的Bow IPU處理器采用了全球首項(xiàng)3D半導(dǎo)體技術(shù),,從而支持Bow Pod 系統(tǒng)實(shí)現(xiàn)了巨大的性能提升和更高的電源效率,。Wafer-on-Wafer 3D技術(shù)由Graphcore與臺(tái)積電合作開發(fā)。Wafer-on-Wafer技術(shù)有潛力在硅片之間提供更高的帶寬,,從而優(yōu)化電源效率,,在晶圓級(jí)別提升Colossus架構(gòu)的功率。
Bow IPU中的Wafer-on-Wafer,,兩個(gè)晶圓結(jié)合在一起,,產(chǎn)生一個(gè)新的3D裸片。其中一個(gè)晶圓用于AI處理,,在架構(gòu)上與GC200 IPU處理器兼容,,擁有1472個(gè)獨(dú)立的IPU-Core tile,能夠運(yùn)行超過8800個(gè)線程,,具有900MB的處理器內(nèi)存儲(chǔ),,而第二個(gè)晶圓擁有供電裸片。
通過在供電裸片中添加深溝槽電容器,,位置在處理內(nèi)核和存儲(chǔ)旁,,我們能夠更高效地供電,從而實(shí)現(xiàn)350 TeraFLOPS的AI計(jì)算,,實(shí)現(xiàn)40%的性能提升,。通過與臺(tái)積電緊密合作,我們充分驗(yàn)證了整套技術(shù),,包括背面硅通孔(BTSV)和Wafer-on-Wafer(WoW)混合鍵合中的多項(xiàng)突破性技術(shù),。
作為Bow Pod系統(tǒng)的組成部分,最新Bow-2000 IPU Machine采用了與第二代IPU-M2000 machine同樣強(qiáng)大的系統(tǒng)架構(gòu),,但現(xiàn)在配備了四個(gè)強(qiáng)大的Bow IPU處理器,,可提供1.4 PetaFLOPS的AI計(jì)算。
Bow-2000可以完全向后兼容現(xiàn)有的IPU-POD系統(tǒng),,其高速,、低時(shí)延的IPU結(jié)構(gòu)和靈活的1U外形尺寸保持不變。Bow-2000是整個(gè)Bow Pod系列的基礎(chǔ)組成部分,。Bow-2000可安裝在戴爾,、Atos、Supermicro,、浪潮和聯(lián)想等領(lǐng)先品牌的主機(jī)服務(wù)器上,,從而組成Bow Pod系統(tǒng)。整個(gè)Bow Pod系列包括Bow Pod16(4臺(tái)Bow-2000和一臺(tái)主機(jī)服務(wù)器)、Bow Pod32(8臺(tái)Bow-2000和一臺(tái)主機(jī)服務(wù)器),、Bow Pod64以及更大的旗艦系統(tǒng)Bow Pod256和Bow Pod1024。
最新Bow Pod系統(tǒng)現(xiàn)已上市,,并開始在全球范圍內(nèi)發(fā)貨,。