《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > Graphcore發(fā)布第二代IPU及IPU-M2000 三大顛覆性技術(shù)定義AI計算的未來

Graphcore發(fā)布第二代IPU及IPU-M2000 三大顛覆性技術(shù)定義AI計算的未來

2020-07-16
來源:Graphcore
關(guān)鍵詞: Graphcore IPU IPU-M2000 AI

2020年7月15日,北京——Graphcore今日正式發(fā)布第二代IPU以及用于大規(guī)模系統(tǒng)級產(chǎn)品IPU-Machine: M2000(IPU-M2000),新一代產(chǎn)品具有更強的處理能力,、更多的內(nèi)存和內(nèi)置的可擴展性,可處理極其龐大的機器智能工作負(fù)載,。

IPU-M2000是一款即插即用的機器智能刀片式計算單元,由Graphcore全新的7納米 Colossus? 第二代 GC200 IPU提供動力,,并由Poplar?軟件棧提供全面支持,。其設(shè)計便于部署,并支持可擴展至大規(guī)模的系統(tǒng),。這款纖薄的1U刀片機可提供1個PetaFlop的機器智能計算,,并集成了針對AI擴展優(yōu)化的網(wǎng)絡(luò)技術(shù)。

 

圖片1.png

Graphcore第二代Colossus? IPU處理器:GC200

 圖片2.png

Graphcore IPU-M2000

IPU-M2000可構(gòu)建成IPU-POD64這一Graphcore全新模塊化機架規(guī)模解決方案,,可用于極大型機器智能橫向擴展,,提供前所未有的AI計算可能性,以及完全的靈活性和易于部署的特性,。它可以從一個機架式本地系統(tǒng)擴展到高度互連的超高性能AI計算設(shè)施中的1000多個IPU-POD64系統(tǒng),。

“隨著IPU-M2000和IPU-POD64的推出,Graphcore進一步擴大了我們在機器智能領(lǐng)域的產(chǎn)品競爭優(yōu)勢,?!盙raphcore首席執(zhí)行官Nigel Toon指出:“Graphcore通過技術(shù)創(chuàng)新實現(xiàn)更強有力的產(chǎn)品線,這些創(chuàng)新能夠提供客戶所期望的行業(yè)領(lǐng)先性能,。對于尋求將機器智能計算添加到數(shù)據(jù)中心的客戶而言,Graphcore最新推出的IPU-M2000憑借其強大的算力,、易于擴展的靈活性和突出的易用性,,將具有極強的可行性和價值提升潛力?!?/p>

Mk1 IPU產(chǎn)品的用戶可以確信,,他們現(xiàn)有的模型和系統(tǒng)可以在這些新的Mk2 IPU系統(tǒng)上無縫運行。雖然第一代Graphcore IPU產(chǎn)品已經(jīng)處于領(lǐng)先地位,,但與之相比,,第二代產(chǎn)品的性能還將提高8倍,。

 

圖片3.png

Mk1 IPU產(chǎn)品與Mk2 IPU產(chǎn)品性能對比 

IPU-M2000的設(shè)計使客戶可以在IPU-POD?配置中構(gòu)建多達64,000個IPU的數(shù)據(jù)中心規(guī)模系統(tǒng),提供16ExaFlops的機器智能計算能力,。新的IPU-M2000甚至能夠處理最艱巨的機器智能訓(xùn)練或大規(guī)模部署工作負(fù)載,。

Graphcore全新的IPU-Fabric?技術(shù)使大規(guī)模連接IPU-M2000和IPU-POD成為可能,該技術(shù)是專為機器智能通信而從頭設(shè)計的,,并提供了專用的低時延結(jié)構(gòu),,可在整個數(shù)據(jù)中心內(nèi)連接IPU。

圖片4.png

Graphcore IPU-Fabric?技術(shù) 

Graphcore的Virtual-IPU軟件與工作量管理和編排軟件集成在一起,,可以輕松地為許多不同的用戶提供訓(xùn)練和推理服務(wù),,并允許根據(jù)工作情況調(diào)整和重新配置可用的資源。

無論您是要使用單個IPU還是要使用數(shù)千個IPU來完成機器智能工作負(fù)載,,Graphcore的Poplar SDK都可以使這一過程變得簡單,。您可以使用首選的AI框架(例如TensorFlow或PyTorch)。而且,,從這一高級描述中,,Poplar將構(gòu)建完整的計算圖,以捕獲計算,、數(shù)據(jù)和通信,。然后,它會充分利用可用的IPU硬件,,編譯此計算圖,,并構(gòu)建用于管理計算、存儲和網(wǎng)絡(luò)通信的運行時程序,。

Graphcore的最新產(chǎn)品線是通過三大顛覆性技術(shù)創(chuàng)新實現(xiàn)的,,這些創(chuàng)新可提供客戶期望的行業(yè)領(lǐng)先性能:

· 計算:每個IPU-M2000的核心都是Graphcore新的Graphcore Colossus?Mk2 GC200 IPU。該芯片采用臺積電最新的7納米工藝技術(shù)開發(fā),,每個芯片在一個823平方毫米的裸片上包含超過594億個晶體管,,使其成為有史以來最復(fù)雜的處理器。

· 數(shù)據(jù):每個IPU都有大量的In-Processor Memory?,。Graphcore新型Mk2 GC200在處理器內(nèi)部具有史無前例的900MB超高速SRAM,,在每個處理器內(nèi)核旁邊都設(shè)有大量RAM,以實現(xiàn)每位最低能量的訪問,。Graphcore的Poplar軟件還允許IPU通過Graphcore獨特的Exchange-Memory?通信訪問Streaming Memory?,。這甚至可以支持具有數(shù)千億個參數(shù)的最大模型。每個IPU-M2000都可以支持密度高達450GB的Exchange-Memory?,,以及前所未有的180TB/秒的帶寬,。

· 通信:IPU-M2000具有內(nèi)置的專用AI聯(lián)網(wǎng)IPU-Fabric?。Graphcore創(chuàng)建了一個新的Graphcore GC4000 IPU-Gateway芯片,該芯片可提供令人難以置信的低時延和高帶寬,,每個IPU-M2000均可提供2.8Tbps,。在從數(shù)十個IPU擴展到數(shù)以萬計個IPU的過程中,IPU-Fabric技術(shù)使通信時延幾乎保持恒定,。

“將強勁算力與網(wǎng)絡(luò)能力相結(jié)合,,我們能夠處理全球最先進、最復(fù)雜的算法模型,?!盙raphcore高級副總裁兼中國區(qū)總經(jīng)理盧濤表示:“這樣的算法模型,對中國本地的AI算法落地場景,,如云計算,、互聯(lián)網(wǎng)和通信等場景都會產(chǎn)生推動作用,并將為AI產(chǎn)業(yè)者提供巨大的價值,?!?/p>

在中國市場,Graphcore與領(lǐng)先的本地商業(yè)用戶展開緊密的早期合作,,基于IPU的開發(fā)者云已于7月初正式上線,,其IPU-POD產(chǎn)品技術(shù),已在IPU開發(fā)者云上供用戶訪問,。因此,,中國很可能成為Graphcore最新推出的第二代處理器技術(shù)最先實現(xiàn)商業(yè)化落地的區(qū)域之一。

以上努力,,僅僅是Graphcore在中國市場進行的相當(dāng)規(guī)模的投資中的一部分,。Graphcore還在本地構(gòu)建了強有力的工程化團隊,希望與本地的AI產(chǎn)業(yè)者和AI創(chuàng)新者進行緊密合作,,以先進科技助推中國AI創(chuàng)新,。


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點,。轉(zhuǎn)載的所有的文章、圖片,、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容,、版權(quán)和其它問題,,請及時通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118;郵箱:[email protected],。