2019年6月19日,，中國北京——行業(yè)領(lǐng)先的人工智能處理器開發(fā)商Habana Labs (www.habana.ai) 宣布推出Habana Gaudi?人工智能訓(xùn)練處理器,，基于Gaudi的訓(xùn)練系統(tǒng)實現(xiàn)了比擁有相同數(shù)量的GPU系統(tǒng)高四倍的處理能力。
Gaudi?處理器的創(chuàng)新架構(gòu)可實現(xiàn)訓(xùn)練系統(tǒng)性能的近線性擴展,，即使是在較小Batch Size的情況下,，也能保持高計算力,。因此,，基于Gaudi?處理器的訓(xùn)練性能可實現(xiàn)從單一設(shè)備擴展至由數(shù)百個處理器搭建的大型系統(tǒng)的線性擴展,。
除了領(lǐng)先的性能，Gaudi?處理器還為人工智能訓(xùn)練帶來了另一項“行業(yè)第一”,。該人工智能處理器片上集成了 RDMA over Converged Ethernet (RoCE v2) 功能,，從而讓人工智能系統(tǒng)能夠使用標(biāo)準(zhǔn)以太網(wǎng)擴展至任何規(guī)模。憑借Gaudi?處理器,，Habana Labs的客戶亦可利用標(biāo)準(zhǔn)以太網(wǎng)交換進行人工智能訓(xùn)練系統(tǒng)的縱向擴展和橫向擴展,。同時，以太網(wǎng)交換機已被數(shù)據(jù)中心應(yīng)用于計算系統(tǒng)和存儲系統(tǒng)的擴展中,，在速度和端口數(shù)方面可提供幾乎無限的可擴展性,。另外，與Habana的標(biāo)準(zhǔn)設(shè)計相比,，基于GPU的系統(tǒng)依賴于專有的系統(tǒng)接口,，對系統(tǒng)設(shè)計人員來說，這從本質(zhì)上限制了可擴展性和選擇性,。
Linley集團首席分析師Linley Gwennap評論說：“Habana Labs推出新產(chǎn)品,，其產(chǎn)品組合迅速地從推理處理器擴展到訓(xùn)練處理器，涵蓋了神經(jīng)網(wǎng)絡(luò)的所有功能,。在眾多的人工智能訓(xùn)練加速器產(chǎn)品中,，Gaudi?處理器能夠提供強大的性能，達到行業(yè)領(lǐng)先的能效水平,。作為首款集成100G以太網(wǎng)鏈路并支持RoCE的人工智能處理器,，Gaudi?為使用行業(yè)標(biāo)準(zhǔn)組件構(gòu)建而成的大型加速器集群提供了強大的支持?！?br/>
Gaudi?人工智能訓(xùn)練處理器配備32GB HBM-2內(nèi)存,，目前提供兩種規(guī)格：
· HL-200 - PCIe卡，設(shè)有8個100Gb以太網(wǎng)端口,；
· HL-205 - 基于OCP-OAM標(biāo)準(zhǔn)的子卡,，設(shè)有10個100Gb以太網(wǎng)端口或20個50Gb以太網(wǎng)端口。
另外,，Habana推出了一款名為HLS-1的8-Gaudi系統(tǒng),，配備了8個HL-205子卡、PCIe外部主機連接器和24個用于連接現(xiàn)有以太網(wǎng)交換機的100Gbps以太網(wǎng)端口,，讓客戶能夠通過在19英寸標(biāo)準(zhǔn)機柜中部署多個HLS-1系統(tǒng)實現(xiàn)性能擴展,。
Gaudi?處理器是Habana Labs繼去年推出Goya?人工智能推理處理器后的第二款人工智能專用處理器。Goya?處理器自2018年第四季度開始發(fā)貨,，并向業(yè)界展示了領(lǐng)先的推理性能,，可實現(xiàn)業(yè)界最高的吞吐量、功效比（圖片/每秒瓦）以及實時。
Habana Labs首席執(zhí)行官David Dahan 表示：“人工智能模型訓(xùn)練所需的計算能力每年呈指數(shù)增長,。因此,，提高生產(chǎn)率和可擴展性，解決數(shù)據(jù)中心和云計算對計算能力的迫切需求成為至關(guān)重要的任務(wù),。憑借Gaudi?處理器的創(chuàng)新架構(gòu),，Habana Labs帶來了業(yè)界最高的性能，同時集成了標(biāo)準(zhǔn)以太網(wǎng),，進而實現(xiàn)無限可擴展性,。Gaudi?處理器將打破人工智能訓(xùn)練處理器領(lǐng)域的現(xiàn)狀?！?/p>
Facebook技術(shù)和戰(zhàn)略總監(jiān)Vijay Rao表示：“Facebook正在尋找開放的平臺以進行行業(yè)創(chuàng)新融合,。我們很高興看到Habana Labs的Goya?人工智能推理處理器為Glow機器學(xué)習(xí)編譯器實現(xiàn)后端開源，并且Gaudi?人工智能訓(xùn)練處理器采用OCP加速器模塊 (OAM) 規(guī)范,?！?br/>
Gaudi?是一款完全可編程且可定制的處理器，搭載第二代Tensor處理核 (TPC?) 并集成開發(fā)工具,、庫和編譯器,，共同提供全面而靈活的解決方案。此外,，Habana Labs的SynapseAI?軟件棧包含一個豐富的內(nèi)核庫和開放工具鏈,，以供客戶添加專有內(nèi)核。
Habana Labs將于2019年下半年面向特定客戶提供Gaudi?人工智能訓(xùn)練處理器的樣品,。