“東數(shù)西算”工程能夠更合理的分配資源,,從一定程度上緩解供需失衡問(wèn)題,。但是未來(lái)如何從根本上解決算力供需失衡的問(wèn)題,,還是要細(xì)分算力需求,,有針對(duì)性解決。作為繼CPU,、GPU之后數(shù)據(jù)中心的第三顆主力芯片,,DPU(Data Processing Unit)提出新的解決方案。
DPU為何能和CPU,、GPU構(gòu)成數(shù)據(jù)中心的“鐵三角”,?
從數(shù)據(jù)中心發(fā)展與算力增長(zhǎng)速度來(lái)看,近年來(lái),,我國(guó)以信息網(wǎng)絡(luò)等新型基礎(chǔ)設(shè)施為代表的“新基建”戰(zhàn)略帷幕的拉開(kāi),,5G、千兆光纖網(wǎng)絡(luò)建設(shè)發(fā)展迅速,,移動(dòng)互聯(lián)網(wǎng),、工業(yè)互聯(lián)網(wǎng)、車(chē)聯(lián)網(wǎng)等領(lǐng)域發(fā)展日新月異,。云計(jì)算,、數(shù)據(jù)中心、智算中心等基礎(chǔ)設(shè)施快速擴(kuò)容。此外,,據(jù)IDC統(tǒng)計(jì),全球算力的需求每3.5個(gè)月就會(huì)翻一倍,,遠(yuǎn)遠(yuǎn)超過(guò)了當(dāng)前算力的增長(zhǎng)速度,,CPU的性能增長(zhǎng)率與數(shù)據(jù)量增長(zhǎng)率出現(xiàn)了“剪刀差”現(xiàn)象。尋求效率更高的計(jì)算芯片就成為了業(yè)界尋求高效的新方法,,DPU芯片就是在這樣的趨勢(shì)下提出的,。
從技術(shù)層面來(lái)看,DPU要解決的核心問(wèn)題是基礎(chǔ)設(shè)施的“降本增效”,,即將CPU處理效率低下,、GPU處理不了的負(fù)載卸載到專(zhuān)用DPU,提升整個(gè)計(jì)算系統(tǒng)的效率,、降低整體系統(tǒng)的成本,。簡(jiǎn)單來(lái)說(shuō),CPU用于通用計(jì)算,,GPU用于加速計(jì)算,,而數(shù)據(jù)中心中傳輸數(shù)據(jù)的DPU則進(jìn)行數(shù)據(jù)處理。新一代的DPU不僅可以作為運(yùn)算的加速引擎,,還具備“控制平面”(即追求數(shù)據(jù)處理功能的覆蓋面)的功能,,能更高效地完成網(wǎng)絡(luò)虛擬化、IO虛擬化,、存儲(chǔ)虛擬化等任務(wù),,徹底將CPU的算力釋放給應(yīng)用程序。
從市場(chǎng)規(guī)模角度來(lái)看,,根據(jù)Fungible公司和英偉達(dá)公司的預(yù)測(cè),,用于數(shù)據(jù)中心的DPU量級(jí)將達(dá)到和數(shù)據(jù)中心服務(wù)器等量的級(jí)別。服務(wù)器每年新增大約千萬(wàn)量級(jí),,一臺(tái)服務(wù)器可能沒(méi)有GPU,,但一定會(huì)有一顆或者多顆DPU,好比每臺(tái)服務(wù)器都必須配網(wǎng)卡一樣,。
頭部廠商也努力
在這個(gè)千億量級(jí)市場(chǎng)中,,國(guó)際傳統(tǒng)芯片巨頭如英偉達(dá)、英特爾,、Marvell,、博通等廠商,都在積極布局DPU產(chǎn)品研發(fā),。2020年,,中國(guó)DPU產(chǎn)品主要由英偉達(dá)、英特爾與博通三家企業(yè)提供。
英偉達(dá)
英偉達(dá)憑借在網(wǎng)卡上積累的優(yōu)勢(shì),,占據(jù)市場(chǎng)龍頭位置,。英偉達(dá)在其數(shù)據(jù)中心和高性能計(jì)算GPU的開(kāi)發(fā)上投入了大量精力,另外,,數(shù)據(jù)中心變得越來(lái)越復(fù)雜,,CPU進(jìn)行的各種數(shù)據(jù)操作在性能和功耗方面變得越來(lái)越昂貴,DPU實(shí)際上可能在未來(lái)幾年面臨不斷增長(zhǎng)的需求,。英偉達(dá)發(fā)展DPU是其在數(shù)據(jù)中心進(jìn)一步發(fā)展的布局,。
2021年,英偉達(dá)發(fā)布的Bluefield-3 DPU包含其Mellanox技術(shù)和16個(gè)Arm Cortex-A78處理器,,將能夠取代300個(gè)傳統(tǒng)處理器內(nèi)核,,預(yù)計(jì)2022年第一季度提供樣品。英偉達(dá)還表示,,Bluefield-4 將帶寬翻倍至800Gbps,。
在GTC 2021上,英偉達(dá)宣布將產(chǎn)品路線(xiàn)升級(jí)為“GPU+CPU+DPU”的“三芯”戰(zhàn)略,,通過(guò)CPU,、GPU、DPU之間的協(xié)調(diào)計(jì)算,,可以在數(shù)據(jù)中心和邊緣計(jì)算都達(dá)到非常好的性能,,而且能提供非常高的安全性。前日,,英偉達(dá)收購(gòu)Arm失敗后,,掌門(mén)人黃仁勛表示,公司將繼續(xù)延續(xù)“三芯”戰(zhàn)略,。
英特爾
2021年6月,,英特爾推出了全新的基礎(chǔ)設(shè)施處理器(IPU,全稱(chēng)Infrastructure Processing Unit),,英特爾的IPU被業(yè)界視為英特爾版本的DPU,。IPU是一個(gè)網(wǎng)絡(luò)設(shè)備,可以安全地加速和管理數(shù)據(jù)中心的基礎(chǔ)設(shè)施功能與可編程硬件,,旨在使云和通信服務(wù)提供商減少在中央處理器方面的開(kāi)銷(xiāo),,并充分釋放性能價(jià)值。利用IPU,,客戶(hù)能夠部署安全穩(wěn)定且可編程的解決方案,,從而更好地利用資源,平衡數(shù)據(jù)處理與存儲(chǔ)的工作負(fù)載,。
IPU可將CPU或XPU連接到網(wǎng)絡(luò),,加速主機(jī)基礎(chǔ)設(shè)施功能,并適用于現(xiàn)有和新興基礎(chǔ)設(shè)施用例,包括安全性,、虛擬化,、存儲(chǔ)、負(fù)載平衡,,以及虛擬網(wǎng)絡(luò)功能和微服務(wù)的數(shù)據(jù)路徑優(yōu)化,。IPU增強(qiáng)了基礎(chǔ)NIC中豐富的以太網(wǎng)網(wǎng)絡(luò)功能,通過(guò)高度優(yōu)化的硬件加速器和緊密耦合的計(jì)算引擎的組合處理任務(wù)來(lái)實(shí)現(xiàn)加速,。適應(yīng)性是通過(guò)標(biāo)準(zhǔn)且易于使用的編程框架實(shí)現(xiàn)的,,該框架結(jié)合了硬件和軟件功能,。IPU擴(kuò)展了英特爾的智能網(wǎng)卡功能,,旨在應(yīng)對(duì)當(dāng)下復(fù)雜的數(shù)據(jù)中心,并提升效率,。
Marvell
2021年7月,,Marvell Technologies發(fā)布了其OCTEON 10系列DPU。OCTEON 10采用Arm Neoverse N2和TSMC的5納米工藝構(gòu)建,,有望提供比其前身高出3倍的性能,。作為DPU的重要補(bǔ)充,Marvell還為OCTEON 10引入了內(nèi)部機(jī)器學(xué)習(xí)(ML)引擎,。
OCTEON 10集成了1Tb的交換機(jī),,支持內(nèi)聯(lián)加密,并且網(wǎng)絡(luò)包處理可編程,,把功耗,、控制和數(shù)據(jù)平面加速設(shè)定提升到了新高度。數(shù)據(jù)路徑和安全工作負(fù)載的性能范圍從50G到超過(guò)400G,?;跈C(jī)器學(xué)習(xí)的硬件加速引擎,比軟件處理的性能提升100倍,?;赩PP的硬件加速器可將數(shù)據(jù)包處理速度提高多達(dá)5倍。Marvell OCTEON 10 DPU面向云計(jì)算,、5G通信,、企業(yè)、運(yùn)營(yíng)商和數(shù)據(jù)中心應(yīng)用場(chǎng)景,。
博通
博通在網(wǎng)卡市場(chǎng)處于領(lǐng)導(dǎo)者地位,,其DPU布局更多源自SmartNIC。Broadcom在Stingray的中心設(shè)計(jì)了NetXtreme-S BCM58800芯片,,將8個(gè)3GHz主頻的ARM v8 A72內(nèi)核放置其中,。博通在逐步將產(chǎn)品轉(zhuǎn)移到7納米,使得可以從8核擴(kuò)展到12核。
國(guó)產(chǎn)DPU,,挑戰(zhàn)與機(jī)遇并存
在國(guó)際DPU市場(chǎng)上,,英偉達(dá)、英特爾以及博通均推出了多款產(chǎn)品,。中國(guó)本土DPU企業(yè)起步較晚,,與國(guó)際頭部廠商相比,有著1-2代的技術(shù)差距,。另外,,本土企業(yè)DPU商用化不足,在性能上,、可靠性上都無(wú)法滿(mǎn)足當(dāng)代云計(jì)算廠商的需求,。
DPU產(chǎn)品最初主要由一定市場(chǎng)和技術(shù)儲(chǔ)備的成熟網(wǎng)絡(luò)設(shè)備生產(chǎn)商以及芯片巨頭提供。如今,,數(shù)據(jù)流量暴漲,,CPU算力瓶頸凸顯,很多中小企業(yè)也開(kāi)始布局DPU市場(chǎng),,DPU市場(chǎng)處于早期階段,,技術(shù)路線(xiàn)與產(chǎn)品形態(tài)等都不是不明確,對(duì)于國(guó)內(nèi)一些中小企業(yè)來(lái)說(shuō),,DPU的試錯(cuò)成本高,,很難較快布局。
雖然國(guó)內(nèi)廠商在芯片產(chǎn)品化的環(huán)節(jié)與國(guó)外一線(xiàn)廠商相比還有差距,,但是在DPU架構(gòu)的理解上還是有獨(dú)到的見(jiàn)解的,,而且我國(guó)目前在數(shù)據(jù)中心這個(gè)領(lǐng)域,無(wú)論是市場(chǎng)規(guī)模還是增速,,特別是用戶(hù)數(shù)量,,相較于國(guó)外都有巨大的優(yōu)勢(shì)。國(guó)內(nèi)廠商有望充分利用這一市場(chǎng)優(yōu)勢(shì),,加快發(fā)展步伐,,在DPU這個(gè)賽道與國(guó)外廠商逐鹿中原。
國(guó)產(chǎn)DPU雖遲但到
芯啟源
近日,,芯啟源宣布再獲超億元戰(zhàn)略投資,,本輪融資由國(guó)家集成電路產(chǎn)業(yè)基金旗下子基金上海超越摩爾領(lǐng)投,老股東允泰資本繼續(xù)堅(jiān)定跟投,。獲得的投資款將繼續(xù)用于公司下一代DPU產(chǎn)品研發(fā),,和目前產(chǎn)品的商業(yè)化推廣。芯啟源擁有全球化的技術(shù),、人才,、產(chǎn)品整合能力和迭代能力,,在DPU/智能網(wǎng)卡領(lǐng)域已整合有自己的完整產(chǎn)品鏈,同時(shí)在大客戶(hù)開(kāi)拓方面已取得進(jìn)展,,具備先發(fā)優(yōu)勢(shì),。芯啟源還考慮將DPU產(chǎn)品應(yīng)用于元宇宙。DPU數(shù)據(jù)處理單元芯片通過(guò)不斷提升元宇宙載體的算力,,提升了AR,、VR、AI等元宇宙內(nèi)容和各項(xiàng)功能的用戶(hù)體驗(yàn),。芯啟源認(rèn)為,,雖然目前還處于元宇宙的初始發(fā)展階段,但基礎(chǔ)設(shè)施算力的提升是持續(xù)的,,多技術(shù)協(xié)同演進(jìn)和生態(tài)建設(shè)也在進(jìn)行中,。這一切必然會(huì)帶來(lái)源源不斷的創(chuàng)新和機(jī)遇到元宇宙載體領(lǐng)域的DPU產(chǎn)品中。
中科馭數(shù)
2021年12月,,中科馭數(shù)近日宣布完成數(shù)億元規(guī)模A+輪融資,,本輪融資由麥星投資和昆侖資本聯(lián)合領(lǐng)投,,老股東靈均投資,、光環(huán)資本追加投資。中科馭數(shù)本輪融資距A輪融資不過(guò)5個(gè)月,,所籌資金將用于數(shù)據(jù)處理單元(DPU)芯片的研發(fā)和量產(chǎn),、以及市場(chǎng)開(kāi)拓。中科馭數(shù)是國(guó)家高新技術(shù)企業(yè),,創(chuàng)始團(tuán)隊(duì)來(lái)自中科院計(jì)算所計(jì)算機(jī)體系結(jié)構(gòu)國(guó)家重點(diǎn)實(shí)驗(yàn)室,,成立三年來(lái)已獲得50項(xiàng)發(fā)明專(zhuān)利授權(quán)。
中科馭數(shù)自主研發(fā)KPU芯片架構(gòu),,打造了業(yè)界首顆擁有網(wǎng)絡(luò)數(shù)據(jù)庫(kù)一體化加速功能的DPU芯片和智能網(wǎng)卡系列產(chǎn)品和解決方案,,并已聯(lián)合交易所、多家頭部券商機(jī)構(gòu)等合作伙伴進(jìn)入金融計(jì)算行業(yè),,在風(fēng)控,、極速交易等業(yè)務(wù)場(chǎng)景中大展拳腳。中科馭數(shù)還推出了業(yè)界領(lǐng)先性能的超低時(shí)延智能網(wǎng)卡,,可實(shí)現(xiàn)亞微秒級(jí)超低時(shí)延,、納秒級(jí)抖動(dòng),性能相當(dāng)于普通網(wǎng)卡的10倍,。
持續(xù)融資后,,中科馭數(shù)表示將以金融計(jì)算加速作為抓手,面向數(shù)據(jù)中心,、電信運(yùn)營(yíng)商等客戶(hù)類(lèi)型,,不斷推進(jìn)DPU方案的應(yīng)用落地,。據(jù)了解,在第一代產(chǎn)品基礎(chǔ)上,,中科馭數(shù)正在研發(fā)的第二代DPU芯片K2已經(jīng)完成設(shè)計(jì)和驗(yàn)證工作,,預(yù)計(jì)將于2022年第一季度投產(chǎn)流片。
星云智聯(lián)
2月15日,,珠海星云智聯(lián)科技有限公司(以下簡(jiǎn)稱(chēng)“星云智聯(lián)”)發(fā)生工商變更,,股東新增百度關(guān)聯(lián)公司達(dá)孜縣百瑞翔創(chuàng)業(yè)投資管理有限責(zé)任公司。同時(shí)星云智聯(lián)注冊(cè)資本由1801.75萬(wàn)元增至約1829.19萬(wàn)人民幣,,增幅1.52%,。
星云智聯(lián)成立日期為2021年3月22日,該公司專(zhuān)注于數(shù)據(jù)中心基礎(chǔ)互聯(lián)通信架構(gòu)和DPU芯片研發(fā),,團(tuán)隊(duì)成員有來(lái)自硅谷,、以色列、加拿大等地ICT領(lǐng)域的專(zhuān)家,。不到一年,,星云智聯(lián)就已經(jīng)完成多輪融資。
云豹智能
2021年12月15日,,云豹智能發(fā)布全功能云霄DPU網(wǎng)卡,,全面支持裸金屬、虛擬機(jī)和容器服務(wù)資源一體化和性能加速,。作為軟件定義DPU行業(yè)頭部半導(dǎo)體公司,,云豹智能已成功開(kāi)發(fā)全功能云霄DPU網(wǎng)卡解決方案,全面支持裸金屬,、虛擬機(jī)和容器云服務(wù)一體化,,以及高性能2x25G網(wǎng)絡(luò),提供彈性存儲(chǔ),、彈性網(wǎng)絡(luò),、虛擬化管理和安全加速等一站式解決方案,將極大地提升云服務(wù)商的服務(wù)質(zhì)量和業(yè)務(wù)靈活性,,并降低其整體投入和運(yùn)維成本,,幫助云服務(wù)商解決真正的痛點(diǎn),引領(lǐng)數(shù)據(jù)中心新趨勢(shì),。
結(jié)語(yǔ)
從目前行業(yè)的關(guān)注度來(lái)看,,DPU帶來(lái)的機(jī)遇已經(jīng)基本形成共識(shí),期待在這一趨勢(shì)下,,再加上國(guó)內(nèi)大好的發(fā)展機(jī)遇,,國(guó)內(nèi)廠商能早日在國(guó)內(nèi)的DPU市場(chǎng)占據(jù)一席之地。