英偉達在數(shù)據(jù)中心的“帶貨能力”不是一般的強,。
2020年4月,英偉達宣布完成對以色列網(wǎng)絡芯片商Mellanox高達69億美元的收購交易,,將DPU芯片推至半導體領域的焦點,。半年后,英偉達就推出這筆收購所帶來的最新成果——新一代DPU,。
DPU,,全名Data Processing Units(數(shù)據(jù)處理單元),被英偉達創(chuàng)始人黃仁勛稱作與CPU,、GPU共同組成“未來計算三大支柱”,。這個新型計算單元宛如數(shù)據(jù)中心的一匹黑馬,一時間變得炙手可熱,,并在國內(nèi)外均掀起新一波投資熱潮,。
僅在今年,國內(nèi)DPU創(chuàng)企中科馭數(shù),、星云智聯(lián),、大禹智芯、芯啟源,、云豹智能等均宣布完成新融資,,其中有多筆融資金額達數(shù)億元人民幣。
在國外,,明星DPU創(chuàng)企Pensando,、Fungible已經(jīng)是“吸金”能力超強的數(shù)據(jù)中心新寵,,Marvell創(chuàng)始人戴偉立、周秀文夫婦亦在2019年創(chuàng)立DPU新公司Dream Big Semiconductor,。英特爾,、Marvell、博通等芯片巨頭更是早早押寶,。
這個日漸走紅的新賽道,,真有能與CPU、GPU分食數(shù)據(jù)中心計算市場的潛力嗎,?
▲2021年公布新融資的國內(nèi)DPU初創(chuàng)公司
01.
做CPU做不好,、GPU做不了的計算任務
“每臺服務器可能沒有GPU,但絕對有DPU,,好比每臺服務器都必須配網(wǎng)卡一樣,。”中科馭數(shù)創(chuàng)始人兼CEO鄢貴海非??春肈PU的未來,,并認為DPU的出現(xiàn)是異構(gòu)計算的一個階段性標志。
近年來隨著海量數(shù)據(jù)爆發(fā),,計算任務愈發(fā)密集,傳統(tǒng)以CPU為中心的數(shù)據(jù)中心架構(gòu)日漸面臨性能提升的瓶頸,,由CPU大包大攬各種計算和管控任務,,逐漸演變?yōu)槎囝惍悩?gòu)算力資源各司其職。
英偉達創(chuàng)始人兼CEO黃仁勛曾解釋說,,現(xiàn)代數(shù)據(jù)中心由軟件定義,,運行數(shù)據(jù)中心的傳統(tǒng)基礎設施需消耗20-30%的CPU核心資源,而DPU即是專為CPU“減負”的一種新型專用處理器,。
▲CPU主頻算力相對網(wǎng)絡數(shù)據(jù)傳輸速率升級的差距(來源:頭豹研究院)
DPU主要承擔起網(wǎng)絡,、存儲和安全的加速處理任務,旨在滿足網(wǎng)絡側(cè)專用計算需求,,尤其適用于服務器量多,、對數(shù)據(jù)傳輸速率要求嚴苛的場景。
它將CPU所不擅長的網(wǎng)絡協(xié)議處理,、數(shù)據(jù)加解密,、數(shù)據(jù)壓縮等數(shù)據(jù)處理任務通通接手,通過處理器和網(wǎng)卡的組合,,兼顧傳輸和計算的需求,。DPU也被看作是智能網(wǎng)卡(SmartNIC)技術(shù)的演化增強版本。
如今數(shù)據(jù)中心倡導以資源池的形式來做,,各類資源分別管理,、擴容,,而DPU宛如一個連接樞紐,可以起到中心調(diào)度管理的作用,,一端連接各種CPU,、GPU、SSD,、FPGA加速卡等本地資源,,一端連接交換機/路由器等網(wǎng)絡資源。
“大家認為,,可能在未來的數(shù)據(jù)中心云端架構(gòu)上,,DPU取代了CPU,成為一個最關鍵的,、最核心的芯片地位,。”半導體行業(yè)知名投資人,、華登國際合伙人王林說,,如果將整個數(shù)據(jù)中心看成一整個大的服務,DPU就相當于這個大服務器里的CPU,。
總體而言,,DPU不僅能提高網(wǎng)絡傳輸效率,而且釋放了CPU算力資源,,從而帶動整體數(shù)據(jù)中心的降本增效,。
02.
云計算剛需,巨頭齊上陣
對于云計算廠商及大型互聯(lián)網(wǎng)企業(yè),,采購DPU產(chǎn)品已是必然走向,。往前追溯,國內(nèi)外頭部云計算廠商均已率先嘗試類似的思路,。
早在2013年,,亞馬遜云科技(AWS)就開始研究如何將網(wǎng)絡、存儲等之前由CPU處理的任務卸載到NIC卡上,,隨后收購以色列芯片商Annapurna Labs,,并在2017年發(fā)布典型產(chǎn)品AWS Nitro。
AWS的這一嘗試,,不僅釋放CPU的算力資源,,也降低了數(shù)據(jù)中心成本。國內(nèi)阿里云亦在其神龍服務器核心組件MOC卡中應用了專用X-Dragon芯片,,統(tǒng)一支持網(wǎng)絡,、I/O、存儲和外設的虛擬化。
過去數(shù)年間,,博通,、Mellanox、賽靈思,、英特爾等芯片公司均推出自家DPU產(chǎn)品,,除了加強其對于網(wǎng)絡協(xié)議和網(wǎng)絡安全的處理能力外,也陸續(xù)在網(wǎng)絡,、存儲和計算方面均分別展現(xiàn)出許多優(yōu)勢,。
與GPU不同的是,DPU面向的應用更加底層,,類型更多樣,,沖在DPU前排的各家廠商在具體功能側(cè)重上也各不相同,大體差別如下:
▲國外DPU主要廠商對比
在收購Mellanox后,,英偉達進一步增強其DPU與GPU能力的組合,,并在去年亮出新路線圖,號稱要將DPU性能三年提升1000倍,。明年英偉達將發(fā)布加持AI能力的BlueField-3X DPU,。
▲英偉達BlueField DPU三年路線圖
今年英特爾、Marvell等芯片巨頭繼續(xù)加碼DPU,。
6月,,英特爾發(fā)布了可編程網(wǎng)絡設備IPU(Infrastructure Processing Unit,基礎設施處理器),,用于擴展智能網(wǎng)卡功能,,加速存儲虛擬化、網(wǎng)絡虛擬化和安全等功能,,并釋放CPU核心。其首個基于FPGA的IPU平臺已為多個云服務提供商完成部署,,首款ASIC IPU也正在測試中,。
7月,Marvell推出采用臺積電5nm制程工藝的OCTEON 10系列DPU,,首用Arm Neoverse N2 CPU核心,,并集成了機器學習推理引擎。首批OCTEON 10產(chǎn)品預計將于今年年底前出樣,,據(jù)稱相比前一代標量處理引擎,,它能將數(shù)據(jù)包的處理吞吐量大幅提升至5倍。
▲Marvell OCTEON 10架構(gòu)
由于DPU處于發(fā)展初期,,業(yè)界尚未形成統(tǒng)一標準,,也還沒有形成足夠的規(guī)模部署,這為國內(nèi)DPU創(chuàng)企帶來了發(fā)展良機。
03.
市場規(guī)模將達百億量級
國內(nèi)DPU創(chuàng)企成資本寵兒
在今年南京世界半導體大會期間的SoC設計技術(shù)論壇上,,半導體行業(yè)知名投資人,、華登國際合伙人王林提到DPU是今年SoC創(chuàng)業(yè)最火的概念,從去年開始苗頭慢慢起來,。
根據(jù)Canalys Cloud Channels Analysis預測,,到2023年,中國DPU市場規(guī)模將達190億人民幣,。另據(jù)頭豹研究院預測,,中國DPU市場規(guī)模預計將在2025年超過37億美元(約合240億人民幣)。
▲到2025年,,中國DPU市場規(guī)模預測(來源:頭豹研究院)
目前中國DPU產(chǎn)品主要由英偉達,、英特爾、博通等國際芯片巨頭供應,,同時中科馭數(shù),、大禹智芯、芯啟源,、益思芯,、星云智聯(lián)、云豹智能等國內(nèi)DPU創(chuàng)企正組成推動DPU國產(chǎn)替代的生力軍,。
▲國內(nèi)主要DPU初創(chuàng)公司
從創(chuàng)立時間來看,,國內(nèi)DPU代表創(chuàng)企集中創(chuàng)辦于過去六年間,成立時間最早的是芯啟源,。大禹智芯,、益思芯、云豹智能集中在2020年6-8月創(chuàng)立,,星云智聯(lián)則是今年3月剛成立,。
中科馭數(shù)從中科院孵化而出,成立于2018年4月,?;谄渥匝蠯PU(Kernel Processing Unit)芯片架構(gòu),中科馭數(shù)在2019年10月實現(xiàn)業(yè)界首顆數(shù)據(jù)庫與時序數(shù)據(jù)處理融合加速芯片的成功流片,,并于2020年5月發(fā)布基于KPU架構(gòu)的領域?qū)S眉铀倏óa(chǎn)品,。
目前,中科馭數(shù)已與中泰證券,、華泰證券,、中信建投、金證股份,、上交所技術(shù)等多家金融機構(gòu)達成合作,。除了金融計算領域,其DPU產(chǎn)品未來還可以廣泛應用于數(shù)據(jù)中心、電信,、物聯(lián)網(wǎng),、互聯(lián)網(wǎng)、混合云等其他領域,。
▲中科馭數(shù)DPU芯片產(chǎn)品路線
同樣總部位于北京的大禹智芯,,成立于2020年6月,在成立之初就獲得天使輪融資,,由中科創(chuàng)星和惟一資本聯(lián)合投資,;今年7月宣布完成數(shù)千萬元Pre-A輪融資,由華義創(chuàng)投和奇績創(chuàng)壇投資,。
大禹智芯創(chuàng)始人,、CEO李爽曾任美團云總經(jīng)理、阿里巴巴網(wǎng)絡技術(shù)總監(jiān),、百度系統(tǒng)技術(shù)委員會主席,,曾主導參與云計算戰(zhàn)略和互聯(lián)網(wǎng)巨頭技術(shù)平臺搭建,并曾領導開發(fā)中國第一代高性能網(wǎng)關,,為中國云計算時代奠定硬件基礎,,有多年網(wǎng)絡設備、服務器,、處理器定制及異構(gòu)平臺研發(fā)經(jīng)驗,。
據(jù)悉,大禹智芯團隊成員來自阿里云,、谷歌云,,曾親自領導實現(xiàn)過云平臺和DPU,具有完整的DPU經(jīng)驗,。其第一代智能網(wǎng)卡大禹DPU系列產(chǎn)品Paratus 1.0號稱是是國內(nèi)首款處理能力達25G的商用化DPU產(chǎn)品,,已進入生產(chǎn)階段,預計今年第三季度出貨,。該公司已開始研發(fā)100G的產(chǎn)品,。
上海芯啟源創(chuàng)立于2015年,今年接連完成數(shù)億元Pre-A2,、Pre-A3輪融資。目前芯啟源聚焦在5G云數(shù)據(jù)中心和高端EDA領域,,擁有兩大板塊核心產(chǎn)品:智能網(wǎng)卡,、SoC原型和仿真系統(tǒng)MIMIC。
芯啟源創(chuàng)始人盧笙本科畢業(yè)于上海交通大學,,后獲美國Lamar University碩士學位,,曾先后在博通、Marvell、ArtX等公司擔任重要崗位,,其核心團隊已在芯片領域積累了20多年研發(fā)管理經(jīng)驗,。
據(jù)悉,芯啟源智能網(wǎng)卡是目前國內(nèi)唯一的基于SoC架構(gòu)的成熟DPU完整解決方案,,擁有自主知識產(chǎn)權(quán),,目前已成熟量產(chǎn),并獲得了中國移動蘇研院的首批智能網(wǎng)卡訂單,。
▲芯啟源智能網(wǎng)卡
上海益思芯科技2020年7月在上海成立,,其創(chuàng)始人、董事長兼CEO黃益人作為半導體芯片行業(yè)專家,、DPU智能網(wǎng)卡行業(yè)帶頭人,。據(jù)悉,益思芯科技的技術(shù)團隊由國內(nèi)外網(wǎng)絡,、交換,、存儲領域的核心專業(yè)人員、研發(fā)人員組成,,在網(wǎng)絡,、交換、存儲及高性能CPU等領域具有深厚的技術(shù)實力,。
今年7月,,益思芯科技宣布已交付國內(nèi)第一款自主研發(fā)的商用云原生智能網(wǎng)卡Stargate-F1000-SN,整卡功耗30W~40W,。
▲益思芯科技Stargate-F1000-SN智能網(wǎng)卡
深圳云豹智能由原RMI公司 (后被Netlogic/博通收購)聯(lián)合創(chuàng)始人Sunny Siu蕭啟陽博士聯(lián)合業(yè)界精英創(chuàng)立,,其核心團隊來自博通、英特爾,、Arm,、海思、阿里巴巴等國內(nèi)外知名公司,。
根據(jù)官網(wǎng)信息,,騰訊、紅杉資本,、正心谷資本,、耀途資本、中芯聚源,、ACE Equity Partners,、華業(yè)天成、OBN CAPITAL均為云豹智能投資方,。
在創(chuàng)立云豹智能前,,蕭啟陽曾任博通處理器和無線基礎設施事業(yè)部大中華區(qū)總經(jīng)理,、NetLogic公司亞太區(qū)總裁兼總經(jīng)理(2012年被博通以37億美元收購)、RMI公司(被NetLogic公司收購)聯(lián)合創(chuàng)始人兼亞太區(qū)總裁,。
珠海星云智聯(lián)成立于今年3月,,4月宣布完成數(shù)億元天使輪融資,7月完成數(shù)億元Pre-A輪融資,。
據(jù)悉,,星云智聯(lián)的團隊曾成功實現(xiàn)了多領域通信與網(wǎng)絡芯片開發(fā),核心成員都參與了網(wǎng)絡大芯片從0到1探索,、發(fā)展,、優(yōu)化、超越的全過程,,具備全系統(tǒng),、長周期工程開發(fā)經(jīng)驗,擁有對云計算,、互聯(lián)網(wǎng),、運營商等多場景的深度理解,以及設計滿足不同市場需求產(chǎn)品的能力,。
星云智聯(lián)正在研發(fā)的DPU將在IAAS和PAAS之間形成獨立的CAAS(通信服務層),,實現(xiàn)物理資源的“多虛一”和近乎裸金屬性能的“一虛多”,簡化IAAS,,提升資源利用率,;卸載PAAS中與通信數(shù)據(jù)流相關的處理,提升應用的通信效率和性能,。
其他一些國內(nèi)創(chuàng)企主研產(chǎn)品也可劃分至DPU范疇,,但因其官網(wǎng)沒有明確提及與DPU的關聯(lián),因此未記入這篇文章中,,歡迎讀者在評論區(qū)補充更多正在研發(fā)DPU的國內(nèi)公司,。
04.
結(jié)語:DPU創(chuàng)業(yè)大幕剛剛拉開
作為新型數(shù)據(jù)中心最重要的芯片之一,DPU正加速發(fā)展,。在星云智聯(lián)CEO于勇看來,,未來十年,全球云計算和數(shù)據(jù)中心基礎架構(gòu)將迎來顛覆性變革,,基于DPU的統(tǒng)一通信服務平臺(CAAS)是這個未來架構(gòu)的核心引擎,。
從目前全球DPU產(chǎn)業(yè)格局來看,產(chǎn)品應用仍相對分散,,盡管國際巨頭占據(jù)技術(shù)和市場優(yōu)勢,,但國內(nèi)外的代際之差并非難以逾越。所幸國內(nèi)多家企業(yè)已經(jīng)在探索商業(yè)化落地的道路上,。
對于接下來的發(fā)展,,大禹智芯CEO李爽判斷,DPU需要朝兩個方向努力:一是提高虛擬化效率,,二是提升流動數(shù)據(jù)的吞吐能力,,以助力數(shù)據(jù)中心網(wǎng)絡跨入100G目標。
雖然無論是實現(xiàn)核心技術(shù)轉(zhuǎn)化為主營收入,,還是讓DPU這個新興概念被更多客戶所接受,,都尚需時日,但在產(chǎn)業(yè)鏈上下游廠商的共同努力下,,相信未來會有更多公司投入這一新興賽道,,共同推動國內(nèi)DPU生態(tài)走向繁榮。