“東數西算”工程能夠更合理的分配資源,從一定程度上緩解供需失衡問題。但是未來如何從根本上解決算力供需失衡的問題,,還是要細分算力需求,,有針對性解決。作為繼CPU,、GPU之后數據中心的第三顆主力芯片,,DPU(Data Processing Unit)提出新的解決方案。
DPU為何能和CPU,、GPU構成數據中心的“鐵三角”,?
從數據中心發(fā)展與算力增長速度來看,近年來,,我國以信息網絡等新型基礎設施為代表的“新基建”戰(zhàn)略帷幕的拉開,,5G、千兆光纖網絡建設發(fā)展迅速,,移動互聯網,、工業(yè)互聯網、車聯網等領域發(fā)展日新月異,。云計算,、數據中心、智算中心等基礎設施快速擴容,。此外,,據IDC統(tǒng)計,全球算力的需求每3.5個月就會翻一倍,遠遠超過了當前算力的增長速度,,CPU的性能增長率與數據量增長率出現了“剪刀差”現象,。尋求效率更高的計算芯片就成為了業(yè)界尋求高效的新方法,DPU芯片就是在這樣的趨勢下提出的,。
從技術層面來看,,DPU要解決的核心問題是基礎設施的“降本增效”,即將CPU處理效率低下,、GPU處理不了的負載卸載到專用DPU,,提升整個計算系統(tǒng)的效率、降低整體系統(tǒng)的成本,。簡單來說,,CPU用于通用計算,GPU用于加速計算,,而數據中心中傳輸數據的DPU則進行數據處理,。新一代的DPU不僅可以作為運算的加速引擎,還具備“控制平面”(即追求數據處理功能的覆蓋面)的功能,,能更高效地完成網絡虛擬化,、IO虛擬化、存儲虛擬化等任務,,徹底將CPU的算力釋放給應用程序,。
從市場規(guī)模角度來看,根據Fungible公司和英偉達公司的預測,,用于數據中心的DPU量級將達到和數據中心服務器等量的級別,。服務器每年新增大約千萬量級,一臺服務器可能沒有GPU,,但一定會有一顆或者多顆DPU,,好比每臺服務器都必須配網卡一樣。
頭部廠商也努力
在這個千億量級市場中,,國際傳統(tǒng)芯片巨頭如英偉達,、英特爾、Marvell,、博通等廠商,,都在積極布局DPU產品研發(fā)。2020年,,中國DPU產品主要由英偉達,、英特爾與博通三家企業(yè)提供。
英偉達
英偉達憑借在網卡上積累的優(yōu)勢,,占據市場龍頭位置,。英偉達在其數據中心和高性能計算GPU的開發(fā)上投入了大量精力,,另外,數據中心變得越來越復雜,,CPU進行的各種數據操作在性能和功耗方面變得越來越昂貴,,DPU實際上可能在未來幾年面臨不斷增長的需求。英偉達發(fā)展DPU是其在數據中心進一步發(fā)展的布局,。
2021年,,英偉達發(fā)布的Bluefield-3 DPU包含其Mellanox技術和16個Arm Cortex-A78處理器,將能夠取代300個傳統(tǒng)處理器內核,,預計2022年第一季度提供樣品,。英偉達還表示,Bluefield-4 將帶寬翻倍至800Gbps,。
在GTC 2021上,,英偉達宣布將產品路線升級為“GPU+CPU+DPU”的“三芯”戰(zhàn)略,通過CPU,、GPU,、DPU之間的協(xié)調計算,可以在數據中心和邊緣計算都達到非常好的性能,,而且能提供非常高的安全性,。前日,英偉達收購Arm失敗后,,掌門人黃仁勛表示,公司將繼續(xù)延續(xù)“三芯”戰(zhàn)略,。
英特爾
2021年6月,,英特爾推出了全新的基礎設施處理器(IPU,全稱Infrastructure Processing Unit),,英特爾的IPU被業(yè)界視為英特爾版本的DPU,。IPU是一個網絡設備,可以安全地加速和管理數據中心的基礎設施功能與可編程硬件,,旨在使云和通信服務提供商減少在中央處理器方面的開銷,,并充分釋放性能價值。利用IPU,,客戶能夠部署安全穩(wěn)定且可編程的解決方案,,從而更好地利用資源,平衡數據處理與存儲的工作負載,。
IPU可將CPU或XPU連接到網絡,,加速主機基礎設施功能,并適用于現有和新興基礎設施用例,,包括安全性,、虛擬化,、存儲、負載平衡,,以及虛擬網絡功能和微服務的數據路徑優(yōu)化,。IPU增強了基礎NIC中豐富的以太網網絡功能,通過高度優(yōu)化的硬件加速器和緊密耦合的計算引擎的組合處理任務來實現加速,。適應性是通過標準且易于使用的編程框架實現的,,該框架結合了硬件和軟件功能。IPU擴展了英特爾的智能網卡功能,,旨在應對當下復雜的數據中心,,并提升效率。
Marvell
2021年7月,,Marvell Technologies發(fā)布了其OCTEON 10系列DPU,。OCTEON 10采用Arm Neoverse N2和TSMC的5納米工藝構建,有望提供比其前身高出3倍的性能,。作為DPU的重要補充,,Marvell還為OCTEON 10引入了內部機器學習(ML)引擎。
OCTEON 10集成了1Tb的交換機,,支持內聯加密,,并且網絡包處理可編程,把功耗,、控制和數據平面加速設定提升到了新高度,。數據路徑和安全工作負載的性能范圍從50G到超過400G?;跈C器學習的硬件加速引擎,,比軟件處理的性能提升100倍?;赩PP的硬件加速器可將數據包處理速度提高多達5倍,。Marvell OCTEON 10 DPU面向云計算、5G通信,、企業(yè),、運營商和數據中心應用場景。
博通
博通在網卡市場處于領導者地位,,其DPU布局更多源自SmartNIC,。Broadcom在Stingray的中心設計了NetXtreme-S BCM58800芯片,將8個3GHz主頻的ARM v8 A72內核放置其中,。博通在逐步將產品轉移到7納米,,使得可以從8核擴展到12核。
國產DPU,,挑戰(zhàn)與機遇并存
在國際DPU市場上,,英偉達,、英特爾以及博通均推出了多款產品。中國本土DPU企業(yè)起步較晚,,與國際頭部廠商相比,,有著1-2代的技術差距。另外,,本土企業(yè)DPU商用化不足,,在性能上、可靠性上都無法滿足當代云計算廠商的需求,。
DPU產品最初主要由一定市場和技術儲備的成熟網絡設備生產商以及芯片巨頭提供,。如今,數據流量暴漲,,CPU算力瓶頸凸顯,,很多中小企業(yè)也開始布局DPU市場,DPU市場處于早期階段,,技術路線與產品形態(tài)等都不是不明確,,對于國內一些中小企業(yè)來說,DPU的試錯成本高,,很難較快布局,。
雖然國內廠商在芯片產品化的環(huán)節(jié)與國外一線廠商相比還有差距,但是在DPU架構的理解上還是有獨到的見解的,,而且我國目前在數據中心這個領域,,無論是市場規(guī)模還是增速,特別是用戶數量,,相較于國外都有巨大的優(yōu)勢,。國內廠商有望充分利用這一市場優(yōu)勢,加快發(fā)展步伐,,在DPU這個賽道與國外廠商逐鹿中原。
國產DPU雖遲但到
芯啟源
近日,,芯啟源宣布再獲超億元戰(zhàn)略投資,,本輪融資由國家集成電路產業(yè)基金旗下子基金上海超越摩爾領投,老股東允泰資本繼續(xù)堅定跟投,。獲得的投資款將繼續(xù)用于公司下一代DPU產品研發(fā),,和目前產品的商業(yè)化推廣。芯啟源擁有全球化的技術,、人才,、產品整合能力和迭代能力,在DPU/智能網卡領域已整合有自己的完整產品鏈,,同時在大客戶開拓方面已取得進展,,具備先發(fā)優(yōu)勢,。芯啟源還考慮將DPU產品應用于元宇宙。DPU數據處理單元芯片通過不斷提升元宇宙載體的算力,,提升了AR,、VR、AI等元宇宙內容和各項功能的用戶體驗,。芯啟源認為,,雖然目前還處于元宇宙的初始發(fā)展階段,但基礎設施算力的提升是持續(xù)的,,多技術協(xié)同演進和生態(tài)建設也在進行中,。這一切必然會帶來源源不斷的創(chuàng)新和機遇到元宇宙載體領域的DPU產品中。
中科馭數
2021年12月,,中科馭數近日宣布完成數億元規(guī)模A+輪融資,,本輪融資由麥星投資和昆侖資本聯合領投,老股東靈均投資,、光環(huán)資本追加投資,。中科馭數本輪融資距A輪融資不過5個月,所籌資金將用于數據處理單元(DPU)芯片的研發(fā)和量產,、以及市場開拓,。中科馭數是國家高新技術企業(yè),創(chuàng)始團隊來自中科院計算所計算機體系結構國家重點實驗室,,成立三年來已獲得50項發(fā)明專利授權,。
中科馭數自主研發(fā)KPU芯片架構,打造了業(yè)界首顆擁有網絡數據庫一體化加速功能的DPU芯片和智能網卡系列產品和解決方案,,并已聯合交易所,、多家頭部券商機構等合作伙伴進入金融計算行業(yè),在風控,、極速交易等業(yè)務場景中大展拳腳,。中科馭數還推出了業(yè)界領先性能的超低時延智能網卡,可實現亞微秒級超低時延,、納秒級抖動,,性能相當于普通網卡的10倍。
持續(xù)融資后,,中科馭數表示將以金融計算加速作為抓手,,面向數據中心、電信運營商等客戶類型,,不斷推進DPU方案的應用落地,。據了解,在第一代產品基礎上,中科馭數正在研發(fā)的第二代DPU芯片K2已經完成設計和驗證工作,,預計將于2022年第一季度投產流片,。
星云智聯
2月15日,珠海星云智聯科技有限公司(以下簡稱“星云智聯”)發(fā)生工商變更,,股東新增百度關聯公司達孜縣百瑞翔創(chuàng)業(yè)投資管理有限責任公司,。同時星云智聯注冊資本由1801.75萬元增至約1829.19萬人民幣,增幅1.52%,。
星云智聯成立日期為2021年3月22日,,該公司專注于數據中心基礎互聯通信架構和DPU芯片研發(fā),團隊成員有來自硅谷,、以色列,、加拿大等地ICT領域的專家。不到一年,,星云智聯就已經完成多輪融資,。
云豹智能
2021年12月15日,云豹智能發(fā)布全功能云霄DPU網卡,,全面支持裸金屬,、虛擬機和容器服務資源一體化和性能加速。作為軟件定義DPU行業(yè)頭部半導體公司,,云豹智能已成功開發(fā)全功能云霄DPU網卡解決方案,,全面支持裸金屬、虛擬機和容器云服務一體化,,以及高性能2x25G網絡,,提供彈性存儲、彈性網絡,、虛擬化管理和安全加速等一站式解決方案,,將極大地提升云服務商的服務質量和業(yè)務靈活性,并降低其整體投入和運維成本,,幫助云服務商解決真正的痛點,,引領數據中心新趨勢。
結語
從目前行業(yè)的關注度來看,,DPU帶來的機遇已經基本形成共識,,期待在這一趨勢下,再加上國內大好的發(fā)展機遇,,國內廠商能早日在國內的DPU市場占據一席之地。