Arm Neoverse:一個或?qū)㈩嵏铂F(xiàn)代計算的架構(gòu)
當前,,全社會數(shù)據(jù)總量爆發(fā)式增長,,數(shù)據(jù)存儲、計算、傳輸,、應(yīng)用的需求大幅提升,,對算力的需求也越來越高。CPU不僅需要處理通用計算類任務(wù),,還需要承擔(dān)網(wǎng)絡(luò),、存儲、安全等任務(wù),,有效算力在總體算力中的占比逐漸下降,,行業(yè)亟需在特定領(lǐng)域更高算力的芯片的支撐。而隨著Arm Neoverse架構(gòu)的發(fā)布,,整個行業(yè)迎來了巨變,。
2018年Arm首次發(fā)布了Arm Neoverse平臺。目前,,Neoverse平臺主要包括三個IP系列:分別是V系列,、N系列和E系列。據(jù)Arm官網(wǎng)介紹,,Neoverse V系列主打極致性能,,適合執(zhí)行高計算需求和存儲器密集型應(yīng)用的系統(tǒng),主要應(yīng)用場景包括高性能計算 (HPC),、云計算和AI/ML加速型工作負載,;Neoverse N系列主打可高擴展的性能表現(xiàn),提供均衡的最佳化CPU設(shè)計,、出色的性能功耗比和性能成本比,,應(yīng)用場景包括可高擴展的云計算、企業(yè)連網(wǎng),、智能網(wǎng)卡/DPU以及客制化ASIC加速器,、5G基礎(chǔ)設(shè)施以及電力和空間受限的邊緣場景;Neoverse E系列主打高效率吞吐量,,在支持高資料吞吐量的同時,,大幅降低功耗,主要應(yīng)用場景包括網(wǎng)絡(luò)資料層處理器,、低功耗網(wǎng)關(guān)的5G部署,。
圖源:Arm官網(wǎng)
可以看出,這三種內(nèi)核分別針對三種不同的性能和功耗權(quán)衡,,這就為各行業(yè)實現(xiàn)定制化芯片帶來了充分且靈活的施展空間,。但光有硬件還遠遠不夠,要打造成功的基礎(chǔ)架構(gòu)解決方案,,還需要一個強大的軟件生態(tài)系統(tǒng),。
在軟件生態(tài)系統(tǒng)方面,,Arm不僅在開源社區(qū)有著長期且持續(xù)的投入,并在Arm Neoverse平臺的設(shè)計原則中納入了構(gòu)建獨一無二的開發(fā)者生態(tài)系統(tǒng),,目的是賦能開發(fā)者順暢地進行創(chuàng)建,、測試以及優(yōu)化在基于Arm架構(gòu)上的項目開發(fā),如今,,Arm架構(gòu)得到了所有領(lǐng)先編程語言和運行庫的支持,,例如Linux操作系統(tǒng)、云原生軟件,、CI/CD流水線等都已經(jīng)運行在Arm架構(gòu)上,。從架構(gòu)、IP到技術(shù)庫,、運行環(huán)境和編譯器,,Arm已啟用了主流的基礎(chǔ)設(shè)施軟件。
軟硬件充分加持下,,Arm Neoverse架構(gòu)正在吸引一眾云服務(wù)廠商,、CPU廠商、GPU廠商,、DPU玩家的青睞,。
Arm CPU生態(tài)初具規(guī)模
首先是云服務(wù)廠商的躬身試探,公有云無疑是技術(shù)革新的最佳領(lǐng)域,。對于不同的云服務(wù)廠商來說,,由于其構(gòu)建的生態(tài)不同,對芯片的性能需求也是各異,。在市場選擇不大的情況下,,各云廠商選擇了自研。
AWS可以說是最早開始自研服務(wù)器芯片的云廠商,。自2018年至今,,AWS的Graviton服務(wù)器芯片已經(jīng)來到第三代。2022年5月下旬,,AWS發(fā)布了基于Neoverse V1核心的Graviton3,,這是第一個支持SVE的通用64位Arm服務(wù)器CPU。
無獨有偶,,在2021年10月份的云棲大會上,,阿里巴巴旗下半導(dǎo)體公司平頭哥發(fā)布自研云芯片倚天710,該芯片基于Armv9架構(gòu),。這是阿里第一顆為云而生的CPU芯片,,將在阿里云數(shù)據(jù)中心部署應(yīng)用。
除了云服務(wù)廠商自研之外,,初創(chuàng)公司Ampere Computing在Arm服務(wù)器芯片上的探索則為其他云廠商開辟了另一個選擇,。Ampere Computing是目前唯一一家為云服務(wù)提供商提供商用(獨立)Arm服務(wù)器芯片的CPU公司,Microsoft Azure,、谷歌云,、甲骨文云等均使用Ampere Altra產(chǎn)品。
Ampere Computing分別于2020年發(fā)布80核的Ampere Altra,,2021年發(fā)布128核的Ampere Altra Max,,兩者均基于Arm Neoverse N1內(nèi)核。Ampere還宣布今年晚些時候?qū)⑼瞥霾捎肁rm架構(gòu)的5nm AmpereOne CPU,,但并不是基于Neoverse N1,,而是基于Arm ISA自研的核心。不過這對Arm來說是一個極好的跡象,,因為Ampere將在公司技術(shù)和x86服務(wù)器處理器之間進一步擴大服務(wù)器CPU空間,。
云決策者的兩大關(guān)鍵指標是單芯片性能和單線程性能。在這方面,,Arm預(yù)測,,使用Arm Neoverse V1核心的AWS Graviton3可提供最高的單線程性能;Ampere Altra Max和阿里的倚天710能在所有CPU中提供最佳的單芯片吞吐量,。
云計算場景之外,,5G和邊緣領(lǐng)域的芯片廠商也開啟試水之路。根據(jù)GSA數(shù)據(jù)顯示,,現(xiàn)在已有近85個市場提供5G服務(wù),,預(yù)計到2025年,連接設(shè)備將達到約18億,。未來的3-5年依然是5G發(fā)展和增強功能交付的關(guān)鍵。在這方面,,Marvell最近幾年放棄通用服務(wù)器業(yè)務(wù),,轉(zhuǎn)而發(fā)展垂直市場,其推出的Thunder服務(wù)器芯片已經(jīng)證明了在超算和商用領(lǐng)域的可行性,。在世界移動通信大會 (MWC) 上,,戴爾與Marvell宣布強強聯(lián)手;此外,,諾基亞也與Arm在基于Neoverse CPU上進行合作,,開發(fā)了ReefShark芯片組,如今已全面使用,。
在高性能計算(HPC)領(lǐng)域,英偉達是一大代表,,2022年3月22日,,英偉達宣布推出首款面向AI基礎(chǔ)設(shè)施和高性能計算的基于Arm Neoverse V2的數(shù)據(jù)中心的定制CPU Grace,它專為AI和HPC應(yīng)用程序而設(shè)計,。Grace專注于IO和內(nèi)存帶寬,與GPU共享主內(nèi)存,,通過NVlink將英偉達的GPU和Grace CPU連接,,可擴展到現(xiàn)在需要數(shù)天才能運行的超大型AI模型。
早在2013年,,亞馬遜云科技 (AWS) James Hamilton就提出了一項雙論點:其一,鑒于使用Arm架構(gòu)的芯片出貨數(shù)量,,他確信Arm最終一定能設(shè)計出優(yōu)異的服務(wù)器CPU,;其二,James注意到,,隨著時間的推移,,越來越多的功能逐漸從主板遷移到SoC上。手機領(lǐng)域已現(xiàn)端倪,,服務(wù)器方面自然也會效仿,。
而如今這兩個論點正在實現(xiàn),在一眾廠商的大力推動下,,采用Arm Neoverse平臺的產(chǎn)品已創(chuàng)下了多項行業(yè)第一:第一個總內(nèi)存帶寬超過每秒1TB的CPU,;第一個單塊裸片上能配置超過100個核心的CPU,核心數(shù)達到128個,;第一個將DDR5和PCIe Gen5.0推向市場的CPU,;第一個在SPEC CPU 2017基準測試中打破500整型跑分的CPU。
Arm Neoverse在全球市場表現(xiàn)不菲,,不僅是國際大廠,,Arm Neoverse也為廣大初創(chuàng)企業(yè)創(chuàng)造了良好的發(fā)展機遇。
國產(chǎn)CPU和DPU初創(chuàng)企業(yè)嗅到商機
近年來正值中國基礎(chǔ)設(shè)施的計算升級新浪潮,,因此,,國內(nèi)服務(wù)器芯片賽道也迎來了蓬勃興起。國內(nèi)一眾初創(chuàng)企業(yè)如鴻鈞微,、遇賢微等將Arm Neoverse作為其服務(wù)器芯片的創(chuàng)新基礎(chǔ),,甚至新興的DPU企業(yè)也開始率先踏上探索之路。
鴻鈞微電子是服務(wù)器芯片領(lǐng)域新興的一員,。在鴻鈞微電子首席執(zhí)行官沈榮看來:“數(shù)據(jù)中心的規(guī)模越來越大,,其占地與體積隨之將變得更大,這意味著要花費更多的資金投入,,所以性能密度,、功耗效率這些指標便顯得尤為重要,,而Arm Neoverse符合云計算所需的多核解決方案,具有優(yōu)異的總擁有成本 (TCO) 優(yōu)勢,,讓我們找到能真正為客戶提供具成本效益的整體解決方案,?!睋?jù)悉鴻鈞微電子基于Neoverse N2的服務(wù)器CPU產(chǎn)品預(yù)計將在明年年底面世,。
遇賢微電子是一家正在面向中國云計算市場打造彈性云原生服務(wù)器CPU的初創(chuàng)公司,采用的也是Neoverse N2平臺,。遇賢微電子首席執(zhí)行官羅勇博士表示:“云計算的巨大增長是新一波科技浪潮的趨勢,,它將會是全球范圍內(nèi)最大的增量市場之一。而且,,云計算生態(tài)系統(tǒng)已經(jīng)是個相對成熟的環(huán)境,,能讓像Arm Neoverse這類的新架構(gòu)來取代x86,,最終用戶能夠從一致性的Arm Neoverse CPU上獲益,,也可以加速遇賢微電子產(chǎn)品的部署?!?/p>
不止是CPU和GPU這兩類芯片,,DPU芯片廠商也看中了Arm Neoverse的潛力。DPU (Data Processing Unit) 是最近幾年新發(fā)展起來的一種專用處理器,,被稱之為數(shù)據(jù)中心繼CPU和GPU之后的“第三顆主力芯片”,。目前DPU主流方案亦開始以Arm Neoverse平臺為設(shè)計基礎(chǔ)。Arm基礎(chǔ)設(shè)施事業(yè)部全球副總裁鄒挺表示,,“我們認為ASIC系統(tǒng)級芯片是普遍的最后DPU目標產(chǎn)品形態(tài),,而從能耗和性能的要求上來看,Arm Neoverse平臺將是DPU中ASIC系統(tǒng)級芯片方案的最佳選擇,?!?/p>
國內(nèi)DPU芯片頭部企業(yè)云豹智能最新的DPU SoC產(chǎn)品上就采用了大量的Arm CPU,尤其是Neoverse CPU與其高性能互連技術(shù),。云豹智能首席芯片架構(gòu)師及聯(lián)合創(chuàng)始人莫志城指出:“現(xiàn)階段數(shù)據(jù)中心正在快速地從以CPU為中心轉(zhuǎn)變?yōu)橐訢PU為中心,。云豹DPU不僅要能處理網(wǎng)絡(luò)控制面和數(shù)據(jù)面的卸載,具備高度靈活和可編程能力,;同時必須非常高效地處理運維和業(yè)務(wù)管理,。因此我們的可編程DPU必須依賴非常高性能且低功耗的CPU,例如新一代的Neoverse,?!睋?jù)悉,云豹這款DPU產(chǎn)品預(yù)計于2023年初流片,。
可以看出,,由于高性能,、低能耗、優(yōu)異的性能比以及總擁有成本等特點,,尤其是完善的自身生態(tài),,Arm架構(gòu)正在吸引廣大中國初創(chuàng)芯片企業(yè)的涌入,生態(tài)“朋友圈”逐漸擴大,。另一方面,,如Arm Neoverse這樣的平臺也為這些初創(chuàng)企業(yè)提供了很好的發(fā)展機會,并在加速芯片進入市場的時間窗口,,如上文所述,,國內(nèi)幾家初創(chuàng)企業(yè)基于Arm Neoverse的產(chǎn)品大多將于明年問世。
總結(jié)
全球基礎(chǔ)設(shè)施領(lǐng)域的建設(shè)和升級興起了新的浪潮,,基礎(chǔ)設(shè)施的未來必將改頭換面,,定制芯片將是這一變革必需的產(chǎn)物,未來十年,,Arm架構(gòu)的CPU進軍智能計算市場已呈不可阻擋之勢,。這對所有人來說都是一個巨大的機會,處于產(chǎn)業(yè)鏈上的國產(chǎn)芯片企業(yè)應(yīng)該乘著發(fā)展的東風(fēng),,奮力前行,。
更多信息可以來這里獲取==>>電子技術(shù)應(yīng)用-AET<<