Arm Neoverse:一個或將顛覆現(xiàn)代計算的架構
當前,全社會數(shù)據總量爆發(fā)式增長,,數(shù)據存儲,、計算,、傳輸、應用的需求大幅提升,,對算力的需求也越來越高,。CPU不僅需要處理通用計算類任務,還需要承擔網絡,、存儲,、安全等任務,有效算力在總體算力中的占比逐漸下降,,行業(yè)亟需在特定領域更高算力的芯片的支撐,。而隨著Arm Neoverse架構的發(fā)布,整個行業(yè)迎來了巨變,。
2018年Arm首次發(fā)布了Arm Neoverse平臺,。目前,Neoverse平臺主要包括三個IP系列:分別是V系列,、N系列和E系列,。據Arm官網介紹,Neoverse V系列主打極致性能,,適合執(zhí)行高計算需求和存儲器密集型應用的系統(tǒng),,主要應用場景包括高性能計算 (HPC)、云計算和AI/ML加速型工作負載,;Neoverse N系列主打可高擴展的性能表現(xiàn),,提供均衡的最佳化CPU設計、出色的性能功耗比和性能成本比,,應用場景包括可高擴展的云計算,、企業(yè)連網、智能網卡/DPU以及客制化ASIC加速器,、5G基礎設施以及電力和空間受限的邊緣場景,;Neoverse E系列主打高效率吞吐量,在支持高資料吞吐量的同時,,大幅降低功耗,,主要應用場景包括網絡資料層處理器、低功耗網關的5G部署,。
圖源:Arm官網
可以看出,,這三種內核分別針對三種不同的性能和功耗權衡,這就為各行業(yè)實現(xiàn)定制化芯片帶來了充分且靈活的施展空間,。但光有硬件還遠遠不夠,,要打造成功的基礎架構解決方案,,還需要一個強大的軟件生態(tài)系統(tǒng)。
在軟件生態(tài)系統(tǒng)方面,,Arm不僅在開源社區(qū)有著長期且持續(xù)的投入,,并在Arm Neoverse平臺的設計原則中納入了構建獨一無二的開發(fā)者生態(tài)系統(tǒng),目的是賦能開發(fā)者順暢地進行創(chuàng)建,、測試以及優(yōu)化在基于Arm架構上的項目開發(fā),,如今,Arm架構得到了所有領先編程語言和運行庫的支持,,例如Linux操作系統(tǒng),、云原生軟件、CI/CD流水線等都已經運行在Arm架構上,。從架構,、IP到技術庫、運行環(huán)境和編譯器,,Arm已啟用了主流的基礎設施軟件,。
軟硬件充分加持下,,Arm Neoverse架構正在吸引一眾云服務廠商,、CPU廠商、GPU廠商,、DPU玩家的青睞,。
Arm CPU生態(tài)初具規(guī)模
首先是云服務廠商的躬身試探,公有云無疑是技術革新的最佳領域,。對于不同的云服務廠商來說,,由于其構建的生態(tài)不同,對芯片的性能需求也是各異,。在市場選擇不大的情況下,,各云廠商選擇了自研。
AWS可以說是最早開始自研服務器芯片的云廠商,。自2018年至今,,AWS的Graviton服務器芯片已經來到第三代。2022年5月下旬,,AWS發(fā)布了基于Neoverse V1核心的Graviton3,,這是第一個支持SVE的通用64位Arm服務器CPU。
無獨有偶,,在2021年10月份的云棲大會上,,阿里巴巴旗下半導體公司平頭哥發(fā)布自研云芯片倚天710,該芯片基于Armv9架構,。這是阿里第一顆為云而生的CPU芯片,,將在阿里云數(shù)據中心部署應用,。
除了云服務廠商自研之外,初創(chuàng)公司Ampere Computing在Arm服務器芯片上的探索則為其他云廠商開辟了另一個選擇,。Ampere Computing是目前唯一一家為云服務提供商提供商用(獨立)Arm服務器芯片的CPU公司,,Microsoft Azure、谷歌云,、甲骨文云等均使用Ampere Altra產品,。
Ampere Computing分別于2020年發(fā)布80核的Ampere Altra,2021年發(fā)布128核的Ampere Altra Max,,兩者均基于Arm Neoverse N1內核,。Ampere還宣布今年晚些時候將推出采用Arm架構的5nm AmpereOne CPU,但并不是基于Neoverse N1,,而是基于Arm ISA自研的核心,。不過這對Arm來說是一個極好的跡象,因為Ampere將在公司技術和x86服務器處理器之間進一步擴大服務器CPU空間,。
云決策者的兩大關鍵指標是單芯片性能和單線程性能,。在這方面,Arm預測,,使用Arm Neoverse V1核心的AWS Graviton3可提供最高的單線程性能,;Ampere Altra Max和阿里的倚天710能在所有CPU中提供最佳的單芯片吞吐量。
云計算場景之外,,5G和邊緣領域的芯片廠商也開啟試水之路,。根據GSA數(shù)據顯示,現(xiàn)在已有近85個市場提供5G服務,,預計到2025年,,連接設備將達到約18億。未來的3-5年依然是5G發(fā)展和增強功能交付的關鍵,。在這方面,,Marvell最近幾年放棄通用服務器業(yè)務,轉而發(fā)展垂直市場,,其推出的Thunder服務器芯片已經證明了在超算和商用領域的可行性,。在世界移動通信大會 (MWC) 上,戴爾與Marvell宣布強強聯(lián)手,;此外,,諾基亞也與Arm在基于Neoverse CPU上進行合作,開發(fā)了ReefShark芯片組,,如今已全面使用,。
在高性能計算(HPC)領域,英偉達是一大代表,,2022年3月22日,,英偉達宣布推出首款面向AI基礎設施和高性能計算的基于Arm Neoverse V2的數(shù)據中心的定制CPU Grace,,它專為AI和HPC應用程序而設計。Grace專注于IO和內存帶寬,,與GPU共享主內存,,通過NVlink將英偉達的GPU和Grace CPU連接,可擴展到現(xiàn)在需要數(shù)天才能運行的超大型AI模型,。
早在2013年,,亞馬遜云科技 (AWS) James Hamilton就提出了一項雙論點:其一,鑒于使用Arm架構的芯片出貨數(shù)量,,他確信Arm最終一定能設計出優(yōu)異的服務器CPU,;其二,James注意到,,隨著時間的推移,,越來越多的功能逐漸從主板遷移到SoC上。手機領域已現(xiàn)端倪,,服務器方面自然也會效仿,。
而如今這兩個論點正在實現(xiàn),在一眾廠商的大力推動下,,采用Arm Neoverse平臺的產品已創(chuàng)下了多項行業(yè)第一:第一個總內存帶寬超過每秒1TB的CPU,;第一個單塊裸片上能配置超過100個核心的CPU,核心數(shù)達到128個,;第一個將DDR5和PCIe Gen5.0推向市場的CPU,;第一個在SPEC CPU 2017基準測試中打破500整型跑分的CPU。
Arm Neoverse在全球市場表現(xiàn)不菲,,不僅是國際大廠,Arm Neoverse也為廣大初創(chuàng)企業(yè)創(chuàng)造了良好的發(fā)展機遇,。
國產CPU和DPU初創(chuàng)企業(yè)嗅到商機
近年來正值中國基礎設施的計算升級新浪潮,,因此,國內服務器芯片賽道也迎來了蓬勃興起,。國內一眾初創(chuàng)企業(yè)如鴻鈞微,、遇賢微等將Arm Neoverse作為其服務器芯片的創(chuàng)新基礎,甚至新興的DPU企業(yè)也開始率先踏上探索之路,。
鴻鈞微電子是服務器芯片領域新興的一員,。在鴻鈞微電子首席執(zhí)行官沈榮看來:“數(shù)據中心的規(guī)模越來越大,其占地與體積隨之將變得更大,,這意味著要花費更多的資金投入,,所以性能密度、功耗效率這些指標便顯得尤為重要,,而Arm Neoverse符合云計算所需的多核解決方案,,具有優(yōu)異的總擁有成本 (TCO) 優(yōu)勢,,讓我們找到能真正為客戶提供具成本效益的整體解決方案?!睋欌x微電子基于Neoverse N2的服務器CPU產品預計將在明年年底面世,。
遇賢微電子是一家正在面向中國云計算市場打造彈性云原生服務器CPU的初創(chuàng)公司,采用的也是Neoverse N2平臺,。遇賢微電子首席執(zhí)行官羅勇博士表示:“云計算的巨大增長是新一波科技浪潮的趨勢,,它將會是全球范圍內最大的增量市場之一。而且,,云計算生態(tài)系統(tǒng)已經是個相對成熟的環(huán)境,,能讓像Arm Neoverse這類的新架構來取代x86,最終用戶能夠從一致性的Arm Neoverse CPU上獲益,,也可以加速遇賢微電子產品的部署,。”
不止是CPU和GPU這兩類芯片,,DPU芯片廠商也看中了Arm Neoverse的潛力,。DPU (Data Processing Unit) 是最近幾年新發(fā)展起來的一種專用處理器,被稱之為數(shù)據中心繼CPU和GPU之后的“第三顆主力芯片”,。目前DPU主流方案亦開始以Arm Neoverse平臺為設計基礎,。Arm基礎設施事業(yè)部全球副總裁鄒挺表示,“我們認為ASIC系統(tǒng)級芯片是普遍的最后DPU目標產品形態(tài),,而從能耗和性能的要求上來看,,Arm Neoverse平臺將是DPU中ASIC系統(tǒng)級芯片方案的最佳選擇?!?/p>
國內DPU芯片頭部企業(yè)云豹智能最新的DPU SoC產品上就采用了大量的Arm CPU,,尤其是Neoverse CPU與其高性能互連技術。云豹智能首席芯片架構師及聯(lián)合創(chuàng)始人莫志城指出:“現(xiàn)階段數(shù)據中心正在快速地從以CPU為中心轉變?yōu)橐訢PU為中心,。云豹DPU不僅要能處理網絡控制面和數(shù)據面的卸載,,具備高度靈活和可編程能力;同時必須非常高效地處理運維和業(yè)務管理,。因此我們的可編程DPU必須依賴非常高性能且低功耗的CPU,,例如新一代的Neoverse?!睋?,云豹這款DPU產品預計于2023年初流片。
可以看出,,由于高性能,、低能耗、優(yōu)異的性能比以及總擁有成本等特點,尤其是完善的自身生態(tài),,Arm架構正在吸引廣大中國初創(chuàng)芯片企業(yè)的涌入,,生態(tài)“朋友圈”逐漸擴大。另一方面,,如Arm Neoverse這樣的平臺也為這些初創(chuàng)企業(yè)提供了很好的發(fā)展機會,,并在加速芯片進入市場的時間窗口,如上文所述,,國內幾家初創(chuàng)企業(yè)基于Arm Neoverse的產品大多將于明年問世,。
總結
全球基礎設施領域的建設和升級興起了新的浪潮,基礎設施的未來必將改頭換面,,定制芯片將是這一變革必需的產物,,未來十年,Arm架構的CPU進軍智能計算市場已呈不可阻擋之勢,。這對所有人來說都是一個巨大的機會,,處于產業(yè)鏈上的國產芯片企業(yè)應該乘著發(fā)展的東風,奮力前行,。
更多信息可以來這里獲取==>>電子技術應用-AET<<