ARM發(fā)布了兩款全新的IP,,一款是已經非常成功的ARM Cortex-M家族的新成員Cortex-M55,另一款是去年底新發(fā)布的Ethos系列的新產品,,也是首款針對Cortex-M平臺的微神經網絡處理器(microNPU)——Ethos-U55,。如果將這兩個最新的IP結合,機器學習(ML)性能最高可以提高480倍,。
兩款新產品AI性能的大幅度提升,,是ARM在AIoT市場競爭的強大武器。但是,,也反映出了ARM在這一市場的焦慮,。
強攻AIoT市場
從兩款新產品說起,新增的Cortex-M55是ARM AI性能最強大的Cortex-M處理器,。有多強大,?與前幾代的Cortex-M處理器相比,Cortex-M55的ML性能最高可提升15倍,,DSP性能也可提升5倍,,且具備更佳的能耗比,。同時,Cortex-M55也是首款基于ARMv8.1-M架構,、內建ARM Helium向量處理技術的處理器,,大幅提升DSP與ML的性能還更省電。
另外,,開發(fā)者還可以使用Cortex-M處理器的全新功能,,也就是去年十月發(fā)布的ARM Custom Instructions (ARM自定義指令集),延伸處理器的能力,,對特定工作負載進行優(yōu)化,。
也就是說,全新的Cortex-M55不僅AI性能更強,,能耗比更佳,,還有了更強的靈活性。
另外一款新品Ethos-U55的AI性能更加強大,,是Cortex-M55的32倍,,還有32-256個可配置的MAC。ARM推出這款專用的微神經處理器的目的是借助其高度的可配置性,,加速空間受限的嵌入式與物聯(lián)網設備的ML推理能力。
這還不夠,,如果將Cortex-M55與Ethos-U55搭配,,結合后的產品ML性能最高可提升480倍。
當然,,不要被480倍的巨大提升嚇到,,因為這個性能的提升是在一個比較低的ML性能的基礎上實現(xiàn)的提升。用下面的圖來直觀解釋AI性能提升后適用的場景,。
Cortex-M55的AI性能可以應用在像異常檢測和對象檢測的應用中,,Cortex-M55與Ethos-U55搭配則可以應用在對AI性能要求更高的手勢檢測、生物識別,、語音識別的應用中,,但兩者搭配的AI性能又低于Cortex-A CPU、Mali GPU,、Ethos-N NPU才能滿足的對象分類,、實時識應用的需求。
這樣,,我們就能非常清晰的了解Cortex-M55以及Ethos-U55的意義,。
Cortex-M是業(yè)界非常成功的微控制器處理器,基于Cortex-M的芯片全球已經出貨超過500億片,,廣泛應用于各種各樣的嵌入式設備當中,。但是Cortex-M只能夠滿足振動檢測,、傳感融合、關鍵字檢測這些簡單的AI功能,,隨著萬物皆AI時代的到來,,需要Cortex-M、Ethos-U55以及兩者的組合的性能去滿足更多AIoT應用的需求,。
也就是說,,已有的Cortex-M、Cortex-M55,、Ethos-U55以及Cortex-M所有產品與Ethos-U55的組合更全面的AI性能,,提升了ARM在終端AI上的吸引力,再加上Cortex-M的ARM Custom Instructions的新功能,,能夠更好地滿足市場規(guī)模龐大但碎片化的AIoT市場,。
ARM在AIoT市場的內外焦慮
從Cortex-M 到Ethos-N,ARM本應該為其擁有的AI產品感到自信,,但市場的競爭似乎并不容許ARM為此滿足,。實際上,ARM在2018年2月公布了Project Trillium 的機器學習計劃,,并且預計在2019年第一季度發(fā)布首款ML處理器,。但ARM直到2019年5月份才發(fā)布首款ML處理器,10月份才公布ML系列產品的名稱Ethos,。
ARM ML事業(yè)群商業(yè)與營銷副總裁Dennis Laudick去年接受雷鋒網專訪時對于產品發(fā)布有所延遲這樣解釋,,發(fā)布推遲有很多原因,產品開發(fā)是主要的問題,。ML處理器開發(fā)的過程中面臨很多挑戰(zhàn),,其中一個很大的挑戰(zhàn)就是數(shù)據(jù)移動處理不好就會消耗大量的電,另一個大的挑戰(zhàn)就是如何權衡效率和靈活性,。
在ARM發(fā)布首款ML處理器時,,蘋果、三星,、華為集成在其SoC中的NPU已經更新了幾代,,高通和聯(lián)發(fā)科的神經網絡處理器也日趨成熟。也因此,,業(yè)界不少人都認為ARM錯過了進入手機NPU市場的好時機,。這自然也會讓ARM的AI產品更加看重具有廣闊前景的AIoT市場。
全球第二大市場研究機構MarketsandMarkets去年發(fā)布的預測報告顯示,,2019年全球AIoT市場規(guī)模為51億美元,,到2024年,這一數(shù)字將增長至162億美元,,復合年增長率為26%,。
雖然ARM憑借Cortex-M系列處理器在嵌入式設備市場非常成功,,但是到了AIoT時代,ARM迎來了一個強勁的對手——RISC-V,。RISC-V指令集與ARM指令集同屬精簡指令集,,都具有高性能低功耗的特點,不過RISC-V誕生之處就選擇了開源,,而ARM采用的是授權模式,。
RISC-V的開源,可以讓開發(fā)者實現(xiàn)更加靈活的設計,,更容易滿足AIoT市場多樣化的需求,,這也是讓ARM感到緊張的關鍵因素。去年10月,,ARM也推出了ARM自定義指令集,,以應對RISC-V帶來的競爭。
并且,,RISC-V正在日益壯大,,面向AIoT市場的產品也正在陸續(xù)推出。GreenWaves Technologies率先推出了基于RISC-V的IoT超低功耗處理器,,能效上可以實現(xiàn)20倍優(yōu)于市場現(xiàn)有100mW以下同類產品,。2019年12月推出的新一代產品性能提高10倍,功耗降低5倍,。
RISC-V重要的IP提供商晶心科技總經理林志明去年接受雷鋒網采訪時也表示,,再花半年推動量產、上市以及軟硬件的整合,,2019年下半年和2020年年初開始RISC-V的產品就會比較多的投入市場,。
今年年初,,SiFive和CEVA宣布合作,,以SiFive的RISC-V CPU,CEVA的DSP內核,,AI處理器和軟件為中心,,實現(xiàn)針對批量最終市場的超低功耗領域特定Edge AI處理器的設計和創(chuàng)建。
因此,,由多種因素導致的ARM ML產品發(fā)布的延遲,,以及RISC-V陣營的日益強大,ARM在AI以及AIoT時代難免會有些焦慮,,480倍的AI性能提升是緩解這種焦慮的一個關鍵,。
生態(tài)優(yōu)勢能否延續(xù)?
當被問及去年5月才推出首款出Ethos還有競爭力嗎,?Dennis稱,,ARM的成功一直以來都得益于生態(tài)系統(tǒng),,對于NPU來說挑戰(zhàn)并不是能夠做出自己的NPU,而是NPU在市場上是不是真的好用,。我們已經聽到合作伙伴反饋說,,希望在硬件上能夠標準化,他們不想支持15種不同的硬件,,所以,,他們期待有一個標準化的軟件平臺能夠支持。
從構建ARM的AI競爭力而言,,即便產品推出有些推遲,,但ARM多年來構建的強大生態(tài)依舊有助于其NPU的成功。并且,,ARM也在致力于打造一致的體驗,,Cortex-M 軟件開發(fā)工具完整支持最新發(fā)布的Cortex-M55與 Ethos-U55。另外,,ARM還與其他開發(fā)工具廠商兼容,,并且在算法、軟件與 OS 方面也獲得了伙伴的支持,。
更好的軟硬件融合以及一致性的開發(fā)流程確實是一個AI生態(tài)的吸引力所在,,也是ARM能夠獲得更多AIoT市場份額的關鍵。
但對于AIoT的很多應用或許并非如此,,GreenWaves Technologies CEO Loic Lietar此前對雷鋒網(公眾號:雷鋒網)表示:“相比手機,、PC以及一些高性能處理器,應用于傳感設備的微控制器對生態(tài)的依賴性沒有那么高,。從GreenWaves的角度看,,我們基于RISC-V的32位微控制器面向的主要是來自物聯(lián)網等終端市場的邊緣計算需求,一個設備將長時間重復運行幾個應用, 而并不會像手機或電腦一樣安裝和卸載不同的應用程序,,因此對軟件兼容性的依賴程度并不是個問題,。”
這意味著,,ARM強大的生態(tài)在AI以及AIoT時代依舊會繼續(xù)發(fā)揮作用,,但對于AIoT市場而言,這種生態(tài)的吸引力到底有多大,,現(xiàn)在還不清楚,。
當然,毋庸置疑的是,,ARM作為一家非常成功的半導體公司,,其有強大產品以及豐富的經驗,在AIoT這個新的市場,,ARM也有強大的競爭力,。只是,,AIoT市場短期內難以產生巨頭,某一種處理器也難以在短期內壟斷市場,,誰是最終的贏家沒有人能準確預測,。