《電子技術應用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > Arm 推出全球首個 Armv9 邊緣 AI 計算平臺,推動物聯(lián)網(wǎng)實現(xiàn)新一代性能

Arm 推出全球首個 Armv9 邊緣 AI 計算平臺,推動物聯(lián)網(wǎng)實現(xiàn)新一代性能

2025-03-03
來源:Arm

  新聞重點:

  ·全球首個 Armv9 邊緣 AI 計算平臺以 Cortex-A320 CPU 和 Ethos-U85 NPU 為核心,,專為物聯(lián)網(wǎng)應用優(yōu)化,支持運行超 10 億參數(shù)的端側 AI 模型,,已獲得包括亞馬遜云科技 (AWS)、西門子和瑞薩電子等在內(nèi)的多家行業(yè)領先企業(yè)的支持,。

  ·超高能效的 Arm Cortex-A320 通過 Armv9 架構提高物聯(lián)網(wǎng)應用的效率,、性能和安全性,推動工業(yè)自動化、智能攝像頭等領域的進步,。

  ·將 Arm Kleidi 延伸應用到物聯(lián)網(wǎng)領域,,可實現(xiàn)高達 70% 的性能提升,助力 2,000 多萬開發(fā)者無縫集成領先 AI 框架,,簡化邊緣 AI 開發(fā)流程,。

  Arm 控股有限公司(納斯達克股票代碼:ARM,以下簡稱“Arm”)今日發(fā)布 Arm?v9 邊緣人工智能 (AI) 計算平臺,,該平臺以全新的 Arm Cortex?-A320 CPU 和領先的邊緣 AI 加速器 Arm Ethos?-U85 NPU 為核心,,可支持運行超 10 億參數(shù)的端側 AI 模型。

08.JPG

  Arm 高級副總裁兼物聯(lián)網(wǎng)事業(yè)部總經(jīng)理 Paul Williamson 表示:“AI 的革新已不再局限于云端,。隨著世界的互聯(lián)和智能化水平的日益提升,從智慧城市到工業(yè)自動化,,在邊緣側處理 AI 工作負載不僅帶來顯著的優(yōu)勢,,其必要性更是不可或缺。專為物聯(lián)網(wǎng)打造的 Armv9 邊緣 AI 計算平臺的推出,,標志著這一發(fā)展趨勢邁入了重要的里程碑,。”

  Armv9 邊緣 AI 計算平臺——在邊緣集成效率,、安全和智能

  OEM 廠商正面臨著前所未有的壓力,,迫切需要快速推出解決方案,以應對物聯(lián)網(wǎng)應用不斷攀升的計算需求,,這些需求包括自動駕駛車輛在工廠環(huán)境中的精準導航,、智能攝像頭通過軟件升級靈活調(diào)整功能,以及構建能夠提供更自然 AI 交互體驗的人機界面,。

  為了快速創(chuàng)新和擴展,,OEM 廠商需要在合適的位置靈活執(zhí)行 AI 工作負載,以實現(xiàn)更強大的安全性和更高的軟件靈活性,,Armv9 技術正是能在大規(guī)模應用中滿足這些需求的理想之選,。Arm 此次發(fā)布的計算平臺集成了全新的超高能效 Armv9 CPU——Cortex-A320 和支持 Transformer 算子網(wǎng)絡的 Ethos-U85 NPU,打造出全球首個專為物聯(lián)網(wǎng)優(yōu)化的 Armv9 邊緣 AI 計算平臺,。相較于去年推出的基于 Cortex-M85 的平臺,,新的邊緣 AI 計算平臺的機器學習 (ML) 性能提高了八倍。

  Arm 技術的廣泛應用,,使得合作伙伴現(xiàn)在能夠在從云端到邊緣側的各種計算場景中部署強大的 Armv9 技術,。從授權該技術以構建 SoC 芯片的合作伙伴,到構建下一代設備的 ODM 和 OEM 廠商,,該平臺受到了包括亞馬遜云科技 (AWS),、西門子、瑞薩電子、研華科技和 Eurotech 在內(nèi)的多家業(yè)界領先合作伙伴的支持,。

  全新 Cortex-A320 為下一代智能物聯(lián)網(wǎng)設備奠定安全基礎

  新型邊緣 AI 計算平臺的推出標志著邊緣計算發(fā)展的重要里程碑,。Cortex-A320 為物聯(lián)網(wǎng)帶來了先進的 AI 功能和開發(fā)者優(yōu)勢,將 Armv9 架構的功能擴展到高能效設備,,并提供全面的軟件支持,。

  Cortex-A320 充分發(fā)揮了 Armv9 架構的優(yōu)勢,如針對 ML 性能的 SVE2,。相較于前代產(chǎn)品 Cortex-A35,,Cortex-A320 的 ML 性能提升了十倍,標量性能提升了 30%,。

  該平臺所采用的 Armv9.2 架構還為最小的 Cortex-A 設備帶來了高級的安全功能,,例如指針驗證 (PAC)、分支目標識別 (BTI) 和內(nèi)存標記擴展 (MTE),。這些功能至關重要,,因為邊緣設備通常在暴露的環(huán)境中運行并處理敏感數(shù)據(jù)。

  隨著邊緣 AI 在 Arm 平臺上持續(xù)集成,,這一全新產(chǎn)品的加入使 Arm 現(xiàn)已能為物聯(lián)網(wǎng)提供最為先進的 Armv9 Cortex 處理器系列,,覆蓋從極致性能到成本和能效受限的設備。

  將 Arm Kleidi 擴展到物聯(lián)網(wǎng)

  邊緣 AI 普及面臨的最主要障礙之一是軟件開發(fā)和部署的復雜性,,這正是 Armv9 邊緣 AI 計算平臺軟件生態(tài)系統(tǒng)發(fā)揮優(yōu)勢的關鍵所在,。Arm 將 Arm Kleidi 擴展到物聯(lián)網(wǎng),這是一套面向 AI 框架開發(fā)者的計算庫,,旨在優(yōu)化基于 Arm CPU 的 AI 和 ML 工作負載,,無需開發(fā)者額外操作。KleidiAI 已集成到常見的物聯(lián)網(wǎng) AI 框架中,,如 Llama.cpp 和 ExecuTorch 或 LiteRT(通過 XNNPACK),,加速了 Meta Llama 3 和 Phi-3 等關鍵模型的性能。例如,,在 Llama.cpp 上運行微軟的 Tiny Stories 數(shù)據(jù)集時,,KleidiAI 為新的 Cortex-A320 帶來了高達 70% 的性能提升。

  這些提升至關重要,,因為在當今快節(jié)奏的技術環(huán)境中,,產(chǎn)品的上市速度往往決定其成敗。新的邊緣 AI 計算平臺確保了與更高性能 Cortex-A 處理器在軟件層面的無縫兼容,。這種可擴展性使開發(fā)者能夠打造可隨需求變化而靈活調(diào)整的解決方案,。借助龐大的 Armv9 生態(tài)系統(tǒng),以及與 Linux 等功能豐富的操作系統(tǒng)和 Zephyr 等實時操作系統(tǒng)的兼容性,,開發(fā)者擁有了前所未有的靈活性,。他們可以充分利用現(xiàn)有的工具和知識,,以及軟件復用的優(yōu)勢,從而加快產(chǎn)品上市時間,,并降低總體擁有成本,。全球范圍內(nèi)有 2,000 多萬活躍的 Arm 開發(fā)者,這為未來的技術創(chuàng)新提供了巨大潛力,。

  展望未來

  展望未來,,顯然 AI 的未來趨勢將轉向邊緣,而全新 Arm 邊緣 AI 計算平臺將成為新一輪物聯(lián)網(wǎng)創(chuàng)新的催化劑,。Armv9 架構的特性,、先進的 AI 功能和全面軟件支持的結合,為 OEM 廠商和開發(fā)者創(chuàng)造了新的可能性,。

  該平臺能夠支持基于智能體的 AI 應用上運行經(jīng)過調(diào)優(yōu)的大語言模型 (LLM) 和小語言模型 (SLM),,從而開辟全新類別的邊緣應用場景。在未來的場景中,,智能決策將更接近數(shù)據(jù)采集源頭,,這不僅能顯著減少延遲,還能有效提升隱私保護水平,。

  這不僅僅是一次漸進式的進步,,它代表著行業(yè)對邊緣計算和 AI 處理方式的根本性變革,。這是行業(yè)首次迎來專為物聯(lián)網(wǎng)應用優(yōu)化的 Armv9 CPU,,將超高能效與先進 AI 能力結合,實現(xiàn)了前所未有的突破,。


  合作伙伴證言:

  “邊緣 AI 的發(fā)展步伐日益加速,,Arm 物聯(lián)網(wǎng)計算架構方面的進步將為邊緣智能帶來新的可能性。作為邊緣計算和邊緣 AI 領域的領先企業(yè),,研華科技認為這一創(chuàng)新代表著 Arm 生態(tài)系統(tǒng)向前邁出了重要一步,,它將助力各行各業(yè)打造出更智能、更高效,、更安全的 AI應用,。這一創(chuàng)新將激發(fā)邊緣計算市場的行業(yè)繁榮和技術突破?!?/p>

  研華科技嵌入式物聯(lián)網(wǎng)部門總裁 張家豪

  “全新的 Arm 邊緣 AI 計算平臺為我們的客戶實現(xiàn)在 Armv9 技術上運行 AWS IoT Greengrass 的輕量級設備運行時環(huán)境—— Nucleus Lite,,從而讓邊緣設備以最低的內(nèi)存需求高效運行。這兩項技術的無縫集成為開發(fā)者提供了優(yōu)化的解決方案,,支持構建現(xiàn)代邊緣 AI 應用,,例如精準農(nóng)業(yè)中、智能制造和自動駕駛的異常檢測,?!?/p>

  亞馬遜云科技物聯(lián)網(wǎng)技術負責人 Yasser Alsaied

  “隨著物聯(lián)網(wǎng)市場的不斷擴展,,Eurotech 將繼續(xù)為客戶提供最新邊緣 AI 應用所需的性能、安全性和高效的解決方案,。Arm 的全新邊緣 AI 計算平臺為我們提供了構建下一代多樣化物聯(lián)網(wǎng)設備的基礎,,Armv9 讓我們能夠將安全性能、能效和軟件靈活性提升到全新水平,?!?/p>

  Eurotech 首席技術官 Marco Carrer

  “瑞薩電子致力于在真正可擴展的計算平臺上,通過多樣化的用例和日益智能化的工作負載,,服務于廣泛的 AI 物聯(lián)網(wǎng)細分市場,。我們對最新的 Armv9 Cortex-A320 CPU 感到興奮,它不僅在AI/ML 高性能和安全性方面表現(xiàn)出色,,還顯著優(yōu)化了功耗和面積效率,。這一突破有助于我們加快創(chuàng)新步伐,進一步提升效率和可擴展性,?!?/p>

  瑞薩電子嵌入式處理部副總裁 Daryl Khoo

  “西門子致力于在邊緣應用中釋放 AI 潛能?;?Armv9 架構的全新邊緣 AI 計算平臺有助于我們將高度安全,、高性能和高能效的 AI 創(chuàng)新產(chǎn)品組合擴展到所有客戶,涵蓋一系列工業(yè),、智能基礎設施和移動應用,。”

  西門子集成電路與電子研究及預開發(fā)部門副總裁 Herbert Taucher




更多精彩內(nèi)容歡迎點擊==>>電子技術應用-AET<<

3952966954c9c6c308355d1d28d750b.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉載內(nèi)容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點。轉載的所有的文章,、圖片,、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權者,。如涉及作品內(nèi)容,、版權和其它問題,請及時通過電子郵件或電話通知我們,,以便迅速采取適當措施,,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118,;郵箱:[email protected],。