中國(guó) 上海 2023年7月19日——愛芯元智宣布,，企業(yè)核心技術(shù)混合精度NPU正式啟用中文名稱“愛芯通元?”,。與此同時(shí)，愛芯元智聯(lián)合創(chuàng)始人,、副總裁劉建偉在第三屆中國(guó)集成電路設(shè)計(jì)創(chuàng)新大會(huì)暨無(wú)錫IC應(yīng)用博覽會(huì)（ICDIA 2023）的“AIoT與ChatGPT”專題論壇上,，受邀做《愛芯元智AX650N Transformer端邊落地平臺(tái)》主題演講,，并介紹了第三代SoC芯片AX650N在端側(cè)、邊緣側(cè)部署Transformer的領(lǐng)先優(yōu)勢(shì),。
愛芯元智混合精度NPU中文名“愛芯通元,？”正式公布
近年來(lái)，AIoT行業(yè)規(guī)?？焖俪砷L(zhǎng),，不僅是各大傳統(tǒng)行業(yè)智能化升級(jí)的最佳通道，也是未來(lái)物聯(lián)網(wǎng)發(fā)展的重要方向,。同時(shí),，自2022年底發(fā)布以來(lái)，以ChatGPT為代表的大模型引發(fā)國(guó)內(nèi)外科技巨頭的紛紛布局,，人工智能發(fā)展也進(jìn)入了一個(gè)全新的時(shí)代,。可以看到,，伴隨著AIoT以及AI大模型的快速發(fā)展,，底層硬件的數(shù)據(jù)存儲(chǔ)、計(jì)算性能,、圖形處理能力都面臨著極高的要求,。
在愛芯元智看來(lái),，大模型具有通識(shí)能力，能夠降低人工智能在場(chǎng)景落地的成本,，而未來(lái),，每一個(gè)人都可能在終端擁有一個(gè)智能助手。在人工智能發(fā)展的過(guò)程中,，愛芯元智提供的則是芯片基建,，即通過(guò)人工智能芯片提供感知與計(jì)算的基礎(chǔ)能力，助力AI在端側(cè)邊緣側(cè)的落地,。
感知層面,，愛芯元智致力于讓攝像頭看得更清，從而打造物理世界的數(shù)字化入口,；計(jì)算層面,，愛芯元智致力于讓攝像頭看得懂，將為各種AI模型在端側(cè)和邊緣側(cè)的落地提供更高的算力基礎(chǔ),。本次ICDIA 2023現(xiàn)場(chǎng),，愛芯元智正式公布了混合精度NPU的官方中文名“愛芯通元？”,，意在為各種智能算法提供基本算力支撐,，讓智能在端側(cè)和邊緣側(cè)對(duì)世界產(chǎn)生更深入的理解，助力更美好的生活,。
定位人工智能感知與邊緣計(jì)算基礎(chǔ)算力平臺(tái),，愛芯元智自2019年成立以來(lái)便聚焦感知與計(jì)算基礎(chǔ)能力，自主研發(fā)了愛芯智眸?AI-ISP和愛芯通元?混合精度NPU兩大核心技術(shù),。后者通過(guò)減少內(nèi)存墻和功耗墻的阻礙,，在端側(cè)邊緣側(cè)面積、功耗受限的情況下,，以更高的有效算力支持更多的智能算法,，降低AI部署成本。
目前,，愛芯元智已完成四代多顆芯片產(chǎn)品的研發(fā)和量產(chǎn)工作,，并逐漸落地智慧城市、智能駕駛和AIoT三大市場(chǎng),?！斑@些市場(chǎng)都將感知和計(jì)算作為基本能力，這也是愛芯元智選擇不同市場(chǎng)的邏輯”,，劉建偉表示,。
高性能、高精度、易部署,，愛芯元智AX650N成Transformer最佳落地平臺(tái)活
在AI芯片設(shè)計(jì)開發(fā)時(shí),，愛芯元智高度重視應(yīng)用、算法與NPU的深度結(jié)合,。應(yīng)用方面,，愛芯元智通過(guò)數(shù)據(jù)流優(yōu)化、前后級(jí)處理加速來(lái)實(shí)現(xiàn)更高的性能,；算法方面,，愛芯元智會(huì)通過(guò)算子加速、網(wǎng)絡(luò)微結(jié)構(gòu)加速,、內(nèi)存優(yōu)化等設(shè)計(jì)，從算法的角度來(lái)提高硬件的利用率,；同時(shí),，愛芯通元?混合精度NPU是一個(gè)異構(gòu)多核系統(tǒng)，并且內(nèi)置多核硬件調(diào)度機(jī)制減少對(duì)CPU的占用,，讓系統(tǒng)應(yīng)用跑得更快,。
基于應(yīng)用、算法與NPU聯(lián)合優(yōu)化的設(shè)計(jì)理念,，愛芯元智推出的邊緣側(cè),、端側(cè)人工智能處理器芯片均具有高性能、低功耗等優(yōu)勢(shì),，其第三代高算力,、高能效比SoC芯片AX650N更成為Transformer最佳落地平臺(tái)。
實(shí)測(cè)數(shù)據(jù)顯示,，愛芯元智AX650N不僅在傳統(tǒng)的CNN網(wǎng)絡(luò)上性能優(yōu)異,，在端側(cè)部署Transformer網(wǎng)絡(luò)SwinT也表現(xiàn)出色，實(shí)現(xiàn)了361FPS的高性能,、80.45%的高精度,、199 FPS/W的低功耗以及原版模型且PTQ量化的極易部署能力。同時(shí),，AX650N還支持低比特混合精度,，用戶如果采用INT4，可以極大地減少內(nèi)存和帶寬占用率,，從而有效控制端側(cè)邊緣側(cè)部署的成本,。
目前，愛芯元智AX650N已適配ViT/DeiT,、Swin/SwinV2,、DETR等Transformer模型，最先進(jìn)的計(jì)算機(jī)視覺自監(jiān)督模型DINOv2也在AX650N上達(dá)到了30幀以上的運(yùn)行結(jié)果,。為了幫助開發(fā)者對(duì)Transformer做更好的落地嘗試,，愛芯元智還推出了基于AX650N的面向生態(tài)社區(qū)和行業(yè)應(yīng)用的開發(fā)套件“愛芯派Pro”,，助力探索更豐富的產(chǎn)品應(yīng)用。
面對(duì)大模型掀起的新一輪AI熱潮,，愛芯元智AX650N也將針對(duì)Transformer結(jié)構(gòu)進(jìn)行進(jìn)一步優(yōu)化,，并且將探索多模態(tài)方向的Transformer模型。愛芯元智希望通過(guò)感知和計(jì)算核心技術(shù),，加速端側(cè)邊緣側(cè)智能落地,，真正實(shí)現(xiàn)普惠AI，讓人們的生活更加美好,。
更多精彩內(nèi)容歡迎點(diǎn)擊==>>電子技術(shù)應(yīng)用-AET<<
