日前,,模擬芯片大廠Maxim Integrated發(fā)布了一款名為MAX78000的革命性芯片。按照他們的說法,,這顆低功耗神經(jīng)網(wǎng)絡(luò)加速微控制器能將人工智能(AI)推向邊緣端,,更重要的是,,因?yàn)槠涞凸奶匦裕蔷鸵馕吨词乖趯⑵鋺?yīng)用在電池供電的物聯(lián)網(wǎng)(IoT)設(shè)備里,,芯片性能并未受到影響,。
如上圖所示,新芯片MAX78000包括兩個(gè)超低功耗內(nèi)核——Arm Cortex-M4內(nèi)核和RISC-V內(nèi)核——一個(gè)基于FPU的微控制器和一個(gè)卷積神經(jīng)網(wǎng)絡(luò)加速器,。按照他們的說法,,之所以他們采用了一個(gè)RISC-V內(nèi)核,是因?yàn)樵趯⑾魅爰铀倨髦?,RISC-V是一個(gè)很好的低功耗選擇,。根據(jù)MAXIM的設(shè)計(jì),客戶可以在使用的時(shí)候,,選擇兩個(gè)集成微控制器內(nèi)核中的一個(gè),。
按照他們的介紹,該芯片具有一些令人印象深刻的規(guī)格,,特別是在功耗和延遲方面,。
Maxim Integrated指出,得益于這個(gè)芯片的優(yōu)越設(shè)計(jì),,在執(zhí)行AI推理時(shí),,芯片的功耗大幅降低,同時(shí)還能在以電池供電的設(shè)備中,,執(zhí)行以前被認(rèn)為是不可能任務(wù)的復(fù)雜新AI的用例,。他們強(qiáng)調(diào),這些功耗改進(jìn)在延遲或成本上也沒有絲毫妥協(xié),。
從他們提供的數(shù)據(jù)可以看到,,在與運(yùn)行在低功耗微控制器上的軟件解決方案相比,MAX78000執(zhí)行推理的速度快100倍,,而其成本僅為FPGA或GPU解決方案的一小部分,。該公司繼續(xù)表示,運(yùn)行MNIST時(shí),,MAX78000的能耗降低1100倍,;在MNIST時(shí),延遲提高了400倍,;與低功耗的Cortex M4F相比,,關(guān)鍵字發(fā)現(xiàn)期間的能耗低600倍;與96 MHz Cortex M4F相比,,關(guān)鍵字發(fā)現(xiàn)的效率提高了200倍,。
能獲得以上的AI性能表示,其獨(dú)特的加速器設(shè)計(jì)是關(guān)鍵,。
此SoC中最獨(dú)特的功能是神經(jīng)網(wǎng)絡(luò)加速器,,它是專用硬件,,旨在最大程度地減少卷積神經(jīng)網(wǎng)絡(luò)(CNN)的能耗和等待時(shí)間。
根據(jù)他們的說法,,這個(gè)加速器所采用的體系結(jié)構(gòu)是完全專有和新穎的,。它的設(shè)計(jì)目標(biāo)是最大程度地減少數(shù)據(jù)移動(dòng),這能極大降低SoC的能量損耗,,尤其是在處理CNN鏈中的復(fù)雜數(shù)學(xué)配置時(shí),。
Maxim指出,他們的CNN引擎具有442KB的權(quán)重存儲(chǔ),,可以支持1位,,2位,4位和8位權(quán)重(最多支持350萬個(gè)權(quán)重的網(wǎng)絡(luò)),。因?yàn)镃NN權(quán)重存儲(chǔ)器基于SRAM,,所以可以實(shí)時(shí)進(jìn)行AI網(wǎng)絡(luò)更新。CNN引擎還具有512KB的數(shù)據(jù)存儲(chǔ)器,,同時(shí)CNN的體系架構(gòu)是高靈活性,,從而允許網(wǎng)絡(luò)中像PyTorch和TensorFlow常規(guī)工具集來訓(xùn)練,然后使用Maxim提供的工具將其轉(zhuǎn)換,,讓其在MAX78000上運(yùn)行,。
Maxim方面表示,這個(gè)SoC的另一個(gè)特征是微控制器的介入最少,。一般而言,,此架構(gòu)中的MCU用于配置網(wǎng)絡(luò),加載數(shù)據(jù)并啟動(dòng)它,。MCU完成其最初的工作后,,它基本上就置身事外。因?yàn)樵谒麄兛磥?,MAX78000的核心是專用硬件,,旨在最大程度地減少卷積神經(jīng)網(wǎng)絡(luò)(CNN)的能耗和等待時(shí)間。為此該硬件在運(yùn)行時(shí)幾乎不受任何微控制器內(nèi)核的干擾,,從而極大地簡化了操作,。
事實(shí)證明,這對(duì)于提高能源效率也極為重要,。
該設(shè)備還可以在執(zhí)行之前加載數(shù)據(jù),,從而消除了在推理過程中訪問內(nèi)存的需求,從而降低了能耗并改善了延遲,。Maxim方面強(qiáng)調(diào):“不需要外部存儲(chǔ)器,,這實(shí)際上是我們節(jié)省能源的方法之一,因?yàn)樗写鎯?chǔ)器都在芯片上?!?/p>
根據(jù)Maxim Integrated的說法,,該設(shè)備可能為系統(tǒng)提供了在邊緣執(zhí)行實(shí)時(shí)決策的能力(比基于云的計(jì)算更快),并且無需擔(dān)心安全性,。
通過將AI帶到邊緣設(shè)備,,該設(shè)備可以啟用新的應(yīng)用,,例如毫秒之內(nèi)的面部ID或數(shù)據(jù)處理助聽器,。這樣,MAX78000可能是“切斷嵌入式設(shè)備電源線”的重要一步,。
Maxim表示,,希望MAX78000能夠朝著“嵌入式革命”的道路邁進(jìn),就像以前嵌入式來到卓念一樣,。他們指出:“在使用微控制器之前,,沒有人考慮過微控制器的所有功能。現(xiàn)在,,我至少要戴兩個(gè),。”
這就是Maxim認(rèn)為邊緣技術(shù)的AI將會(huì)變成的東西,,希望我們將成為引領(lǐng)潮流的人之一,。