一,、AIoT概述
AIoT(Artificial Intelligence &?Internet of Things)中文譯為人工智能物聯(lián)網(wǎng),，是將人工智能(AI)與物聯(lián)網(wǎng)(IoT)兩者有機結(jié)合的一種技術(shù)。AI在這個系統(tǒng)中充當(dāng)了大腦的角色,，賦予了物聯(lián)網(wǎng)更多的可能性,，將萬物互聯(lián)提升到萬物智聯(lián)，如目前的智能醫(yī)護助手,、人體測溫攝像頭,、智能配送機器人都是在AI的加持下得以實現(xiàn)。
據(jù)2019年的市場調(diào)查報告顯示,，2020年中國AIoT硬件市場及相關(guān)產(chǎn)業(yè)的規(guī)模將突破萬億元,。目前AIoT的主流方案以邊緣計算和云計算結(jié)合為主，相比之下,，邊緣計算有部署靈活,、穩(wěn)定性強、網(wǎng)絡(luò)依賴度低,、安全性強更有利于保護隱私的特點,。作為布局AIoT的重要產(chǎn)品，ZLG發(fā)布了M1808 AI核心板,。本文將針對M1808核心板的AI性能參數(shù)做具體講解,。
二、M1808平臺簡介
M1808平臺是由M1808-T核心板和M1808-EV-Board評估底板組成,，是基于Rockchip 的RK1808 AIoT處理器開發(fā),。RK1808處理器芯片采用CPU（Central Processing Unit,，中文譯為中央處理單元）+NPU（Network Process Unit，中文譯為神經(jīng)網(wǎng)絡(luò)處理單元）雙架構(gòu),，其中CPU為1.6GHz雙核Cortex-A35架構(gòu),，NPU的峰值算力高達(dá)3.0TOPs，支持INT8/INT16/FP16混合運算,，最大程度兼顧性能,、功耗,、運算精度,，支持TensorFlow/MXNet/PyTorch/Caffe等一系列框架的網(wǎng)絡(luò)模型轉(zhuǎn)換，兼容性強,。VPU視頻處理單元支持1080P視頻編解碼,，支持麥克風(fēng)陣列，并具有硬件VAD功能,，支持低功耗偵聽遠(yuǎn)場喚醒,，還支持?jǐn)z像頭視頻信號輸入，并具有內(nèi)置ISP,。M1808平臺具有高性能,、低功耗、易編程,、集成NPU等特點,。
三、AIoT硬件平臺AI性能對比
算力和功耗是衡量硬件平臺AI性能的重要參數(shù),。為了充分驗證M1808的高性能,、低功耗特點，表格1提供了M1808與其他產(chǎn)品的AI性能參數(shù)對比,。通過對比可知,，M1808 AI核心板能夠最大程度的兼顧算力與功耗。這也使其在AIoT硬件平臺上具有領(lǐng)先地位,。
表格 1
四,、常見AI功能的算力花銷
考慮到讀者對3.0 TOPs的算力很難有一個清晰的概念，在表格2中我們列出了常見AI功能所需要的算力花銷：
表格 2
由表格可知,，除了自動駕駛這種多模型融合,、實際場景十分復(fù)雜多變的情形，大部分單一功能的實現(xiàn)所需的算力要求在1TOPS這個數(shù)量級,。M1808作為目前具有代表性的嵌入式AI平臺,，具備了3.0 TOPs的基礎(chǔ)算力，基本可以滿足大部分場景的使用,，如人臉門禁,、掃臉支付,、智能餐桌等。此外,，如果對照片處理的實時性要求不高,，比如山火識別，面對這種對網(wǎng)絡(luò)模型的查全率要求很高的場景,，就可以使用上結(jié)構(gòu)更深的模型,，來達(dá)到精度更高的效果。
五,、神經(jīng)網(wǎng)絡(luò)推理速度
l為了更直觀地認(rèn)識M1808的AI計算能力,，在圖表1中，我們分別在三種相同的神經(jīng)網(wǎng)絡(luò)模型下,，對比M1808與常見手機芯片的網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)運行時間,。運行時間的長短可以反應(yīng)出硬件平臺AI計算能力?？梢钥吹?，對比當(dāng)今主流的手機芯片，M1808的AI算力也毫不遜色,，足以滿足大部分AI功能需求,。
圖表 1
六、軟件層面
除了提供強大的AI算力,，M1808也提供了對應(yīng)的AI開發(fā)套件來支持研發(fā)人員的開發(fā)工作,。目前M1808的套件支持主流的tensorflow、tensroflow lite,、caffe,、darknet、onnx,、pytorch等框架訓(xùn)練的模型,，可以對其進(jìn)行模型轉(zhuǎn)換以便將模型部署到開發(fā)板上，我們還提供了自動量化及模型運行效率的評估功能,，減少模型適配的工作量,。
同時，M1808也提供了一些常用的AI模型可供開發(fā)人員調(diào)用,，目前支持以下功能：人臉識別,，司機疲勞駕駛檢測系統(tǒng)，人臉關(guān)鍵點定位,，人臉檢測,，物體檢測，物體分類，紐扣方向的功能,。目前的人臉識別精度在lfw上達(dá)到了99.7%,，一萬人臉庫的情景下達(dá)到每秒10幀左右，支持年齡跨度,、人臉部分遮擋和摘戴眼鏡等戶外及室內(nèi)場景,，更多的功能正在開發(fā)測試完善中，敬請期待,。
以上即為M1808的算法算力性能介紹,，大家是會能夠真切的感受到這款A(yù)I核心板的性能呢？若是想了解我司基于M1808提供的算法可查閱往期文章《立功科技嵌入式平臺“軟”實力——人臉識別算法篇》,，若是再想更近距離的感受M1808性能的強大,，歡迎咨詢小致，可有機會實際感受M1808 AI核心板的強勁性能,。