盡管由于限制,,華為擁有設(shè)計(jì)先進(jìn)芯片的能力但沒法制造出來,但是軟硬件優(yōu)化還是讓華為的平臺(tái)展示出了優(yōu)秀的性能,,日前OpenCV就實(shí)現(xiàn)了對(duì)華為AI平臺(tái)晟騰的優(yōu)化,速度提升很恐怖,差不多是蘋果M1處理器的7倍,。
據(jù)南方科技大學(xué)計(jì)算機(jī)系的于仕琪老師介紹,,OpenCV中國(guó)團(tuán)隊(duì)實(shí)現(xiàn)了OpenCV4.7對(duì)華為晟騰的支持,在華為硬件上,,3毫秒就可以完成ResNet50的推理,。
這個(gè)速度的確很恐怖!要知道,,我們把OpenCV針對(duì)arm cpu加了winograd conv等的優(yōu)化了,,在蘋果標(biāo)桿CPU m1上都要跑20+ms。
這一工作的最大意義在于,,用戶不需要學(xué)習(xí)華為晟騰的復(fù)雜API,,正常調(diào)用OpenCV,就能實(shí)現(xiàn)晟騰NPU硬件加速,。
據(jù)悉,,昇騰CANN(Compute Architecture for Neural Networks)是華為針對(duì)AI場(chǎng)景推出的異構(gòu)計(jì)算架構(gòu)。
昇騰CANN支持昇思MindSpore,,OpenCV DNN,,飛槳Paddle、PyTorch,、TensorFlow等神經(jīng)網(wǎng)絡(luò)推理和訓(xùn)練框架,,并兼容多種底層硬件設(shè)備,提供強(qiáng)大異構(gòu)計(jì)算能力,。
其中昇騰CANN為用戶提供了模型轉(zhuǎn)換工具ATC,,以及C/Python的API庫AscendCL。
用戶可使用ATC將ONNX,、TF和Caffe模型轉(zhuǎn)換為被AscendCL支持的OM格式,,并調(diào)用AscendCL的API讀取和在昇騰AI處理器上推理模型。
更多信息可以來這里獲取==>>電子技術(shù)應(yīng)用-AET<<