Imagination發(fā)布PowerVR NNA神經(jīng)網(wǎng)絡(luò)加速器
2017-09-23
第一款具備支持從16位到4位高靈活度位寬的專(zhuān)用硬件解決方案
帶寬最低的神經(jīng)網(wǎng)絡(luò)(NN)解決方案
其架構(gòu)可支持多種操作系統(tǒng),包括 Linux和 Android
2017年9月21日 ─ Imagination Technologies 宣布推出完整,、獨(dú)立式的硬件IP神經(jīng)網(wǎng)絡(luò)加速器,,通過(guò)神經(jīng)網(wǎng)絡(luò)(NN)專(zhuān)用的PowerVR架構(gòu)實(shí)現(xiàn),,可提供業(yè)界領(lǐng)先的面積效率,。為移動(dòng)、監(jiān)控,、汽車(chē)與消費(fèi)系統(tǒng)開(kāi)發(fā)SoC的公司將能以非常低的功耗,,在最小的芯片面積中集成新款 PowerVR Series2NX NNA神經(jīng)網(wǎng)絡(luò)加速器,以實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的高性能運(yùn)算,。
包括卷積神經(jīng)網(wǎng)絡(luò)(CNN),、循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)和長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)在內(nèi)的神經(jīng)網(wǎng)絡(luò)正推動(dòng)各個(gè)產(chǎn)業(yè)的爆發(fā)性技術(shù)進(jìn)展。NNA是一種基本類(lèi)型的處理器,,預(yù)計(jì)會(huì)跟CPU和GPU一樣重要,,而這兩類(lèi)處理器Imagination均已能供應(yīng)。NNA的潛在應(yīng)用不計(jì)其數(shù),,其中包括AR/VR頭戴設(shè)備中的特征檢測(cè)與眼球追蹤;汽車(chē)安全系統(tǒng)中的行人檢測(cè)與駕駛員警覺(jué)性監(jiān)控,;智能監(jiān)控系統(tǒng)中的臉部辨識(shí)與人群行為分析,;網(wǎng)絡(luò)詐欺檢測(cè)、內(nèi)容建議(content advice),、以及預(yù)測(cè)性UX,;虛擬助理應(yīng)用中的語(yǔ)音識(shí)別與回應(yīng);以及無(wú)人機(jī)中的防撞與對(duì)象追蹤等,。
根據(jù)嵌入式視覺(jué)聯(lián)盟(https://www.embedded-vision.com)于2017年1月進(jìn)行的嵌入式視覺(jué)開(kāi)發(fā)人員調(diào)查顯示,,79%的受訪(fǎng)者表示他們已經(jīng)利用或正計(jì)劃利用神經(jīng)網(wǎng)絡(luò)來(lái)執(zhí)行其產(chǎn)品或服務(wù)中的計(jì)算機(jī)視覺(jué)功能。隨著科技持續(xù)的快速進(jìn)展,,更多的公司都將能夠利用神經(jīng)網(wǎng)絡(luò)來(lái)開(kāi)發(fā)產(chǎn)品與服務(wù),。Imagination的客戶(hù)已為安全、移動(dòng),、汽車(chē)與機(jī)頂盒等多個(gè)市場(chǎng)開(kāi)發(fā)與部署基于NN的系統(tǒng),。
嵌入式視覺(jué)聯(lián)盟創(chuàng)始人Jeff Bier表示:“很多系統(tǒng)與應(yīng)用程序開(kāi)發(fā)人員正采用深度神經(jīng)網(wǎng)絡(luò)算法把新的感知功能帶到他們的產(chǎn)品之中。在許多案例中,,主要的挑戰(zhàn)在于能為這些要求嚴(yán)苛的算法提供足夠的處理性能,,同時(shí)滿(mǎn)足嚴(yán)格的產(chǎn)品成本與功耗限制。像PowerVR 2NX NNA 這類(lèi)的專(zhuān)用處理器,,是專(zhuān)為神經(jīng)網(wǎng)絡(luò)算法所設(shè)計(jì),,將能在許多新應(yīng)用中推動(dòng)這些強(qiáng)大算法的部署?!?/p>
隨著神經(jīng)網(wǎng)絡(luò)日益普及,,2NX NNA 這樣的專(zhuān)用硬件解決方案 —— 與單純的DSP解決方案相比,它可提供8倍的性能密度提升 —— 將能以最低的功耗與成本達(dá)到最高的性能,。此外,,一直以來(lái),神經(jīng)網(wǎng)絡(luò)非常耗費(fèi)帶寬,因此內(nèi)存的帶寬需求會(huì)隨著神經(jīng)網(wǎng)絡(luò)模型規(guī)模的增長(zhǎng)而增加,。這會(huì)為SoC設(shè)計(jì)人員和OEM公司在設(shè)計(jì)系統(tǒng)時(shí),,因?yàn)橐峁㎞NA所需的帶寬而帶來(lái)重大的挑戰(zhàn)。PowerVR 2NX能最小化外部DDR內(nèi)存的帶寬需求,,確保系統(tǒng)的性能不會(huì)受到帶寬的限制,。PowerVR 2NX NNA專(zhuān)用硬件的普及應(yīng)用,將能推動(dòng)各種基于神經(jīng)網(wǎng)絡(luò)技術(shù)的應(yīng)用程序進(jìn)一步發(fā)展,。
PowerVR 2NX NNA可實(shí)現(xiàn)最高效率的解決方案
PowerVR 2NX是從頭開(kāi)始全新設(shè)計(jì)的架構(gòu),,可提供:
?業(yè)界最高的單位毫瓦推理 (inference/mW) IP內(nèi)核,以提供最低的功耗*
?業(yè)界最高的單位面積推理 (inference/mm2) IP內(nèi)核,,可實(shí)現(xiàn)最具成本效益的解決方案*
?業(yè)界最低帶寬的解決方案*——支持權(quán)重與數(shù)據(jù)的高靈活性位寬,,包括低至4位的低帶寬模式
?業(yè)界領(lǐng)先的性能,單一內(nèi)核為每周期2048 MAC,,并可采用多核設(shè)計(jì)進(jìn)一步提升性能
?在硬件架構(gòu)的基礎(chǔ)上提供了最全面的系統(tǒng)級(jí)的神經(jīng)網(wǎng)絡(luò)解決方案
Imagination公司 PowerVR 產(chǎn)品與技術(shù)營(yíng)銷(xiāo)資深總監(jiān) Chris Longstaff 表示:“神經(jīng)網(wǎng)絡(luò)加速的專(zhuān)用硬件將成為未來(lái)SoC的標(biāo)準(zhǔn)IP模塊,,就如同CPU和GPU一樣。我們很高興率先向市場(chǎng)推出完整的硬件加速器,,能完全支持高精準(zhǔn)度的靈活方式,,使神經(jīng)網(wǎng)絡(luò)能以最低的功耗與帶寬運(yùn)作,并提供優(yōu)于競(jìng)爭(zhēng)對(duì)手方案的絕對(duì)性能與單位面積性能,。我們提供的工具將能讓開(kāi)發(fā)人員非??焖俚貑⒂貌?zhí)行其神經(jīng)網(wǎng)絡(luò),因此能快速增加營(yíng)收,?!?/p>
2NX包括硬件IP、軟件與工具,,可為SoC提供完整的神經(jīng)網(wǎng)絡(luò)解決方案,。它能有效地執(zhí)行所有常見(jiàn)的神經(jīng)網(wǎng)絡(luò)運(yùn)算層。依據(jù)推理任務(wù)的運(yùn)算需求,,它能獨(dú)立使用 ─ 無(wú)須額外的硬件 ─ 或是與CPU和GPU等其它的處理器結(jié)合運(yùn)用,。
神經(jīng)網(wǎng)絡(luò)無(wú)所不在
PowerVR 2NX NNA是專(zhuān)為適應(yīng)多種市場(chǎng)的推理引擎所設(shè)計(jì),其高度可擴(kuò)展架構(gòu)適用于未來(lái)的更多應(yīng)用市場(chǎng),。
移動(dòng):隨著Tensorflow Lite以及 Android API的即將發(fā)布,,再加上Caffe2Go架構(gòu)的快速進(jìn)展,我們將看到智能手機(jī)AI應(yīng)用程序數(shù)量的快速爆發(fā),。公司需要高效率的方式來(lái)執(zhí)行包括影像辨識(shí),、語(yǔ)音辨識(shí)、計(jì)算攝影等在內(nèi)各種的推理任務(wù),。PowerVR 2NX是現(xiàn)今唯一的一套IP解決方案,,能以低功耗,、小面積、MMU和對(duì)Android的支持,,來(lái)滿(mǎn)足移動(dòng)解決方案部署的所有需求,。在GPU不可或缺的移動(dòng)設(shè)備中,公司能把新的 PowerVR Series9XE或 9XM GPU與 2NX NNA在相同的芯片中搭配運(yùn)用,,以作為獨(dú)立式GPU,。其優(yōu)異的性能足以和業(yè)界的獨(dú)立式GPU競(jìng)爭(zhēng)。
智能監(jiān)控:家庭與商業(yè)場(chǎng)所安裝的監(jiān)控?cái)z影機(jī)數(shù)量正大量增加,,將推動(dòng)神經(jīng)網(wǎng)絡(luò)視覺(jué)處理的需求,。基于這些技術(shù)的智能型攝影機(jī)能被用來(lái)根據(jù)安全警示,、零售分析,、人口統(tǒng)計(jì)與互動(dòng)數(shù)據(jù)來(lái)制定決策??紤]帶寬需求,、數(shù)據(jù)機(jī)密性與其他因素,攝影機(jī)的設(shè)計(jì)必須加入一定程度的“網(wǎng)絡(luò)邊緣”(edge) 視頻信息分析處理的能力,。由于這些攝影機(jī)通常沒(méi)有GPU或是僅有非常小的GPU,以及較低性能的CPU,,因此它們需要一個(gè)高效率,、高性能的獨(dú)立式神經(jīng)網(wǎng)絡(luò)加速器。2NX NNA是理想的選擇,,并且具備高度可擴(kuò)展性,,能同時(shí)滿(mǎn)足消費(fèi)性與商用的需求。
汽車(chē):汽車(chē)的神經(jīng)網(wǎng)絡(luò)應(yīng)用包括駕駛員警覺(jué)性監(jiān)測(cè),、駕駛員視線(xiàn)追蹤,、座位使用、路標(biāo)檢測(cè),、駕駛路線(xiàn)分析,、道路使用者檢測(cè)、駕駛員辨識(shí)以及其他,。隨著未來(lái)幾年自動(dòng)駕駛汽車(chē)與智能型運(yùn)輸系統(tǒng)的數(shù)量將日益增加,,這些應(yīng)用將持續(xù)擴(kuò)展。在汽車(chē)系統(tǒng)中,,需要2NX NNA 這樣的完整硬件解決方案,,才能滿(mǎn)足相關(guān)的性能需求。
家庭娛樂(lè):機(jī)頂盒和電視將逐漸提供基于神經(jīng)網(wǎng)絡(luò)的解決方案,,例如能夠適應(yīng)特定使用者偏好的能力,,提供自動(dòng)的兒童鎖,,以及根據(jù)使用者行為自動(dòng)暫停與錄制節(jié)目。憑借這些特性,,公司能提升其差異性并增加營(yíng)收,。要在這些設(shè)備上構(gòu)建神經(jīng)網(wǎng)絡(luò)的關(guān)鍵是高效率的帶寬與低成本,以及支持NN API ─ 這些都是2NX NNA的重要特性,。此外,,還有許多新興的NNA娛樂(lè)應(yīng)用,包括AR/VR,。
睿悅信息Nibiru是一家移動(dòng)VR與AR的技術(shù)與服務(wù)供應(yīng)商,,該公司的共同創(chuàng)始人兼副總裁 Tony Chia表示:“來(lái)自合作伙伴Imagination的創(chuàng)新技術(shù)是確保VR解決方案可為消費(fèi)者提供高度沉浸式游戲與視覺(jué)體驗(yàn)的重要關(guān)鍵。我們對(duì)神經(jīng)網(wǎng)絡(luò)在VR/AR的潛在應(yīng)用感到非常振奮,,包括追蹤,、控制、姿勢(shì)辨識(shí),、語(yǔ)音辨識(shí),、以及能增加更多的互動(dòng)體驗(yàn)。內(nèi)置 PowerVR 2NX NNA的芯片組可提供所需的處理能力與功耗效率,,把VR/AR體驗(yàn)推升到全新的境界,。”
簡(jiǎn)化開(kāi)發(fā)人員的工作
Imagination可為開(kāi)發(fā)人員提供所有必要的工具,,讓他們能快速,、輕松地啟用和執(zhí)行其神經(jīng)網(wǎng)絡(luò),并確保運(yùn)算帶寬能與準(zhǔn)確度完美平衡,。PowerVR 2NX的開(kāi)發(fā)資源包括映射 (mapping) 和微調(diào)工具,、樣本網(wǎng)絡(luò)、評(píng)估工具與文件,。完整的 PowerVR NX Mapping Tool 能從業(yè)界標(biāo)準(zhǔn)的機(jī)器學(xué)習(xí)框架,,包括Caffe 和 Tensorflow,輕松進(jìn)行轉(zhuǎn)換,。高級(jí)的網(wǎng)絡(luò)設(shè)計(jì)人員將能在2NX NNA 上設(shè)計(jì)與構(gòu)建神經(jīng)網(wǎng)絡(luò),,以充分發(fā)揮其硬件特性。
Imagination也可提供通用的Imagination DNN (深度神經(jīng)網(wǎng)絡(luò)) API,,能在CPU,、GPU與NNA之間輕松轉(zhuǎn)換。此單一的API能夠跨多種SoC配置執(zhí)行,,因此能在現(xiàn)有設(shè)備上輕松開(kāi)發(fā)原型,。c