第一款具備支持從16位到4位高靈活度位寬的專用硬件解決方案

　　帶寬最低的神經(jīng)網(wǎng)絡(luò)(NN)解決方案

　　其架構(gòu)可支持多種操作系統(tǒng),，包括 Linux和 Android

　　2017年9月21日 ─ Imagination Technologies 宣布推出完整、獨立式的硬件IP神經(jīng)網(wǎng)絡(luò)加速器,，通過神經(jīng)網(wǎng)絡(luò)(NN)專用的PowerVR架構(gòu)實現(xiàn)，可提供業(yè)界領(lǐng)先的面積效率,。為移動,、監(jiān)控、汽車與消費系統(tǒng)開發(fā)SoC的公司將能以非常低的功耗,，在最小的芯片面積中集成新款 PowerVR Series2NX NNA神經(jīng)網(wǎng)絡(luò)加速器,，以實現(xiàn)神經(jīng)網(wǎng)絡(luò)的高性能運算。

　　包括卷積神經(jīng)網(wǎng)絡(luò)(CNN),、循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)和長短期記憶網(wǎng)絡(luò)(LSTM)在內(nèi)的神經(jīng)網(wǎng)絡(luò)正推動各個產(chǎn)業(yè)的爆發(fā)性技術(shù)進(jìn)展,。NNA是一種基本類型的處理器，預(yù)計會跟CPU和GPU一樣重要，而這兩類處理器Imagination均已能供應(yīng),。NNA的潛在應(yīng)用不計其數(shù),，其中包括AR/VR頭戴設(shè)備中的特征檢測與眼球追蹤；汽車安全系統(tǒng)中的行人檢測與駕駛員警覺性監(jiān)控,；智能監(jiān)控系統(tǒng)中的臉部辨識與人群行為分析,；網(wǎng)絡(luò)詐欺檢測、內(nèi)容建議(content advice),、以及預(yù)測性UX,；虛擬助理應(yīng)用中的語音識別與回應(yīng)；以及無人機中的防撞與對象追蹤等,。

　　根據(jù)嵌入式視覺聯(lián)盟(https://www.embedded-vision.com)于2017年1月進(jìn)行的嵌入式視覺開發(fā)人員調(diào)查顯示,，79%的受訪者表示他們已經(jīng)利用或正計劃利用神經(jīng)網(wǎng)絡(luò)來執(zhí)行其產(chǎn)品或服務(wù)中的計算機視覺功能。隨著科技持續(xù)的快速進(jìn)展,，更多的公司都將能夠利用神經(jīng)網(wǎng)絡(luò)來開發(fā)產(chǎn)品與服務(wù),。Imagination的客戶已為安全、移動,、汽車與機頂盒等多個市場開發(fā)與部署基于NN的系統(tǒng),。

　　嵌入式視覺聯(lián)盟創(chuàng)始人Jeff Bier表示：“很多系統(tǒng)與應(yīng)用程序開發(fā)人員正采用深度神經(jīng)網(wǎng)絡(luò)算法把新的感知功能帶到他們的產(chǎn)品之中。在許多案例中,，主要的挑戰(zhàn)在于能為這些要求嚴(yán)苛的算法提供足夠的處理性能,，同時滿足嚴(yán)格的產(chǎn)品成本與功耗限制。像PowerVR 2NX NNA 這類的專用處理器,，是專為神經(jīng)網(wǎng)絡(luò)算法所設(shè)計,，將能在許多新應(yīng)用中推動這些強大算法的部署?！?/p>

　　隨著神經(jīng)網(wǎng)絡(luò)日益普及,，2NX NNA 這樣的專用硬件解決方案 —— 與單純的DSP解決方案相比，它可提供8倍的性能密度提升 —— 將能以最低的功耗與成本達(dá)到最高的性能,。此外,，一直以來，神經(jīng)網(wǎng)絡(luò)非常耗費帶寬,，因此內(nèi)存的帶寬需求會隨著神經(jīng)網(wǎng)絡(luò)模型規(guī)模的增長而增加,。這會為SoC設(shè)計人員和OEM公司在設(shè)計系統(tǒng)時，因為要提供NNA所需的帶寬而帶來重大的挑戰(zhàn),。PowerVR 2NX能最小化外部DDR內(nèi)存的帶寬需求,，確保系統(tǒng)的性能不會受到帶寬的限制,。PowerVR 2NX NNA專用硬件的普及應(yīng)用,，將能推動各種基于神經(jīng)網(wǎng)絡(luò)技術(shù)的應(yīng)用程序進(jìn)一步發(fā)展。

　　PowerVR 2NX NNA可實現(xiàn)最高效率的解決方案

　　PowerVR 2NX是從頭開始全新設(shè)計的架構(gòu)，可提供：

　　?業(yè)界最高的單位毫瓦推理 (inference/mW) IP內(nèi)核,，以提供最低的功耗*

　　?業(yè)界最高的單位面積推理 (inference/mm2) IP內(nèi)核,，可實現(xiàn)最具成本效益的解決方案*

　　?業(yè)界最低帶寬的解決方案*——支持權(quán)重與數(shù)據(jù)的高靈活性位寬，包括低至4位的低帶寬模式

　　?業(yè)界領(lǐng)先的性能,，單一內(nèi)核為每周期2048 MAC,，并可采用多核設(shè)計進(jìn)一步提升性能

　　?在硬件架構(gòu)的基礎(chǔ)上提供了最全面的系統(tǒng)級的神經(jīng)網(wǎng)絡(luò)解決方案

　　Imagination公司 PowerVR 產(chǎn)品與技術(shù)營銷資深總監(jiān) Chris Longstaff 表示：“神經(jīng)網(wǎng)絡(luò)加速的專用硬件將成為未來SoC的標(biāo)準(zhǔn)IP模塊，就如同CPU和GPU一樣,。我們很高興率先向市場推出完整的硬件加速器,，能完全支持高精準(zhǔn)度的靈活方式，使神經(jīng)網(wǎng)絡(luò)能以最低的功耗與帶寬運作,，并提供優(yōu)于競爭對手方案的絕對性能與單位面積性能,。我們提供的工具將能讓開發(fā)人員非常快速地啟用并執(zhí)行其神經(jīng)網(wǎng)絡(luò),，因此能快速增加營收,。”

　　2NX包括硬件IP,、軟件與工具,，可為SoC提供完整的神經(jīng)網(wǎng)絡(luò)解決方案。它能有效地執(zhí)行所有常見的神經(jīng)網(wǎng)絡(luò)運算層,。依據(jù)推理任務(wù)的運算需求,，它能獨立使用 ─ 無須額外的硬件 ─ 或是與CPU和GPU等其它的處理器結(jié)合運用。

　　神經(jīng)網(wǎng)絡(luò)無所不在

　　PowerVR 2NX NNA是專為適應(yīng)多種市場的推理引擎所設(shè)計,，其高度可擴(kuò)展架構(gòu)適用于未來的更多應(yīng)用市場,。

　　移動：隨著Tensorflow Lite以及 Android API的即將發(fā)布，再加上Caffe2Go架構(gòu)的快速進(jìn)展,，我們將看到智能手機AI應(yīng)用程序數(shù)量的快速爆發(fā),。公司需要高效率的方式來執(zhí)行包括影像辨識、語音辨識,、計算攝影等在內(nèi)各種的推理任務(wù),。PowerVR 2NX是現(xiàn)今唯一的一套IP解決方案，能以低功耗,、小面積,、MMU和對Android的支持，來滿足移動解決方案部署的所有需求,。在GPU不可或缺的移動設(shè)備中,，公司能把新的 PowerVR Series9XE或 9XM GPU與 2NX NNA在相同的芯片中搭配運用，以作為獨立式GPU,。其優(yōu)異的性能足以和業(yè)界的獨立式GPU競爭,。

　　智能監(jiān)控：家庭與商業(yè)場所安裝的監(jiān)控攝影機數(shù)量正大量增加,，將推動神經(jīng)網(wǎng)絡(luò)視覺處理的需求?；谶@些技術(shù)的智能型攝影機能被用來根據(jù)安全警示,、零售分析、人口統(tǒng)計與互動數(shù)據(jù)來制定決策,?？紤]帶寬需求、數(shù)據(jù)機密性與其他因素,，攝影機的設(shè)計必須加入一定程度的“網(wǎng)絡(luò)邊緣”(edge) 視頻信息分析處理的能力,。由于這些攝影機通常沒有GPU或是僅有非常小的GPU，以及較低性能的CPU,，因此它們需要一個高效率,、高性能的獨立式神經(jīng)網(wǎng)絡(luò)加速器。2NX NNA是理想的選擇,，并且具備高度可擴(kuò)展性,，能同時滿足消費性與商用的需求。

　　汽車：汽車的神經(jīng)網(wǎng)絡(luò)應(yīng)用包括駕駛員警覺性監(jiān)測,、駕駛員視線追蹤,、座位使用、路標(biāo)檢測,、駕駛路線分析,、道路使用者檢測、駕駛員辨識以及其他,。隨著未來幾年自動駕駛汽車與智能型運輸系統(tǒng)的數(shù)量將日益增加,，這些應(yīng)用將持續(xù)擴(kuò)展。在汽車系統(tǒng)中,，需要2NX NNA 這樣的完整硬件解決方案,，才能滿足相關(guān)的性能需求。

　　家庭娛樂：機頂盒和電視將逐漸提供基于神經(jīng)網(wǎng)絡(luò)的解決方案,，例如能夠適應(yīng)特定使用者偏好的能力,，提供自動的兒童鎖，以及根據(jù)使用者行為自動暫停與錄制節(jié)目,。憑借這些特性,，公司能提升其差異性并增加營收。要在這些設(shè)備上構(gòu)建神經(jīng)網(wǎng)絡(luò)的關(guān)鍵是高效率的帶寬與低成本,，以及支持NN API ─ 這些都是2NX NNA的重要特性,。此外，還有許多新興的NNA娛樂應(yīng)用,，包括AR/VR,。

　　睿悅信息Nibiru是一家移動VR與AR的技術(shù)與服務(wù)供應(yīng)商,，該公司的共同創(chuàng)始人兼副總裁 Tony Chia表示：“來自合作伙伴Imagination的創(chuàng)新技術(shù)是確保VR解決方案可為消費者提供高度沉浸式游戲與視覺體驗的重要關(guān)鍵。我們對神經(jīng)網(wǎng)絡(luò)在VR/AR的潛在應(yīng)用感到非常振奮,，包括追蹤,、控制,、姿勢辨識,、語音辨識、以及能增加更多的互動體驗,。內(nèi)置 PowerVR 2NX NNA的芯片組可提供所需的處理能力與功耗效率,，把VR/AR體驗推升到全新的境界?！?/p>

　　簡化開發(fā)人員的工作

　　Imagination可為開發(fā)人員提供所有必要的工具,，讓他們能快速、輕松地啟用和執(zhí)行其神經(jīng)網(wǎng)絡(luò),，并確保運算帶寬能與準(zhǔn)確度完美平衡,。PowerVR 2NX的開發(fā)資源包括映射 (mapping) 和微調(diào)工具、樣本網(wǎng)絡(luò),、評估工具與文件,。完整的 PowerVR NX Mapping Tool 能從業(yè)界標(biāo)準(zhǔn)的機器學(xué)習(xí)框架，包括Caffe 和 Tensorflow,，輕松進(jìn)行轉(zhuǎn)換,。高級的網(wǎng)絡(luò)設(shè)計人員將能在2NX NNA 上設(shè)計與構(gòu)建神經(jīng)網(wǎng)絡(luò)，以充分發(fā)揮其硬件特性,。

　　Imagination也可提供通用的Imagination DNN (深度神經(jīng)網(wǎng)絡(luò)) API,，能在CPU、GPU與NNA之間輕松轉(zhuǎn)換,。此單一的API能夠跨多種SoC配置執(zhí)行,，因此能在現(xiàn)有設(shè)備上輕松開發(fā)原型。c