隨著itle="物聯(lián)網(wǎng)" target="_blank">物聯(lián)網(wǎng)和人工智能的發(fā)展,，邊緣計算逐步走入了人們的視野,，且其應(yīng)用正在普及當(dāng)中。當(dāng)下,，在IT和物聯(lián)網(wǎng)行業(yè)里,，都在討論邊緣計算的概念。在中國,，邊緣計算這個概念是在兩年半之前正式推出來的,。
邊緣計算是發(fā)展趨勢。具體原因,，第一是數(shù)據(jù)量的增長,，因為數(shù)據(jù)量的增長不可能把所有數(shù)據(jù)都通過網(wǎng)絡(luò)傳到后端，代表帶寬增長的速度小于,、慢于數(shù)據(jù)增長的速度,。另外一方面,，對于一些實時性要求比較高的應(yīng)用場景，他們需要在邊緣對數(shù)據(jù)進行處理和判斷,，尤其像工業(yè)類,，或者自動駕駛、無人駕駛這樣一些領(lǐng)域,。
第三,，使用場景是在一些對于隱私保護要求比較高的場景，比如人的醫(yī)療信息,，也是不允許,、或者用戶不愿意把這些數(shù)據(jù)進行云端的分享，需要在本地進行存儲,，所以,，這些因素造成在物聯(lián)網(wǎng)應(yīng)用里，邊緣計算是發(fā)展趨勢,。
邊緣計算面臨挑戰(zhàn)
不管是消費端數(shù)據(jù),，還是行業(yè)數(shù)字化產(chǎn)生的數(shù)據(jù)，有越來越多的數(shù)據(jù)在邊緣產(chǎn)生,，這直接擠壓到了存儲和帶寬的要求,，隨之而來的邊緣大數(shù)據(jù)概念在過去兩年也提出來了。
傳統(tǒng)的物聯(lián)網(wǎng),，更多的是線性思維,，即物體產(chǎn)生數(shù)據(jù)，通過互聯(lián)網(wǎng)傳到云端,，分析產(chǎn)生價值,，而今天的物聯(lián)網(wǎng)完全是三維立體的概念。而關(guān)于邊緣計算,，業(yè)界已經(jīng)有共識,。首先是實時的運用，二是成本,，三是分析和預(yù)測,，過去的能力只能是分析已經(jīng)發(fā)生的事件，怎么樣通過對發(fā)生事件的了解預(yù)測將來,；四是精準性問題,，甚至是信息安全、信息保密的問題,。
要把人工智能真正推向邊緣并不是一個很簡單的事情,，在今天來看也沒有一個一勞永逸的方案,。對此,，英特爾副總裁兼物聯(lián)網(wǎng)事業(yè)部中國區(qū)總經(jīng)理陳偉博士表示：“我過去總是講，一個是量大，一個是碎片化,，碎片化叫Fragmentization,，很難解決，英特爾作為一個平臺化的公司,，在這些方面,，我們過去幾年確實做了持之以恒的努力。關(guān)于視頻技術(shù)方面,，今天很簡單,，就是從英特爾產(chǎn)的帶有顯核的GPU，加上我們最近的幾個加速器,，像Movidius,，還有Novana這些技術(shù)，還有FPGA,，至少從硬件的角度來講,，我們是可以根據(jù)應(yīng)用去勾勒出一個功耗、成本最大化的優(yōu)化解決方案的,，這些應(yīng)用是和合作伙伴一起去優(yōu)化,、研發(fā)的?！?/p>
陳偉博士,，英特爾副總裁兼物聯(lián)網(wǎng)事業(yè)部中國區(qū)總經(jīng)理
邊緣計算對IC設(shè)計的要求
邊緣計算有一些關(guān)鍵的技術(shù)點，這些關(guān)鍵的技術(shù)點對于芯片的發(fā)展路線圖設(shè)計至關(guān)重要,。一個技術(shù)點是計算,，尤其是AI的計算，在整個邊緣會越來越突出,，而邊緣的設(shè)備和云端的設(shè)備是不一樣的,，因為邊緣設(shè)備能夠承載的功耗，能夠支持的操作系統(tǒng),，能夠提供的內(nèi)存容量都是不一樣的,，所以在邊緣這一側(cè)，算法要做一些特定的優(yōu)化,，對工具也有特定要求,。
對此，英特爾中國區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官兼首席工程師張宇博士表示：“像我們的Movidius,、FPGA設(shè)計,，引入到這里面，也有這樣的考量,，因為他們的性能功耗比比通用處理器會有一個更好的體現(xiàn),?！?/p>
此外，邊緣計算還有一些其他關(guān)鍵的技術(shù)要素,，比如在工業(yè)領(lǐng)域,，要在確定的時間里得到一個確定的響應(yīng)，我不可能給它很長的延時,，所以需要一個TCC支持,，這在我們的芯片設(shè)計時也會考慮進去。
張宇博士,，英特爾中國區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官兼首席工程師
還有一些關(guān)鍵技術(shù)點,，比如公共安全的使用場景，在工業(yè)機器人的使用環(huán)境里面,，怎么保證機械手,、機械臂不會對人身安全造成傷害，這些在我們的芯片設(shè)計里,，也會把這些因素考慮進去,。
總之，我們在做芯片設(shè)計,，尤其是在邊緣芯片類設(shè)計的時候,，會考慮它的計算要求，也會考慮它的數(shù)據(jù)連接的要求,，也會考慮它的功能安全和信息安全等方面的要求,。
陳偉表示，從宏觀的產(chǎn)品目標規(guī)劃來講,，有幾位業(yè)界標桿人物加入了英特爾,，我相信在視覺芯片方面，一定會加速我們的進展,。
英特爾有幾個對外的事業(yè)部,，有數(shù)據(jù)中心、物聯(lián)網(wǎng),，還有存儲,，他們不見得有自己的單獨產(chǎn)品目標，我們有些技術(shù)是分享的,。就物聯(lián)網(wǎng)事業(yè)部來講,，早期是一個嵌入式的事業(yè)部，當(dāng)時的出發(fā)點是PC的芯片可以用到很多非PC的應(yīng)用當(dāng)中,，比如取款機,，我們有一個非常成熟的生態(tài)鏈，就是板卡上硬件的生態(tài)鏈,。物聯(lián)網(wǎng)事業(yè)部將來的發(fā)展方向,，會更加強調(diào)視覺,，強調(diào)負載整合，但是這兩點都需要芯片技術(shù)的支撐,。所以,，第一,，在CPU和GPU方面,，一定是研發(fā)更適合于這兩個應(yīng)用場景的芯片。
第二,，我們會整合一些加速器,，Movidius就被整合到英特爾IoT事業(yè)部里面來了，當(dāng)然,，不僅僅用于IoT應(yīng)用場景,，別的應(yīng)用場景也可以用，但是主流,，從產(chǎn)品的規(guī)劃是在IoT里面走的,。根據(jù)這個戰(zhàn)略，我們會更自主地研發(fā)一些更適合于物聯(lián)網(wǎng)應(yīng)用場景的芯片,。
計算機視覺和
深度學(xué)習(xí)開發(fā)工具OpenVINO
靈活,、多元、高質(zhì)量的硬件是必要條件,，今天,，要用這些硬件直接應(yīng)用到人工智能上，還有很多的壁壘,，主要是怎樣能深度挖掘并充分利用硬件的能力,，如計算、圖像分析和加速能力,。
對于各種應(yīng)用和挑戰(zhàn),，英特爾推出了軟件SDK平臺——OpenVINO，OpenVINO于今年5月16號在全球發(fā)布,，7月27號,，推出了OpenVINO的視覺推理和神經(jīng)網(wǎng)絡(luò)優(yōu)化工具套件。它包括模型的完善,、模型的充實和插件的優(yōu)化,，其目的是提供從邊緣到云的計算，基于視覺和深度學(xué)習(xí),，提升整體開發(fā)能力,。
據(jù)張宇博士介紹，OpenVINO是英特爾給進行計算機視覺和深度學(xué)習(xí)應(yīng)用開發(fā)的開發(fā)者提供的工具,。人工智能,、深度學(xué)習(xí)是當(dāng)下的一個風(fēng)口,，AlphaGO的出現(xiàn)使大家感覺到人工智能新一輪的春天已經(jīng)到來了，其實不僅僅是AlphaGO,，如果我們看一下周圍會發(fā)現(xiàn),，現(xiàn)在有很多基于機器學(xué)習(xí)、人工智能的應(yīng)用正在服務(wù)于我們的生活,。比如說大家比較熟悉的安防領(lǐng)域,，通過對一些經(jīng)過標注的視頻數(shù)據(jù)的訓(xùn)練，我們已經(jīng)可以從視頻里面分析出人,、車,、物等特征，我們能夠知道這個車的車型是什么,，是哪款,，它的顏色以及車標。
對于人,，我們已經(jīng)可以用刷臉的方式進行支付,，準確度已經(jīng)很高，除了對于視頻的分析,，其實在自然語言處理等領(lǐng)域,，人工智能已經(jīng)得到很好的應(yīng)用，現(xiàn)在市場上有非常多的智能音箱產(chǎn)品,，比如谷歌推出了Google Home,、亞馬遜推出了Alexa，百度推出了小度,，小米也推出了小愛,，這些都是人工智能的典型應(yīng)用。
但是,，從人工智能演進過程可以看到,，從最早的人工智能的計算，不管是訓(xùn)練還是推理,，實際上都是發(fā)生在數(shù)據(jù)中心,，這是因為深度學(xué)習(xí)需要大量的運算量，只有在數(shù)據(jù)中心運用一些通用處理器,，才能提供如此巨大的計算并提供這些計算所需要的電力消耗,。但是，近年來隨著人工智能技術(shù)的發(fā)展,，無論算法還是芯片,，人工智能都達到了一個很高的水平。
在算法方面，很多網(wǎng)絡(luò)壓縮的算法已經(jīng)在被廣泛使用,，從而使得人工智能的計算量在降低,。同時還有很多用于人工智能的專用芯片以及FPGA使用，使得一些深度學(xué)習(xí)的運算可以從云端推送到邊緣,，所以,，像智能攝像機、智能網(wǎng)絡(luò)視頻存儲器,、NVR等產(chǎn)品在市面上都涌現(xiàn)出來了,。
同時可以看到，在整個系統(tǒng)端到端的網(wǎng)元里面,，不同的網(wǎng)元所能提供的計算量是不一樣的,，它能夠支撐的操作系統(tǒng)也各不相同,，因此,，有各自不同適用的芯片架構(gòu)。比如在攝像機里,，一個攝像機的功耗大概15瓦,，從15瓦里能夠提供給做智能運算的能量有2~3瓦，對于這樣的使用場景,，ASIC架構(gòu)是最適宜的,。
數(shù)據(jù)中心需要一定的靈活度，對于一些通用的處理器可能又是最適宜的,，因此不同的網(wǎng)元有不同適宜的架構(gòu),，不同的芯片往往有各自不同的開發(fā)方法，這樣對開發(fā)者而言就帶來一定的困擾,，也就是說如果我為某一種芯片所開發(fā)的軟件換了一個架構(gòu)以后,，它可能是不適用的，這樣無形中就增加了開發(fā)的門檻,。
張宇表示：“我跟很多從事人工智能應(yīng)用開發(fā)的開發(fā)者交流,，我們發(fā)現(xiàn)，目前在進行人工智能開發(fā)的時候,，還有很多的問題沒有解決,，比如，我作為一個開發(fā)者,，已經(jīng)有了一個經(jīng)過訓(xùn)練完以后的網(wǎng)絡(luò)模型,，但是由于我的推理平臺相對來說能力有限，我需要把現(xiàn)在網(wǎng)絡(luò)模型的一部分,，而不是全部能夠下載到我的推理平臺之上,，這是我的一個困擾。另外一個困擾是我現(xiàn)在一個訓(xùn)練的模型,，如果把它推送到一個推理平臺之上,，我發(fā)現(xiàn)它的性能不高,，我如何來提升這個性能？再或者,，我在做深度學(xué)習(xí),、人工智能應(yīng)用開發(fā)的時候，我所用到的框架并不被現(xiàn)在英特爾的一些架構(gòu)所支持,，比如Movidius或者是FPGA,，我現(xiàn)在不能把它用起來，那么如何進行使用,？這是我們發(fā)現(xiàn)開發(fā)者的一些困擾,。”
我們推出的OpenVINO,，實際上就是解決以上這些問題的,，OpenVINO是一個可以加快高性能計算機視覺和深度學(xué)習(xí)視覺應(yīng)用開發(fā)的一個工具套件，它能夠支持英特爾平臺的各種加速器,，包括CPU,、GPU、FPGA以及Movidius的VPU,，來進行深度學(xué)習(xí),，同時它能夠直接支持異構(gòu)的執(zhí)行。它使用的對象是軟件開發(fā)人員以及開發(fā),、監(jiān)控,、零售、醫(yī)療,、辦公自動化以及自動駕駛等領(lǐng)域的數(shù)據(jù)科學(xué)家,。
OpenVINO工具套件的優(yōu)勢主要體現(xiàn)在：
首先，性能方面的提升,，通過OpenVINO,，可以很方便地使用英特爾的各種硬件加速資源，包括CPU,、GPU,、VPU、FPGA,，這些資源能夠幫助大家提升你的深度學(xué)習(xí)算法在做推理時的性能,，而且執(zhí)行的過程中是支持異構(gòu)處理和異步執(zhí)行的，這樣能夠減少由于系統(tǒng)資源等待所占用的時間,。
另外,，OpenVINO使用了經(jīng)過優(yōu)化的OpenCV和OpenVX，同時提供了很多應(yīng)用示例，可以縮短開發(fā)時間,。這些庫都支持異構(gòu)執(zhí)行,，如果編程的話，編寫一次,，以后我可以通過異構(gòu)接口支撐跑在其他的硬件平臺之上,。
在深度學(xué)習(xí)方面，OpenVINO帶有模型優(yōu)化器,、推理引擎以及超過20個預(yù)先訓(xùn)練的模型,，大家可以利用這些工具，快速實現(xiàn)自己基于深度學(xué)習(xí)的應(yīng)用,，而且OpenVINO使用了OpenCV,、OpeenVX的基礎(chǔ)庫，大家可以利用這些基礎(chǔ)庫去開發(fā)自己特定的算法,，實現(xiàn)自己的定制和創(chuàng)新,。
用戶體驗
圖像處理的算法是非常多樣化的，除了人臉識別以外,，還有車輛分析,、結(jié)構(gòu)化分析,、行為分析等等,。
宇視研發(fā)副總裁AI產(chǎn)品線總監(jiān)湯立波表示：“我看到這個領(lǐng)域里已經(jīng)很難有一個場景只需要一種算法，絕大部分都是要多種算法融合,。OpenVINO可用于不同的硬件平臺,，可以加載不同的神經(jīng)網(wǎng)絡(luò)，實際上就是可以加載不同的算法,?！?/p>
據(jù)湯立波介紹，在與英特爾合作的過程中,，在整個開發(fā)過程中,，相互之間可以共享經(jīng)驗、一同解決問題,。在整個產(chǎn)品開發(fā)過程中,，其實大量的過程并不是開發(fā)本身，而是解決問題的本身,，所以,，只有非常有經(jīng)驗的企業(yè)才能夠做出一款穩(wěn)定、能夠快速解決問題的,、用于產(chǎn)品化的芯片,。