《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 其他 > 業(yè)界動(dòng)態(tài) > IoT ,、5G與邊緣計(jì)算將會(huì)擦出怎樣的火花,?

IoT ,、5G與邊緣計(jì)算將會(huì)擦出怎樣的火花,?

2020-11-24
來源:半導(dǎo)體行業(yè)觀察
關(guān)鍵詞: 邊緣計(jì)算 IOT 5G

  邊緣計(jì)算是數(shù)字世界中最令人興奮的新概念之一,。利用占用空間很少的微型數(shù)據(jù)中心網(wǎng)絡(luò),,邊緣計(jì)算使系統(tǒng)能夠?qū)崟r(shí)收集并分析重要數(shù)據(jù),,而不會(huì)增加現(xiàn)有基礎(chǔ)設(shè)施的負(fù)擔(dān),。

  在物聯(lián)網(wǎng)系統(tǒng)中,,通常以端到端的方式,,在特定的高度傳感器密集型環(huán)境中獲得大量數(shù)據(jù),,且數(shù)據(jù)是在邊緣生成并處理的,以降低延遲并減輕數(shù)據(jù)中心的負(fù)載,。此前,,邊緣計(jì)算的重點(diǎn)是連接在物聯(lián)網(wǎng)上的設(shè)備的技術(shù),比如工業(yè)機(jī)器人,。

  不過,,隨著技術(shù)的不斷發(fā)展,大數(shù)據(jù),、IoT 和AI的組合帶來了無限潛力,,對于邊緣計(jì)算的需求已經(jīng)從解決由IoT生成的數(shù)據(jù)增長而導(dǎo)致的數(shù)據(jù)長距離傳輸?shù)膸挸杀締栴},進(jìn)化至處理實(shí)時(shí)應(yīng)用程序,。在這類組合中,,邊緣計(jì)算需要滿足低延遲、加速實(shí)時(shí)創(chuàng)建和支持應(yīng)用,。

  什么是邊緣計(jì)算,?

  邊緣計(jì)算有很多術(shù)語,包括“邊緣云計(jì)算”和“霧計(jì)算”,?!斑吘売?jì)算”本身通常被描述為在本地服務(wù)器上運(yùn)行的應(yīng)用,旨在讓云進(jìn)程更靠近終端設(shè)備,。

  “企業(yè)計(jì)算”與邊緣計(jì)算類似,,但更傾向于準(zhǔn)確地描述網(wǎng)絡(luò)功能,卻非描述計(jì)算的位置,?!办F計(jì)算”概念是由Cisco創(chuàng)造的,許多人將其定義為位于邊緣計(jì)算空間上下的計(jì)算,,甚至作為邊緣計(jì)算的一個(gè)子集,。

  作為參考,端點(diǎn)設(shè)備和端點(diǎn)通常被稱為“邊緣設(shè)備”,,以免與邊緣計(jì)算相混淆,。邊緣計(jì)算可以采用多種形式,包括小型聚合器,、本地服務(wù)器或微型數(shù)據(jù)中心,。微型數(shù)據(jù)中心可以按區(qū)域分布在永久性或可移動(dòng)的存儲(chǔ)容器中。

  邊緣計(jì)算的價(jià)值

  一般來說,,傳感器,、攝像頭、麥克風(fēng)以及一系列不同的物聯(lián)網(wǎng)和移動(dòng)設(shè)備從其所在位置收集數(shù)據(jù),再發(fā)送到集中式數(shù)據(jù)中心或云中,。

  數(shù)據(jù)顯示,,到2020年,全世界會(huì)有超過500億臺(tái)智能設(shè)備實(shí)現(xiàn)連接,。這些設(shè)備每年將產(chǎn)生以澤字節(jié)(ZB)計(jì)算的數(shù)據(jù),到2025年將增長到150 ZB以上,。這些數(shù)據(jù)發(fā)送到云會(huì)帶來一些重大問題,。

  首先,150ZB的數(shù)據(jù)會(huì)造成容量問題,。其次,,將大量數(shù)據(jù)從其原始位置傳輸?shù)郊惺綌?shù)據(jù)中心代價(jià)高昂。據(jù)估計(jì),,目前只有12%的數(shù)據(jù)得到了分析處理,,而只有3%的數(shù)據(jù)有助于產(chǎn)生有意義的結(jié)果,剩余97%的數(shù)據(jù)在收集和傳輸之后,,就被浪費(fèi)了,。第三,存儲(chǔ),、傳輸和分析數(shù)據(jù)能耗巨大,。因此,我們需要找到一種有效的方法來降低成本并減少浪費(fèi),。

  引入邊緣計(jì)算,,在本地存儲(chǔ)數(shù)據(jù),可以降低傳輸成本,。同時(shí),,利用AI功能也能夠消除數(shù)據(jù)浪費(fèi)。例如,,現(xiàn)在正在使用中的新型低功耗邊緣計(jì)算服務(wù)器CPU,,它們以GPU和ASIC或一系列芯片的形式連接到AI加速 SoC。

  除了解決容量,、能源和成本問題外,,邊緣計(jì)算還可以提高網(wǎng)絡(luò)可靠性,因?yàn)閼?yīng)用可以在發(fā)生普遍的網(wǎng)絡(luò)中斷期間繼續(xù)運(yùn)行,,通過清除某些威脅配置文件(例如全局?jǐn)?shù)據(jù)中心拒絕服務(wù) (DoS) 攻擊),,可以提高安全性。

  最重要的是,,邊緣計(jì)算能夠?yàn)閷?shí)時(shí)場景(例如虛擬現(xiàn)實(shí)商場,、移動(dòng)設(shè)備視頻緩存)縮減延遲,同時(shí)在自動(dòng)駕駛汽車、游戲平臺(tái)或快節(jié)奏制造等環(huán)境中創(chuàng)造許多新的應(yīng)用機(jī)會(huì),。

  5G成為邊緣計(jì)算的最強(qiáng)推動(dòng)力

  5G基礎(chǔ)架構(gòu)是邊緣計(jì)算最具說服力的驅(qū)動(dòng)力之一,。5G電信提供商發(fā)現(xiàn),除了傳統(tǒng)的數(shù)據(jù)和語音連接之外,,他們還可以構(gòu)建生態(tài)系統(tǒng)以托管獨(dú)特的本地應(yīng)用,。通過將服務(wù)器置于基站旁邊,蜂窩流量提供商可以向第三方主機(jī)應(yīng)用開放其網(wǎng)絡(luò),,從而改善帶寬和延遲,。

  Credence Research認(rèn)為,到2026年,,整個(gè)邊緣計(jì)算市場的價(jià)值將為96億美元左右,。相比之下,Research and Markets分析認(rèn)為,,移動(dòng)邊緣計(jì)算市場將從今天的幾億美元增長到2026年的超過27.7億美元,。盡管電信行業(yè)可能是發(fā)展最快的增長動(dòng)力,但是據(jù)估計(jì),,它們僅會(huì)占據(jù)邊緣計(jì)算市場總量的三分之一,。這是因?yàn)閣eb scale、工業(yè)和企業(yè)集團(tuán)也將為其傳統(tǒng)市場提供邊緣計(jì)算硬件,、軟件和服務(wù),,期望邊緣計(jì)算也將開創(chuàng)新的應(yīng)用機(jī)遇。

  比如目前大眾快餐店的廚房正朝著更加自動(dòng)化的方向發(fā)展,,以確保食品質(zhì)量,,減少員工培訓(xùn),提高運(yùn)營效率并確??蛻趔w驗(yàn)達(dá)到預(yù)期,。Chick-fil-A 是一家連鎖快餐企業(yè),2018 年 他們宣稱:“通過提高廚房設(shè)備智能化,,我們能夠收集更多數(shù)據(jù),。通過這些數(shù)據(jù),我們可以構(gòu)建更多智能系統(tǒng),,進(jìn)而拓展業(yè)務(wù),。”他們還指出,,在邊緣計(jì)算的幫助下,,許多餐廳現(xiàn)在可以處理的業(yè)務(wù)量提高到之前的三倍。

  總體而言,,成功的邊緣計(jì)算基礎(chǔ)架構(gòu)需要結(jié)合本地服務(wù)器計(jì)算功能,、AI 計(jì)算功能以及與移動(dòng)/汽車/IoT 計(jì)算系統(tǒng)的連接(圖 1),。

微信圖片_20201124101454.jpg

  圖 1:邊緣計(jì)算通過使用微數(shù)據(jù)中心來分析和處理數(shù)據(jù),從而使云計(jì)算過程更靠近終端設(shè)備

  用實(shí)例了解邊緣計(jì)算

  為了解使用邊緣計(jì)算帶來的延遲改善優(yōu)勢,,羅格斯大學(xué)和 Inria 使用 Microsoft HoloLens分析了邊緣計(jì)算(或稱“邊緣云”)的可擴(kuò)展性和性能,。

  在案例中,HoloLens 讀取條形碼掃描儀,,然后使用建筑物中的場景分割功能將用戶導(dǎo)航到指定房間,,并在 Hololens 上顯示箭頭。該過程同時(shí)使用了映射坐標(biāo)的小數(shù)據(jù)包和連續(xù)視頻的較大數(shù)據(jù)包,,以驗(yàn)證邊緣計(jì)算與傳統(tǒng)云計(jì)算相比延遲的改善,。HoloLens 先讀取二維碼,然后將映射坐標(biāo)數(shù)據(jù)發(fā)送到邊緣服務(wù)器,,該服務(wù)器使用了 4 個(gè)字節(jié)加上標(biāo)頭,花費(fèi)了 1.2 毫秒 (ms),,服務(wù)器找到坐標(biāo),,并通知用戶該位置,總共耗時(shí) 16.22 ms,。如果將同樣的數(shù)據(jù)包發(fā)送到云,,則大約需要80ms(圖 2)。

微信圖片_20201124101503.jpg

  圖 2:比較邊緣設(shè)備到云服務(wù)器與邊緣設(shè)備到邊緣云服務(wù)器的延遲

  同樣,,他們還測試了在使用 OpenCV 進(jìn)行場景分割以將 Hololens 的用戶導(dǎo)航到適當(dāng)位置時(shí)的延遲,。HoloLens 以 30 fps 的速度流傳輸視頻,并在邊緣計(jì)算服務(wù)器中以 3.33 GHz 的頻率在配備 15GB RAM 的 Intel i7 CPU 上處理圖像,。將數(shù)據(jù)流傳輸?shù)竭吘売?jì)算服務(wù)器需要 4.9 ms,,處理 OpenCV 圖像額外花費(fèi)了 37 ms,總計(jì) 47.7 ms,。云服務(wù)器上的相同過程花費(fèi)了將近 115 ms,,清楚顯示了邊緣計(jì)算降低延遲的明顯優(yōu)勢。

  該案例研究顯示了邊緣計(jì)算在降低延遲方面的顯著優(yōu)勢,,但是未來還會(huì)有更多新技術(shù)可以更好地實(shí)現(xiàn)低延遲,。

  5G 概述了當(dāng)今延遲少于 1ms 的案例(圖 3),而 6G 已經(jīng)在討論將其降低到 10 微秒 (,?s) 的問題,。5G 和 Wi-Fi 6 會(huì)增加連接帶寬,其中5G 預(yù)計(jì)將帶寬提高到 10Gbps,,而 Wi-Fi 6 已經(jīng)支持 2Gbps 帶寬,。AI 加速器聲稱場景分割的時(shí)間少于 20?s,這與上述示例技術(shù)論文中引用的 Intel i7 CPU 在大約 20ms 內(nèi)處理每個(gè)幀的速度相比,,又有了顯著進(jìn)步,。

微信圖片_20201124101506.jpg

  圖 3:與圖 2 中 10s 和 100s 的 Msps 相比,,從 Hololens 到路由器以及從路由器到邊緣服務(wù)器的帶寬改善高達(dá) 10Gbps,另有 AI 處理的改進(jìn)(從 20ms 改善到 20us),,往返延遲 < 1ms,。

  顯然,如果邊緣計(jì)算表現(xiàn)的比云計(jì)算更具優(yōu)勢,,那么將計(jì)算全都轉(zhuǎn)移到邊緣設(shè)備中不是最好的解決方案嗎,?很不幸,目前并不是所有的應(yīng)用程序都是如此(圖 4),。在 HoloLens 案例研究中,,如果數(shù)據(jù)使用的 SQL 數(shù)據(jù)庫太大,則無法存儲(chǔ)在耳機(jī)中,。今天的邊緣設(shè)備,,特別是發(fā)生物理磨損的設(shè)備,沒有足夠的計(jì)算能力來處理大型數(shù)據(jù)集,。除了計(jì)算能力之外,,云或邊緣服務(wù)器上的軟件比邊緣設(shè)備上的軟件開發(fā)成本更低,因?yàn)樵?邊緣軟件不需要壓縮到更小的內(nèi)存資源和計(jì)算資源中,。

微信圖片_20201124101509.jpg

  圖 4:比較云計(jì)算和邊緣計(jì)算與端點(diǎn)設(shè)備,。

  由于某些應(yīng)用程序可以根據(jù)基礎(chǔ)架構(gòu)不同位置的計(jì)算能力、存儲(chǔ)能力,、存儲(chǔ)器可用性和延遲能力來合理地運(yùn)行,,因此無論是在云中、在邊緣服務(wù)器還是在邊緣設(shè)備中,,未來的趨勢是混合計(jì)算能力(圖 5),,邊緣計(jì)算是建立全球混合計(jì)算基礎(chǔ)架構(gòu)的第一步。

微信圖片_20201124101511.jpg

  圖 5:安裝在 Hololens,、邊緣服務(wù)器和云中的 AI,,使混合計(jì)算架構(gòu)能夠根據(jù)應(yīng)用需求優(yōu)化計(jì)算、存儲(chǔ)器和存儲(chǔ)資源,。

  邊緣計(jì)算與AI

  許多使用邊緣計(jì)算的新服務(wù)都有低延遲需求,,因此許多新系統(tǒng)都采用了最新的行業(yè)接口標(biāo)準(zhǔn),包括PCIe 5.0,、LPDDR5,、DDR5、HBM2e,、USB 3.2,、CXL、基于PCIe的NVMe以及其他基于新一代標(biāo)準(zhǔn)的技術(shù),。與上一代產(chǎn)品相比,,這些技術(shù)都通過改進(jìn)帶寬來降低延遲,。

  這些邊緣計(jì)算系統(tǒng)還增加了AI加速功能。例如,,某些服務(wù)器芯片通過x86擴(kuò)展AVX-512向量神經(jīng)網(wǎng)絡(luò)指令 (AVX512 VNNI)等新指令提供AI加速,。

  除此之外,大多數(shù)新系統(tǒng)中還添加了自定義AI加速器,。這些芯片所需的連接性通常采用帶寬最高的主機(jī)來實(shí)現(xiàn)加速器連接,。例如,在具有多個(gè)AI加速器的某種交換配置中,,由于帶寬要求影響了延遲,,因此很多系統(tǒng)中采用了PCIe 5.0接口。

  除了本地網(wǎng)關(guān)和聚合服務(wù)器系統(tǒng)之外,,單個(gè)AI加速器通常無法提供足夠的性能,,所以需要借助帶寬非常高的芯片到芯片SerDes PHY來擴(kuò)展這些加速器。最新發(fā)布的PHY支持56G和112G連接,。

微信圖片_20201124101520.jpg

  圖 6:常見服務(wù)器SoC位于邊緣,,根據(jù)任務(wù)數(shù)量、功率,、延遲和其他需求,具有不同的處理器數(shù)量,、以太網(wǎng)吞吐量和存儲(chǔ)能力,。

  AI算法正在突破內(nèi)存帶寬要求的極限。例如,,最新的BERT和GPT-2型號分別需要345M和1.5B參數(shù),,為了滿足這些需求,不僅需要高容量的內(nèi)存能力,,還需把許多復(fù)雜的應(yīng)用放在邊緣云中執(zhí)行,。為了實(shí)現(xiàn)這種能力,設(shè)計(jì)人員正在新的芯片組中采用DDR5,。除了容量挑戰(zhàn)之外,,還需要存取AI算法的系數(shù),以進(jìn)行非線性序列中并行執(zhí)行的大量多次累加計(jì)算,。因此,,HBM2e也成為一種被迅速采用的新技術(shù),有些芯片實(shí)現(xiàn)了單芯片中的數(shù)次HBM2e實(shí)例化,。

微信圖片_20201124101522.jpg

  圖 7:通用AI SoC具有高速,、高帶寬、內(nèi)存,、主機(jī)到加速器,,以及高速芯片到芯片接口,,用于擴(kuò)展多個(gè)AI加速器。

  未來,,邊緣計(jì)算的需求將集中在降低延遲和功率,,確保有足夠的處理能力來處理特定任務(wù)上。新一代服務(wù)器SoC解決方案不僅將具有更低的延遲和更低的功耗,,而且還將納入AI功能,,也就是AI加速器。

  但是很明顯,,AI和邊緣計(jì)算的需求也在迅速變化,,我們今天看到的許多解決方案在過去兩年中已多次取得了進(jìn)步,并將繼續(xù)加以改進(jìn),。

微信圖片_20201124101938.jpg

  圖 8:新一代服務(wù)器SoC再加上AI加速器,,將加快邊緣計(jì)算速度

  結(jié)語

  Futuriom曾在《5G,物聯(lián)網(wǎng)和邊緣計(jì)算趨勢》中寫道,,5G將成為邊緣計(jì)算技術(shù)的催化劑,,使用5G技術(shù)的應(yīng)用將改變流量需求模式,為移動(dòng)蜂窩網(wǎng)絡(luò)的邊緣計(jì)算提供最大的推動(dòng)力,。

  總的來說,,邊緣計(jì)算是實(shí)現(xiàn)數(shù)據(jù)快速連接的一項(xiàng)重要技術(shù),它將云服務(wù)更靠近邊緣設(shè)備,,降低延遲,,為消費(fèi)者提供新的應(yīng)用和服務(wù);還將衍生出更多的AI功能,,將其擴(kuò)展到云以外,。此外,它還將成為支持未來混合計(jì)算的基礎(chǔ)技術(shù),。

  


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn),。轉(zhuǎn)載的所有的文章,、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者,。如涉及作品內(nèi)容、版權(quán)和其它問題,,請及時(shí)通過電子郵件或電話通知我們,,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失,。聯(lián)系電話:010-82306118,;郵箱:[email protected],。