自物聯(lián)網(wǎng)(IoT)問(wèn)世以來(lái)出現(xiàn)了多項(xiàng)頗具顛覆性的創(chuàng)新,邊緣智能便是其中之一。物聯(lián)網(wǎng)帶來(lái)了數(shù)十億智能互聯(lián)設(shè)備,,這些設(shè)備傳輸TB級(jí)海量傳感器數(shù)據(jù),,用于執(zhí)行基于人工智能的云計(jì)算,。除此之外,,另一項(xiàng)革命正在進(jìn)行:邊緣設(shè)備上的機(jī)器學(xué)習(xí)(ML)。隨著越來(lái)越多的智能設(shè)備遷移到網(wǎng)絡(luò)邊緣,,恩智浦緊跟趨勢(shì),,提供成本、性能和功率優(yōu)越的處理解決方案,,在多個(gè)市場(chǎng)和應(yīng)用推動(dòng)機(jī)器學(xué)習(xí)技術(shù),,讓最終用戶享受到更強(qiáng)安全性、更高隱私性,、更少延遲等優(yōu)勢(shì),。
以前,機(jī)器學(xué)習(xí),、深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)應(yīng)用一直是數(shù)據(jù)科學(xué)家和人工智能專家的專屬領(lǐng)域,。但是,越來(lái)越多的機(jī)器學(xué)習(xí)工具和技術(shù)問(wèn)世,,消除了機(jī)器學(xué)習(xí)應(yīng)用開(kāi)發(fā)方面的一些復(fù)雜性,,這種情況逐漸改變。恩智浦的eIQ(“邊緣智能”)機(jī)器學(xué)習(xí)開(kāi)發(fā)環(huán)境就是一個(gè)很好的例子,。eIQ提供一套全面的工作流程工具,、推理引擎、神經(jīng)網(wǎng)絡(luò)(NN)編譯器,,以及經(jīng)過(guò)優(yōu)化的庫(kù)和技術(shù),,幫助簡(jiǎn)化并加快機(jī)器學(xué)習(xí)開(kāi)發(fā)。從剛開(kāi)始第一個(gè)深度學(xué)習(xí)項(xiàng)目的嵌入式開(kāi)發(fā)人員,,到專注研究高級(jí)目標(biāo)識(shí)別,、分類、異常檢測(cè)或語(yǔ)音識(shí)別解決方案的專家,,各種技能水平的用戶都可以使用eIQ,。
eIQ機(jī)器學(xué)習(xí)軟件于2018年推出,經(jīng)過(guò)不斷開(kāi)發(fā),,可支持系統(tǒng)級(jí)應(yīng)用和機(jī)器學(xué)習(xí)算法實(shí)現(xiàn),,適用于恩智浦i.MX系列從低功耗i.MX RT跨界微控制器(MCU),到基于Arm? Cortex?-M和Cortex?-A內(nèi)核的多核i.MX 8和i.MX 8M應(yīng)用處理器,。
今日重大更新
為幫助機(jī)器學(xué)習(xí)開(kāi)發(fā)人員更熟練高效地運(yùn)用恩智浦i.MX 8處理平臺(tái),,我們大力擴(kuò)展了eIQ軟件環(huán)境,添加了全新eIQ Toolkit工作流程工具、基于GUI的eIQ門戶開(kāi)發(fā)環(huán)境,,以及針對(duì)i.MX和i.MX RT設(shè)備進(jìn)行優(yōu)化的DeepViewRT?推理引擎,。
下面詳細(xì)介紹eIQ軟件環(huán)境中,這些強(qiáng)大的新增工具如何幫助簡(jiǎn)化機(jī)器學(xué)習(xí)開(kāi)發(fā),,提高工作效率并為開(kāi)發(fā)人員提供更多選項(xiàng)和更大的靈活性,。
eIQ Toolkit:實(shí)現(xiàn)“機(jī)器學(xué)習(xí)人人可用”
考慮到機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)應(yīng)用的潛在復(fù)雜性以及機(jī)器學(xué)習(xí)開(kāi)發(fā)人員的不同需求,,簡(jiǎn)單的“萬(wàn)能”工具并不能實(shí)現(xiàn)“人人可用”,。更好的方法是提供靈活的綜合工具套件,該套件應(yīng)該能夠擴(kuò)展,,以滿足不同技能水平和經(jīng)驗(yàn)水平的機(jī)器學(xué)習(xí)開(kāi)發(fā)人員,。為此,我們?cè)趀IQ機(jī)器學(xué)習(xí)開(kāi)發(fā)環(huán)境中添加了強(qiáng)大而易用的eIQ Toolkit,,使開(kāi)發(fā)人員能夠?qū)霐?shù)據(jù)集和模型,,并跨恩智浦i.MX 8M應(yīng)用處理器系列和i.MX RT跨界MCU產(chǎn)品組合進(jìn)行訓(xùn)練、量化,、驗(yàn)證和部署神經(jīng)網(wǎng)絡(luò)模型與機(jī)器學(xué)習(xí)工作負(fù)載,。無(wú)論您是剛剛開(kāi)始第一個(gè)機(jī)器學(xué)習(xí)項(xiàng)目的嵌入式開(kāi)發(fā)人員,還是熟練的數(shù)據(jù)科學(xué)家或人工智能專家,,都能在該工具套件中找到與您的技能水平相對(duì)應(yīng)的功能,,來(lái)幫助簡(jiǎn)化機(jī)器學(xué)習(xí)項(xiàng)目。
eIQ Toolkit提供簡(jiǎn)單的工作流程和機(jī)器學(xué)習(xí)應(yīng)用示例,。此外,,該工具套件在eIQ門戶中提供一個(gè)基于GUI直觀開(kāi)發(fā)選項(xiàng),您也可以根據(jù)自己的喜好選擇使用命令行主機(jī)工具,。如果您想要使用現(xiàn)成的開(kāi)發(fā)解決方案,,或是需要恩智浦及我們值得信賴的合作伙伴提供的專業(yè)服務(wù)與支持,您可以通過(guò)該工具套件在eIQ市場(chǎng)中輕松訪問(wèn)Au-Zone Technologies等公司提供的選項(xiàng)列表,,該列表將不斷更新,。
通過(guò)eIQ門戶,您可以輕松創(chuàng)建,、優(yōu)化,、調(diào)試、轉(zhuǎn)換并導(dǎo)出機(jī)器學(xué)習(xí)模型,,也可以從TensorFlow,、ONNX和PyTorch機(jī)器學(xué)習(xí)框架中導(dǎo)入數(shù)據(jù)集和模型。您可以通過(guò)“自帶數(shù)據(jù)” (BYOD)流程,,使用自己的數(shù)據(jù)訓(xùn)練模型,,從預(yù)訓(xùn)練模型數(shù)據(jù)庫(kù)中選擇模型,,或通過(guò)“自帶模型”(BYOM)流程導(dǎo)入預(yù)訓(xùn)練模型,例如來(lái)自Au-Zone Technologies的高級(jí)檢測(cè)模型,。通過(guò)遵循簡(jiǎn)單的BYOM流程,,您可以使用基于公共云或私有云的工具構(gòu)建經(jīng)過(guò)訓(xùn)練的模型,然后將模型傳輸?shù)絜IQ Toolkit中,,以便在適當(dāng)?shù)男酒瑑?yōu)化推理引擎上運(yùn)行,。
針對(duì)目標(biāo)的圖形級(jí)別分析功能讓開(kāi)發(fā)人員能夠在運(yùn)行時(shí)深入了解運(yùn)行情況,以便微調(diào)和優(yōu)化系統(tǒng)參數(shù),、運(yùn)行時(shí)性能,、內(nèi)存使用和在i.MX設(shè)備上執(zhí)行的神經(jīng)網(wǎng)絡(luò)架構(gòu)。
最新eIQ推理引擎,,實(shí)現(xiàn)恩智浦提速發(fā)展
推理引擎是機(jī)器學(xué)習(xí)開(kāi)發(fā)項(xiàng)目的核心,也是機(jī)器學(xué)習(xí)應(yīng)用的運(yùn)行時(shí)組件,。eIQ機(jī)器學(xué)習(xí)軟件開(kāi)發(fā)環(huán)境支持使用針對(duì)Glow,、ONNX和TensorFlow Lite等i.MX設(shè)備和MCU進(jìn)行優(yōu)化的各種基于社區(qū)的開(kāi)源推理引擎進(jìn)行推理,除此之外,,我們還為其添加了DeepViewRT推理引擎,。
DeepViewRT是恩智浦與合作伙伴Au-Zone Technologies聯(lián)合開(kāi)發(fā)的專有推理引擎,該引擎提供了長(zhǎng)期穩(wěn)定的解決方案,,由供應(yīng)商進(jìn)行維護(hù),,用于補(bǔ)充基于社區(qū)的開(kāi)源引擎。
在恩智浦MCUXpresso SDK和Yocto BSP版本中,,DeepViewRT推理引擎可作為基于Linux?操作系統(tǒng)的開(kāi)發(fā)的中間件,。