自物聯(lián)網(wǎng)(IoT)問世以來出現(xiàn)了多項頗具顛覆性的創(chuàng)新,,邊緣智能便是其中之一。物聯(lián)網(wǎng)帶來了數(shù)十億智能互聯(lián)設(shè)備,這些設(shè)備傳輸TB級海量傳感器數(shù)據(jù),,用于執(zhí)行基于人工智能的云計算,。除此之外,,另一項革命正在進行:邊緣設(shè)備上的機器學(xué)習(xí)(ML),。隨著越來越多的智能設(shè)備遷移到網(wǎng)絡(luò)邊緣,恩智浦緊跟趨勢,,提供成本,、性能和功率優(yōu)越的處理解決方案,在多個市場和應(yīng)用推動機器學(xué)習(xí)技術(shù),,讓最終用戶享受到更強安全性,、更高隱私性、更少延遲等優(yōu)勢,。
以前,,機器學(xué)習(xí)、深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)應(yīng)用一直是數(shù)據(jù)科學(xué)家和人工智能專家的專屬領(lǐng)域,。但是,,越來越多的機器學(xué)習(xí)工具和技術(shù)問世,消除了機器學(xué)習(xí)應(yīng)用開發(fā)方面的一些復(fù)雜性,,這種情況逐漸改變,。恩智浦的eIQ(“邊緣智能”)機器學(xué)習(xí)開發(fā)環(huán)境就是一個很好的例子,。eIQ提供一套全面的工作流程工具,、推理引擎、神經(jīng)網(wǎng)絡(luò)(NN)編譯器,,以及經(jīng)過優(yōu)化的庫和技術(shù),,幫助簡化并加快機器學(xué)習(xí)開發(fā)。從剛開始第一個深度學(xué)習(xí)項目的嵌入式開發(fā)人員,,到專注研究高級目標識別,、分類、異常檢測或語音識別解決方案的專家,,各種技能水平的用戶都可以使用eIQ,。
eIQ機器學(xué)習(xí)軟件于2018年推出,經(jīng)過不斷開發(fā),,可支持系統(tǒng)級應(yīng)用和機器學(xué)習(xí)算法實現(xiàn),,適用于恩智浦i.MX系列從低功耗i.MX RT跨界微控制器(MCU),到基于Arm? Cortex?-M和Cortex?-A內(nèi)核的多核i.MX 8和i.MX 8M應(yīng)用處理器,。
今日重大更新
為幫助機器學(xué)習(xí)開發(fā)人員更熟練高效地運用恩智浦i.MX 8處理平臺,,我們大力擴展了eIQ軟件環(huán)境,添加了全新eIQ Toolkit工作流程工具,、基于GUI的eIQ門戶開發(fā)環(huán)境,,以及針對i.MX和i.MX RT設(shè)備進行優(yōu)化的DeepViewRT?推理引擎,。
圖1. eIQ Toolkit和eIQ門戶特性與工作流程的簡要展示
下面詳細介紹eIQ軟件環(huán)境中,這些強大的新增工具如何幫助簡化機器學(xué)習(xí)開發(fā),,提高工作效率并為開發(fā)人員提供更多選項和更大的靈活性,。
eIQ Toolkit:實現(xiàn)“機器學(xué)習(xí)人人可用”
考慮到機器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)應(yīng)用的潛在復(fù)雜性以及機器學(xué)習(xí)開發(fā)人員的不同需求,,簡單的“萬能”工具并不能實現(xiàn)“人人可用”,。更好的方法是提供靈活的綜合工具套件,該套件應(yīng)該能夠擴展,,以滿足不同技能水平和經(jīng)驗水平的機器學(xué)習(xí)開發(fā)人員,。為此,我們在eIQ機器學(xué)習(xí)開發(fā)環(huán)境中添加了強大而易用的eIQ Toolkit,,使開發(fā)人員能夠?qū)霐?shù)據(jù)集和模型,,并跨恩智浦i.MX 8M應(yīng)用處理器系列和i.MX RT跨界MCU產(chǎn)品組合進行訓(xùn)練、量化,、驗證和部署神經(jīng)網(wǎng)絡(luò)模型與機器學(xué)習(xí)工作負載,。無論您是剛剛開始第一個機器學(xué)習(xí)項目的嵌入式開發(fā)人員,還是熟練的數(shù)據(jù)科學(xué)家或人工智能專家,,都能在該工具套件中找到與您的技能水平相對應(yīng)的功能,,來幫助簡化機器學(xué)習(xí)項目。
圖2. eIQ門戶提供數(shù)據(jù)集管理工具,,幫助您注釋并整理所有訓(xùn)練數(shù)據(jù)
eIQ Toolkit提供簡單的工作流程和機器學(xué)習(xí)應(yīng)用示例,。此外,該工具套件在eIQ門戶中提供一個基于GUI直觀開發(fā)選項,,您也可以根據(jù)自己的喜好選擇使用命令行主機工具,。如果您想要使用現(xiàn)成的開發(fā)解決方案,或是需要恩智浦及我們值得信賴的合作伙伴提供的專業(yè)服務(wù)與支持,,您可以通過該工具套件在eIQ市場中輕松訪問Au-Zone Technologies等公司提供的選項列表,該列表將不斷更新,。
圖3. eIQ門戶提供便捷的模型驗證和精度測量方法
通過eIQ門戶,,您可以輕松創(chuàng)建、優(yōu)化,、調(diào)試,、轉(zhuǎn)換并導(dǎo)出機器學(xué)習(xí)模型,也可以從TensorFlow,、ONNX和PyTorch機器學(xué)習(xí)框架中導(dǎo)入數(shù)據(jù)集和模型,。您可以通過“自帶數(shù)據(jù)” (BYOD)流程,使用自己的數(shù)據(jù)訓(xùn)練模型,從預(yù)訓(xùn)練模型數(shù)據(jù)庫中選擇模型,,或通過“自帶模型”(BYOM)流程導(dǎo)入預(yù)訓(xùn)練模型,,例如來自Au-Zone Technologies的高級檢測模型。通過遵循簡單的BYOM流程,,您可以使用基于公共云或私有云的工具構(gòu)建經(jīng)過訓(xùn)練的模型,,然后將模型傳輸?shù)絜IQ Toolkit中,以便在適當?shù)男酒瑑?yōu)化推理引擎上運行,。
圖4. eIQ門戶提供靈活的BYOM和BYOD方法
針對目標的圖形級別分析功能讓開發(fā)人員能夠在運行時深入了解運行情況,以便微調(diào)和優(yōu)化系統(tǒng)參數(shù),、運行時性能、內(nèi)存使用和在i.MX設(shè)備上執(zhí)行的神經(jīng)網(wǎng)絡(luò)架構(gòu),。
最新eIQ推理引擎,實現(xiàn)恩智浦提速發(fā)展
推理引擎是機器學(xué)習(xí)開發(fā)項目的核心,,也是機器學(xué)習(xí)應(yīng)用的運行時組件,。eIQ機器學(xué)習(xí)軟件開發(fā)環(huán)境支持使用針對Glow,、ONNX和TensorFlow Lite等i.MX設(shè)備和MCU進行優(yōu)化的各種基于社區(qū)的開源推理引擎進行推理,,除此之外,我們還為其添加了DeepViewRT推理引擎,。
DeepViewRT是恩智浦與合作伙伴Au-Zone Technologies聯(lián)合開發(fā)的專有推理引擎,,該引擎提供了長期穩(wěn)定的解決方案,由供應(yīng)商進行維護,,用于補充基于社區(qū)的開源引擎,。
圖5. DeepViewRT為機器學(xué)習(xí)應(yīng)用提供穩(wěn)定靈活的生產(chǎn)就緒型推理引擎
在恩智浦MCUXpresso SDK和Yocto BSP版本中,,DeepViewRT推理引擎可作為基于Linux?操作系統(tǒng)的開發(fā)的中間件,。
關(guān)于eIQ的更多優(yōu)勢
eIQ機器學(xué)習(xí)開發(fā)環(huán)境及所有必要的基準支持,包括全新eIQ Toolkit,、eIQ門戶和通過DeepViewRT實現(xiàn)的eIQ推理,,均無許可費。
在恩智浦機器學(xué)習(xí)/人工智能培訓(xùn)學(xué)院磨練技能
恩智浦的機器學(xué)習(xí)/人工智能培訓(xùn)學(xué)院針對與機器學(xué)習(xí)開發(fā)相關(guān)的各個主題提供自主學(xué)習(xí)模塊,,并提供有關(guān)結(jié)合使用eIQ工具與恩智浦i.MX和i.MX RT設(shè)備的最佳實踐,。機器學(xué)習(xí)/人工智能培訓(xùn)學(xué)院面向所有恩智浦客戶開放,提供一系列不斷擴展的培訓(xùn)模塊,,幫助您開始進行機器學(xué)習(xí)應(yīng)用開發(fā),。
立即開始使用eIQ機器學(xué)習(xí)軟件和工具
現(xiàn)在,單擊eIQ Toolkit即可下載包括eIQ門戶在內(nèi)的eIQ Toolkit。
當前的Yocto Linux版本支持eIQ機器學(xué)習(xí)軟件,,包括適用于i.MX應(yīng)用處理器的DeepView RT推理引擎,。適用于i.MX RT跨界MCU的eIQ機器學(xué)習(xí)軟件已完成集成到恩智浦的MCUXpresso SDK版本中。
作者介紹:
Ali Ors
恩智浦半導(dǎo)體邊緣處理部門人工智能機器學(xué)習(xí)戰(zhàn)略技術(shù)總監(jiān)
Ali在半導(dǎo)體行業(yè)擁有超過23年的經(jīng)驗,,擅長領(lǐng)導(dǎo)跨職能團隊來打造機器學(xué)習(xí)和視覺處理領(lǐng)域的創(chuàng)新產(chǎn)品和平臺,。他目前主要負責全球人工智能機器學(xué)習(xí)戰(zhàn)略。