多年來,,半導(dǎo)體行業(yè)一直致力于將越來越多的組件緊密的集成到單個(gè)片上系統(tǒng)中(SoC),。畢竟這對(duì)于龐大的應(yīng)用而言是非常實(shí)用的解決方案。通過優(yōu)化處理器的定位,,存儲(chǔ)器和外部設(shè)備芯片廠商能夠?qū)?shù)據(jù)路徑調(diào)整到最短,,從而提高功率效率并取得更高的性能,此外還能夠顯著的降低成本,。通過這些方法,,該行業(yè)已經(jīng)取得了巨大的成功,SoC幾乎是我們所有消費(fèi)電子產(chǎn)品的標(biāo)準(zhǔn)組件,。
AI作為一種標(biāo)準(zhǔn)
隨著更多的公司意識(shí)到利用神經(jīng)網(wǎng)絡(luò)處理各種任務(wù)(比如自然語(yǔ)言處理,、圖片識(shí)別分類)的巨大潛力,引入人工智能要素的產(chǎn)品數(shù)量也在穩(wěn)步增加,。與此同時(shí),,這些任務(wù)的處理過程正在從基于云的架構(gòu)遷移到本地終端設(shè)備來實(shí)現(xiàn),現(xiàn)在專用硬件神經(jīng)網(wǎng)絡(luò)加速器也已經(jīng)嵌入到SoC器件中。
AI正集成到更多的SoC器件中
從語(yǔ)音激活的消費(fèi)電子產(chǎn)品(比如虛擬助理)到高級(jí)的駕駛輔助系統(tǒng)(ADAS),,集成的神經(jīng)網(wǎng)絡(luò)人工智能(AI)所面臨的機(jī)會(huì)正在多個(gè)細(xì)分的市場(chǎng)中展開,,不可否認(rèn),人工智能(AI)被認(rèn)為是許多解決方案必不可少的要素,。
一種方法不能適用所有
然而,,盡管AI應(yīng)用程序的數(shù)量正在不斷增加,但這并不意味著集成有AI加速功能的SoC能夠適用所有的場(chǎng)景,。實(shí)際上,,如果我們考慮AI能夠覆蓋大多數(shù)的細(xì)分市場(chǎng),那么由于使用該技術(shù)的產(chǎn)品可能有很多不同的處理要求,,自然就會(huì)產(chǎn)生碎片化的差異,。細(xì)分的市場(chǎng)對(duì)于專用的SoC器件是一種挑戰(zhàn),因此“一刀切”通用的方案不再適用,。雖然一些市場(chǎng)(比如智能手機(jī),、ADAS)為SoC供應(yīng)商提供了大量的機(jī)會(huì),但是很多針對(duì)AI使用的市場(chǎng)目前仍然比較低迷,。例如某些產(chǎn)品可能需要AI進(jìn)行語(yǔ)音處理或圖像識(shí)別,,但不一定兩者都需要。同樣的智能家居供應(yīng)商認(rèn)為將傳統(tǒng)的智能手機(jī)SoC嵌入AI功能就集成到他們的產(chǎn)品中并不是很好的解決方案,,因?yàn)檫@不符合成本效益,。
認(rèn)識(shí)AI協(xié)同芯片
現(xiàn)在臺(tái)式機(jī)CPU和移動(dòng)SoC大多都采用多核芯片,因?yàn)樗鼈冹`活的可擴(kuò)展架構(gòu)使其能夠按需提供不同的性能,,AI“協(xié)同芯片”采用類似的方法,,它們不僅僅只被設(shè)計(jì)成一個(gè),而是多個(gè)計(jì)算GPU和神經(jīng)網(wǎng)絡(luò)加速器(NNA)來為特定的應(yīng)用提供足夠的性能,,同時(shí)確保對(duì)硅片尺寸進(jìn)行優(yōu)化,,將芯片的成本降至最低。這些處理器會(huì)緊挨著主應(yīng)用處理器(SoC)作為“協(xié)同芯片”,,承載主應(yīng)用處理器上的NNA內(nèi)核需要處理的AI推理任務(wù),。
現(xiàn)在SoC供應(yīng)商有機(jī)會(huì)創(chuàng)建一個(gè)傳統(tǒng)的通用應(yīng)用處理器,能夠經(jīng)濟(jì)高效的適用于多個(gè)市場(chǎng),,同時(shí)可以配套AI協(xié)同芯片來滿足一些特定應(yīng)用或小眾應(yīng)用對(duì)于AI功能的需求,。
從OEM廠商的角度來看,他們現(xiàn)在可以選擇適當(dāng)?shù)財(cái)U(kuò)展自己的產(chǎn)品解決方案,,這取決于他們期望在整個(gè)應(yīng)用方案中對(duì)于AI處理操作的開銷,。
一個(gè)AI處理器的例子:根據(jù)不同應(yīng)用NNA的數(shù)量可以靈活的增減
典型的協(xié)同AI SoC芯片包括負(fù)責(zé)內(nèi)部事務(wù)的通用控制CPU、用于高性能計(jì)算的GPU內(nèi)核(而不是專門用于處理圖形和3D變換操作)以及多個(gè)NNA(神經(jīng)網(wǎng)絡(luò)加速器),,根據(jù)不同的神經(jīng)網(wǎng)絡(luò)和推理引擎可靈活組合,,此外還可以根據(jù)不同的任務(wù)采用不同的精度,。舉個(gè)例子,在雙NNA系統(tǒng)中,,其中一個(gè)NNA可以用來執(zhí)行圖像識(shí)別任務(wù),,將結(jié)果傳遞給另一個(gè)NNA之前能夠識(shí)別出場(chǎng)景中的人臉部分,另一個(gè)NNA會(huì)將人臉部分劃分為單獨(dú)的特征從而識(shí)別出面部表情,。
另一個(gè)例子就是汽車,,對(duì)六核心的AI協(xié)同芯片進(jìn)行分區(qū),其中三個(gè)NNA(每個(gè)NNA負(fù)責(zé)不同的方面)用來識(shí)別道路上的標(biāo)志,,與此同時(shí)另外三個(gè)將專門負(fù)責(zé)行人檢測(cè),。NNA的數(shù)量和任務(wù)的分配是根據(jù)應(yīng)用的需求而確定的。這個(gè)概念可以擴(kuò)展到一系列專用的AI處理器,,每個(gè)處理器都會(huì)集成不同數(shù)量的NNA來滿足不同任務(wù)的性能需求,。
從云端到本地
我們已經(jīng)看到了部署在云端的專用AI芯片,比如谷歌公司推出的TPU,、微軟公司和英特爾合作的Brainwave項(xiàng)目采用Stratix FPGA作為解決方案,,現(xiàn)在這些主要用于AI的機(jī)器學(xué)習(xí)和算法的訓(xùn)練,。
典型的云端AI解決方案——太龐大了,!
然而并不是所有的設(shè)備都會(huì)連接到云服務(wù),面對(duì)眾多不用的市場(chǎng)應(yīng)用,,業(yè)界認(rèn)為至少可以把一些AI任務(wù)用本地設(shè)備自身來完成,,這么多市場(chǎng)需求非常的復(fù)雜,正如我們之前討論過的,,沒有完全通用的解決方案,。業(yè)界的所有供應(yīng)商都已經(jīng)開始利用神經(jīng)網(wǎng)絡(luò)來實(shí)現(xiàn)某些特殊的需求,而且向協(xié)同AI芯片的轉(zhuǎn)變有望成為AI處理解決方案又一令人興奮的一步,。
最終的結(jié)果是協(xié)同AI芯片可能會(huì)比我們預(yù)期的更加的普遍,,Imagination公司在半導(dǎo)體行業(yè)有著超過25年的處理器內(nèi)核創(chuàng)新經(jīng)驗(yàn),因此它無(wú)疑是這方面可靠的合作伙伴,。想要了解PowerVR高級(jí)GPU和神經(jīng)網(wǎng)絡(luò)加速器技術(shù)如何幫助你創(chuàng)建下一代AI SoC,,請(qǐng)?jiān)L問我們的網(wǎng)站或者聯(lián)系Imagination了解更多詳情。