《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 模擬設(shè)計 > 業(yè)界動態(tài) > 光神經(jīng)網(wǎng)絡(luò):正在照亮智能計算的未來

光神經(jīng)網(wǎng)絡(luò):正在照亮智能計算的未來

2019-05-17

如果問一個問題——能夠進行深度神經(jīng)網(wǎng)絡(luò)計算的芯片有哪些,?大家給出的答案可能五花八門:CPU、GPU,、DSP,、NPU……

過去幾年里,電子計算已經(jīng)成為實現(xiàn)人工智能算法——尤其是深度神經(jīng)網(wǎng)絡(luò)模型——最重要的算力支撐,。盡管具體的硬件架構(gòu)各有不同,,但一言以蔽之,都是采用了馮諾依曼型的計算原理,,即VLSI(超大規(guī)模集成電路)的“電子+邏輯”信息處理模式,,以復(fù)雜的邏輯電路和處理器芯片來完成計算任務(wù)。

但是電子方法有其先天缺陷:一是信號之間容易相互干擾,,對需要高密度連接的神經(jīng)網(wǎng)絡(luò)帶來一定的困難,;二是能源需求太高,導(dǎo)致計算成本居高不下,。

在以AI為主旋律的“數(shù)字基建”大規(guī)模爆發(fā)前夜,,在算力上未雨綢繆,,自然也就成了學(xué)術(shù)界和產(chǎn)業(yè)界共同關(guān)注的頭等大事。

最近,,明斯特大學(xué),、牛津大學(xué)和埃克塞特大學(xué)的研究人員就共同實現(xiàn)了一項新的計算芯片,,采用光學(xué)系統(tǒng)來幫助神經(jīng)網(wǎng)絡(luò)進行“學(xué)習(xí)”,,以此實現(xiàn)計算、識別等行為,。

不過,,無論是光學(xué)計算,還是類腦芯片,,類似的提法其實在學(xué)界早已有之,,并且由于自身的局限性一直進展緩慢。那么,,光學(xué)深度學(xué)習(xí)芯片的出現(xiàn),,是否真的突破了先天的技術(shù)桎梏,又意味著哪些新的產(chǎn)業(yè)機遇呢,?

光學(xué)計算+深度神經(jīng)網(wǎng)絡(luò)的

“攪和”歷史

在介紹新計算硬件之前,,先言簡意賅地解答一下大家心中可能存在的困惑——光到底是如何進行計算的?又為什么比電子方法更有優(yōu)勢呢,?

我們知道,,深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)是模仿人類大腦神經(jīng)元的運行方式而來的。在每一層中,,來自上一層(或者輸入源)的信號經(jīng)由神經(jīng)元處理,,將結(jié)果和前向信號傳遞給下一層的神經(jīng)元。

1557969616525025166.jpg

很顯然,,這種計算方式需要依賴神經(jīng)元之間的大量,、動態(tài)的連接才能完成,會對大多數(shù)使用電子方法的集成電路造成壓力,。

因此,,大家紛紛開始研究其他硬件,光學(xué)芯片因此成為“全村的希望”,。

2017年,,MIT的研究人員就研發(fā)出了一種使用光子技術(shù)實現(xiàn)神經(jīng)網(wǎng)絡(luò)的方法。他們使用一系列相互連接的波導(dǎo)管(傳輸微波波段的電磁波裝置),,來為特定的計算編程,。而處理器則通過一系列耦合光子波導(dǎo)來引導(dǎo)光線,因此只需要運用鏡片改變光線的方向,,就可以達成運算,。

可編程、低能耗,,聽起來是不是棒棒噠,?不過這種方式打造的硬件準確率實在是不太令人滿意,只有77%,,被傳統(tǒng)方法吊打的節(jié)奏啊,。

不過科學(xué)家們并沒有認輸,2018年加州大學(xué)洛杉磯分校的科學(xué)家們又將光學(xué)深度學(xué)習(xí)送上了《Science》雜志,。

這次,,科學(xué)家們采用3D 打印的方式制造出了一種全光學(xué)的深度學(xué)習(xí)框架D2NN。

簡單來說,,研究人員訓(xùn)練出了能夠識別不同數(shù)據(jù)類型的光學(xué)網(wǎng)絡(luò)模型,,并為它們分別創(chuàng)建了模型,該模型由多個像素層組成,,每個像素之間如同神經(jīng)元一樣進行連接,,并通過光來傳輸信息。

然后,,研究人員采用五層 3D 打印塑料對仿真模型進行物理再現(xiàn),,固態(tài)成品的探測器就可以通過物體表面反射的光來判斷出相應(yīng)的分類結(jié)果。

這種由光學(xué)元件堆疊而成的神經(jīng)網(wǎng)絡(luò)硬件,,準確率能達到 91.75%,,成本相對便宜,但是卻很難做到器件的小型化,,難以處理復(fù)雜的數(shù)據(jù)及圖像分析,,而且所有參數(shù)3D打印之后就不能被再次編程了。

1557969616594072386.jpg

(使用 3D 打印的“人工神經(jīng)網(wǎng)絡(luò)”芯片)

總結(jié)一下就是,,此前的研究都對光學(xué)計算+神經(jīng)網(wǎng)絡(luò)的解決方案提出了自己的方法,,但帶來的問題多于答案,科學(xué)家們不得不繼續(xù)探索,。

全光學(xué)神經(jīng)突觸系統(tǒng):

能否刷新光學(xué)計算的進程,?

5月8日,來自德國明斯特大學(xué)的科學(xué)家將其研究成果發(fā)布在了《Nature》雜志上,。

論文《All-optical spiking neurosynaptic networks with self-learning capabilities》(具有自學(xué)習(xí)功能的全光學(xué)尖峰神經(jīng)突觸網(wǎng)絡(luò)),,提出了一種可以在毫米級光子芯片上實現(xiàn)的全光學(xué)神經(jīng)網(wǎng)絡(luò)。

研究人員是這么設(shè)想的:

輸入的數(shù)據(jù)(即光波導(dǎo))可以被微米級環(huán)狀諧振器調(diào)制成不同的波長,,然后注入網(wǎng)絡(luò)并停留在光學(xué)微芯片上,。接著利用集成在一起的相變材料,來實現(xiàn)權(quán)重調(diào)制,這種物質(zhì)可以由光觸發(fā)顯著的變化,,非常適合模擬突觸和神經(jīng)元之間的“沖動”,。

信息在光學(xué)神經(jīng)網(wǎng)絡(luò)中的傳輸,就好像是兩組人(單個波導(dǎo)的兩條路徑)同時在玩?zhèn)髀曈螒?,需要隔的距離比較遠,,來防止另一個組的聲音干擾(耦合)。同時還不能有人亂開腦洞急轉(zhuǎn)彎,,免得傳話內(nèi)容南轅北轍(光離開波導(dǎo)),。

因此,在每個組的傳話過程中,,都派出一個小秘書(相變材料),,根據(jù)每組任務(wù)(權(quán)重)的不同,在每次傳遞過程中(微環(huán)諧振器的入口和出口處),,對隊員們向下傳遞的信息進行微調(diào),,將被傳錯/修改的信息復(fù)位,這樣就能最大限度地保證每個隊伍向后傳遞的信息,,既能保持差異,,又足夠準確。

為了證明這一點,,研究人員開發(fā)了一個由四個人工神經(jīng)元和60個突觸組成的芯片,。

芯片的結(jié)構(gòu)由不同的層組成,分別在光納米電路中的不同通道上傳輸光,。

1557969616629090916.jpg

(分子光學(xué)神經(jīng)元電路)

研究人員使用了兩種不同的機器學(xué)習(xí)算法,,分別是小規(guī)模的監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí),以光脈沖的形式向后“提供”信息,,以此測試全光學(xué)神經(jīng)突觸系統(tǒng)能否根據(jù)給定的光識別出具體的模式,。

目前,研究人員已經(jīng)利用該技術(shù)成功實現(xiàn)了光學(xué)模式識別,,并展現(xiàn)了光子神經(jīng)網(wǎng)絡(luò)的可擴展性,。

在此,我們可以簡單總結(jié)一下這種新光學(xué)神經(jīng)網(wǎng)絡(luò)硬件的特殊之處:

首先,,它解決了前輩們沒能解決的問題——光學(xué)計算在識別準確率,、可編程性、微型化上的缺陷——讓光學(xué)計算在計算機硬件領(lǐng)域的潛力帶來了新的前景,。

1557969616758066545.jpg

(正在開發(fā)的光學(xué)微芯片大約只有一分錢大?。?/p>

另外,該硬件的計算方式和大腦中神經(jīng)元突觸的信息傳遞高度相似,,不僅使得信息(數(shù)據(jù))得以在人工神經(jīng)網(wǎng)絡(luò)中傳輸,,還能夠進行有效的處理和存儲,。以更類似于大腦的方式處理信息,這有助于開發(fā)更高性能的算法,,進而幫助智能機器更好地完成現(xiàn)實世界的任務(wù),。

而且,該系統(tǒng)只在光下工作,,使它充分發(fā)揮了光學(xué)計算的優(yōu)勢,,處理數(shù)據(jù)的速度要快很多倍,更適合用于一些大規(guī)模數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò),,比如醫(yī)學(xué)診斷模型等。并且更加節(jié)省能耗,。

這也就不難理解,,為什么有人認為,如果高能效的可擴展光子神經(jīng)芯片最終出現(xiàn),,這一團隊的研究絕對算是開山之作了吧,。

當然,想要讓可擴展光子神經(jīng)網(wǎng)絡(luò)系統(tǒng)在現(xiàn)實中應(yīng)用,,還需要做許多后續(xù)工作,。

最首要的,就是增加人工神經(jīng)元和突觸的數(shù)量,,以及神經(jīng)網(wǎng)絡(luò)的深度,,以便進一步接近和適應(yīng)真實的大規(guī)模計算應(yīng)用場景。

另外,,芯片的制造也存在一定的限制,。對此,??巳卮髮W(xué)的戴維·賴特教授表示,,將使用硅技術(shù)來生產(chǎn)光學(xué)納米芯片。

另一個值得關(guān)注的問題是,,系統(tǒng)中極為關(guān)鍵的相變材料,,其結(jié)晶速度會吸收并減慢光速,從而限制神經(jīng)元被激發(fā)的最大速率,,對于光的交叉耦合帶來一定的復(fù)雜影響,。因此,每一次注入該系統(tǒng)的總光學(xué)功率都需要進行仔細校準,,以保證材料對輸入信號的響應(yīng)完全符合預(yù)期,。

不管怎么說,盡管光學(xué)計算硬件仍然在實現(xiàn)層面面臨著許多挑戰(zhàn)和困難,,規(guī)?;瘧?yīng)用也沒有明確的時間表。但或多或少讓我們看到了更多有趣可行的計算方式,未來世界的算力資源依舊是充沛和值得期待的,。

隨著智能基建的一步步添磚加瓦,,光學(xué)計算必將變得越來越重要。

文 | 腦極體


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章,、圖片,、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權(quán)者,。如涉及作品內(nèi)容,、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,,以便迅速采取適當措施,,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118,;郵箱:[email protected],。