今年8月,,有個消息轟動了中國科技界,,尤其是AI圈,。由中國科研團(tuán)隊研發(fā)的“天機(jī)”芯片登上了《自然》雜志封面,。相關(guān)文章展示了清華大學(xué)施路平團(tuán)隊研發(fā)的世界首款異構(gòu)融合類腦芯片,,它既可支持脈沖神經(jīng)網(wǎng)絡(luò)又支持人工神經(jīng)網(wǎng)路,,并且公布了利用“天機(jī)芯片”完成自行車自動駕駛的實驗視頻,。
這件事給投資界,、產(chǎn)業(yè)界的直接影響,是在近段時間“類腦芯片”和“類腦計算”相關(guān)的投融資,、并購與創(chuàng)業(yè)公司突然多了起來,。“類腦”相關(guān)的會議活動也突然增加,。雖然說“類腦熱”還遠(yuǎn)遠(yuǎn)談不上,,但這個領(lǐng)域的突然升溫卻是真實可見的。
如果我們把目光放得更遠(yuǎn)一點,,類腦芯片確實在這幾年有了大規(guī)模的爆發(fā),。各大學(xué)實驗室以及科技巨頭紛紛拿出了類腦芯片產(chǎn)品,也有不少專家學(xué)者認(rèn)為,,人工智能要經(jīng)歷簡單人工智能,、深度人工智能、通用人工智能三個階段,。而今天的深度學(xué)習(xí)代表了第二階段的開始,,類腦計算則是通用智能大門的鑰匙。
事已至此,,可能給大眾的感覺是,,類腦芯片已經(jīng)是注定的未來,人類已經(jīng)借由它找到了通向強(qiáng)人工智能的門徑,。
然而果真如此嗎,?類腦芯片是否就是AI的終極答案,今天還埋藏著太多不確定性,。而想要客觀認(rèn)識類腦芯片的未來,,我們可能必須要把時間倒回一些,先理解它的過去,。
一段人類認(rèn)識神經(jīng)與大腦的過去,。
神經(jīng)行為學(xué):AI之外的另一條路
從人類的大腦和智慧中,抽取提煉某種技術(shù),,是一件源遠(yuǎn)流長的工作,。能不能讓機(jī)械像人類一樣識別、判斷和思考,,最終發(fā)展出了今天的AI,。
而在另一項“兄弟研究”里,,卻一步步發(fā)展出了今天的類腦芯片——換言之,類腦芯片的起點某種程度上來說跟AI沒啥關(guān)系,。因為它類的是青蛙的腦,。
早在16世紀(jì),達(dá)芬奇就在手稿中分析過無頭青蛙也能活的現(xiàn)象,,某種程度上來說他發(fā)現(xiàn)了生物電和中樞神經(jīng)系統(tǒng)的秘密,。但是我們知道達(dá)芬奇手稿近世才被披露,所以這個發(fā)現(xiàn)就像他很多驚天發(fā)明一樣變成了“達(dá)芬奇的秘密”,。
1786年,,伽格尼發(fā)現(xiàn)了青蛙掛在金屬柵欄上腿會抽動的現(xiàn)象,繼而一步步建立了早期生物電學(xué),。沿著青蛙們以高貴犧牲精神開拓的道路,,人類逐漸發(fā)現(xiàn)了生物電和神經(jīng)系統(tǒng)的奧秘。即生物的神經(jīng)運轉(zhuǎn),,是依靠生物電刺激神經(jīng)元節(jié)點,,最終實現(xiàn)了大腦控制機(jī)體的網(wǎng)狀神經(jīng)結(jié)構(gòu)。
由這個結(jié)構(gòu)開始,,神經(jīng)學(xué)界很自然就會思考另一個問題:既然動物是依靠神經(jīng)元來傳遞信息,、進(jìn)行控制的,那么這種控制是如何發(fā)生的呢,?
圍繞這個問題,,人類在20世紀(jì)開始漫長的,對神經(jīng)傳遞,、神經(jīng)動力的研究,,并在1963年完成了神經(jīng)行為學(xué)的術(shù)語概念確認(rèn)。這個學(xué)科中,,研究者從生物,、解剖、神經(jīng)反射等多個角度提出了關(guān)于神經(jīng)元的行為學(xué)模型,。其中很多關(guān)于神經(jīng)元計算的討論,,甚至早于AI概念的提出。
我們知道,,今天人工神經(jīng)網(wǎng)絡(luò)是AI的基石,,但人工神經(jīng)網(wǎng)絡(luò)的提出,其實只是上世紀(jì)70年代,,AI和計算機(jī)學(xué)界對神經(jīng)元研究的一次借鑒,,主要是模仿了神經(jīng)元分層處理的特征。它的基礎(chǔ)還是坐落在統(tǒng)計學(xué)和控制論的概念上,。
但隨著AI和現(xiàn)代計算的不斷發(fā)展,,作為“兄弟學(xué)科”的神經(jīng)行為學(xué)自身也在進(jìn)步。于是就有人聯(lián)想到了,,能不能直接整體移植神經(jīng)元系統(tǒng),,在現(xiàn)實世界里,把類似動物大腦中神經(jīng)元行為的動力機(jī)制變成一種運算機(jī)制,?
之所以要這么干,,主要還是臨近21世紀(jì),人類發(fā)現(xiàn)馮諾依曼架構(gòu)不斷抵近極限,。一種從根兒上不同于經(jīng)典計算的計算架構(gòu),,或許是最一勞永逸的解決辦法。量子計算是一種解決方式,,而全仿生神經(jīng)元行為學(xué)的解決方案則是另一種——這一種在大部分時候就被簡稱為類腦計算,。
事實上,類腦計算中除了神經(jīng)元行為學(xué)的仿生計算,,也還要其他計算方式,。但今天,毫無疑問模仿神經(jīng)元行為是最成功的一種,,于是我們今天看到的二者大體是可以劃等號的,。
畢竟人腦肯定是最好的計算機(jī),加上想發(fā)展AI,,那么類似人腦結(jié)構(gòu)的計算方式顯然極具魅惑,。于是類腦計算在眾多新計算形式中天然占據(jù)著加分項,而又過了幾十年,,摩爾定律的極限愈發(fā)明顯的今天,,類腦計算也確實拿出了一些成績。
類腦計算:比特之外的另一條路
想要了解芯片化的類腦計算之前,,我們還要先了解兩個東西:SNN和人造突觸,。
上面咱們說過了,人工神經(jīng)網(wǎng)絡(luò)(ANN),,本質(zhì)上還是一種基于統(tǒng)計學(xué)遞歸原理所構(gòu)建的計算架構(gòu),。那么想要搞類腦計算,就需要一種更仿生大腦神經(jīng)元運作的計算架構(gòu),。這種架構(gòu)應(yīng)該體現(xiàn)出人腦計算的高效,、精準(zhǔn)和連續(xù)性,從而對存儲分離的馮諾依曼架構(gòu)提出挑戰(zhàn),。
是不是有這種東西呢,?還真有。
這就是今天類腦芯片們的基礎(chǔ)檢驗標(biāo)準(zhǔn):脈沖神經(jīng)網(wǎng)絡(luò)SNN,。1952年,,發(fā)現(xiàn)了神經(jīng)學(xué)的功能的離子學(xué)說和突觸電位的諾貝爾醫(yī)學(xué)獎得主,,艾倫·勞埃德·霍奇金爵士提出了脈沖神經(jīng)網(wǎng)絡(luò)這種神經(jīng)行為學(xué)模型。
SNN的價值在于,,它描述了神經(jīng)元之間的電位是如何產(chǎn)生和流動的,,它認(rèn)為神經(jīng)元之間的交換主要靠“神經(jīng)遞質(zhì)”來產(chǎn)生化學(xué)放電,從而在神經(jīng)網(wǎng)絡(luò)中實現(xiàn)復(fù)雜和可變的神經(jīng)系統(tǒng)交互,。
這一發(fā)明來到了計算世界,,就變成了一種高度模仿神經(jīng)元的計算架構(gòu)。它用發(fā)生脈沖的仿生來模擬神經(jīng)元電位,,構(gòu)成了一種獨特的網(wǎng)絡(luò)結(jié)構(gòu),。 今天,SNN已經(jīng)在很多領(lǐng)域,,比如低功耗和通用處理能力證明了自己的優(yōu)秀,。
但是對于很多說SNN一定是ANN的進(jìn)化,是下一代神經(jīng)網(wǎng)絡(luò),,這個說法有失偏頗,。事實上,SNN的出現(xiàn)并不比ANN晚,。說白了要有用早就用了,,真正讓它停留在實驗室中的,還是缺乏實際的任務(wù)處理能力,。但就像大規(guī)模并行計算重新激活了沉睡幾十年的ANN一樣,,SNN的未來誰又說得準(zhǔn)呢?
類腦計算的另一個關(guān)鍵點,,是計算節(jié)點的問題,。我們知道,比特計算的節(jié)點是晶體管的導(dǎo)電開關(guān),。而類腦計算則要求模擬出與人類神經(jīng)元相似的計算節(jié)點,,來實現(xiàn)非比特計算的另一條路。這也就是說,,我們需要人造神經(jīng)突觸,。
今天關(guān)于如何模擬,或者制造人工突觸,,已經(jīng)有相當(dāng)多的探索,。但整體而言新材料還有這樣那樣的問題,能夠量產(chǎn)的類腦芯片,,基本還是用電路模擬人造突觸的方式來實現(xiàn)類腦計算,。這樣做對工藝要求很高,生產(chǎn)效率地下,其實并非長久之計,。
沿著這兩條路,,人類慢慢就摸到了類腦芯片的大門。
2011年,,IBM發(fā)布了TrueNorth芯片,,這也是人類用電路模擬神經(jīng)行為學(xué)的開端,。2014年TrueNorth更新了第二代,,功耗達(dá)到了平方厘米消耗 20 毫瓦,印證了類腦芯片的低功耗價值,,也在一些AI任務(wù)上印證了類腦芯片的實際工作能力,。
而緊隨其后的,想想也知道應(yīng)該是英特爾,。2017年,,英特爾發(fā)布了類腦芯片Loihi,其擁有13萬個人造突觸,。今年7月,,英特爾發(fā)布了號稱業(yè)界首個大規(guī)模神經(jīng)形態(tài)計算系統(tǒng)Pohoiki Beach。這個系統(tǒng)由64塊Loihi組合而成,,已經(jīng)可以在自動導(dǎo)航,、陸續(xù)規(guī)劃等需要高效執(zhí)行的AI任務(wù)中帶來高于GPU的功耗和處理能力。
除此之外,,業(yè)界比較出名的類腦芯片還有高通的Zeroth,,以及一些高校實驗室和創(chuàng)業(yè)公司發(fā)明的芯片。吃瓜群眾一致表示,,這個場子現(xiàn)在就缺谷歌了,。
事實上,某種程度上看2019年是類腦芯片爆發(fā)應(yīng)用潛力的一年,。無論是中國的天機(jī),,還是英特爾和IBM的類腦芯片,都已經(jīng)在今天被證明了在低功耗和超高速反應(yīng)上,,具有值得期待的效果,。這可能給AI領(lǐng)域的一些相關(guān)任務(wù),比如非監(jiān)督學(xué)習(xí),、快速定位,、路徑規(guī)劃上帶來幫助。
但是客觀來說,,類腦芯片并不是完全成熟的,。雖然主流科技公司紛紛布局,中國浙大的“達(dá)爾文”芯片、清華的“天機(jī)”芯片都已經(jīng)在路上,。但類腦芯片距離真正確立產(chǎn)業(yè)價值,,從實驗室步入現(xiàn)實世界,還有很長的路要走,。
已知的,,未知的:類腦芯片的今天
類腦芯片到底是什么?是人類的朗基努斯槍,,還是唐·吉歌德面向風(fēng)車的宣言,?或許我們真的沒有必要在今天就給出答案。計算史上從來不是每一次嘗試都必須成功,,同時很多失敗也具有偉大的價值,。
綜合來看,今天類腦芯片的發(fā)展至今,,已經(jīng)可以明確它的幾大優(yōu)勢和特性,,也就是類腦芯片的光明面:
1、像人腦一樣的存算一體,,打破了存儲計算分離的架構(gòu),,這是類腦計算的核心突破。
2,、功耗極低,,并且不會因計算任務(wù)的架構(gòu)復(fù)雜化而功耗激增。這終于讓計算耗電和散熱兩大難題找到了新的方向,。
3,、可能更適合SNN代表的類神經(jīng)元計算架構(gòu),在未來AI發(fā)展之路上想想無限,。并且具備架構(gòu)靈活,,陣列化計算效率不衰減等等優(yōu)點。
當(dāng)然,,最根本的優(yōu)勢在于,,類腦計算可以繞開比特編程和摩爾定律。在算力極限面前,,是跟量子計算一樣都是人類的主要救生船,。
但是光明面的背后當(dāng)然就是陰影,也要確實看到的是,,類腦芯片在今天還有極大的不確定性,,尤其是有一些基礎(chǔ)問題無從解答。
比如類腦芯片的任務(wù)性處理能力差,、算力水平過低,。第一代TrueNorth甚至無法處理任何有價值的任務(wù)。雖然經(jīng)過幾年的發(fā)展,類腦計算可以處理的任務(wù)越來越多,,但是要看到這些任務(wù)都有嚴(yán)苛的先決條件,。對于絕大部分計算目標(biāo)來說,類腦芯片都表示帶不動,。
另一方面,,用電子電路模擬人造突觸,是極其不劃算的一件事,。它要花費極高的工藝與技術(shù)成本,,來實現(xiàn)效率并不高的神經(jīng)元模擬。所以面向未來,,更多人認(rèn)為一定要找到可以代替經(jīng)晶體管的,,屬于類腦計算的新材料——但是這個材料是什么,如何才能做到像硅晶片一樣便宜,,今天都是未知數(shù)。
另一方面,,適配類腦計算的架構(gòu),、算法、編程方案等等也處在廣泛的空白期,??傮w來看,類腦芯片今天就像一片新的開發(fā)區(qū),,附近有機(jī)場,,有鐵路,但其他東西都還停留在開發(fā)方案上,。
尤其在我們身邊,,還要特別警惕一件事,那就是類腦芯片虛假繁榮帶來的危險,。AI火了之后,,更未來更AI的技術(shù)成為投融資與政府扶持熱點,是一件很自然的事,。但類腦計算和類腦芯片,,事實上還有非常遠(yuǎn)的路要走。今天在產(chǎn)業(yè)中討論它,,很多時候都是漫無邊際的非理性暢想,。
筆者曾經(jīng)參加過一些地方產(chǎn)業(yè)組織牽頭舉辦的類腦芯片活動,現(xiàn)場討論莫衷一是,,產(chǎn)學(xué)各界代表完全沒有在統(tǒng)一的技術(shù)邏輯上展開對話,。亂拳打死老師傅模式的盲目發(fā)展類腦,很可能最終留下“遇事不決,量子力學(xué)”般的一攤漿糊,。
回到類腦芯片的真實發(fā)展路徑,,今天的類腦芯片,本質(zhì)上還處在有太多不確定性的實驗室探索階段,。它的進(jìn)步在真實發(fā)生,,中國也確實站在非常具有想象力的起跑線上,但想讓類腦芯片為世界貢獻(xiàn)些什么,,我們可能還要拿出更多,,更多的,以及更多的耐心,。
不知道大家看過電影《富春山居圖》沒有,?那是一部劃時代的爛片,但它主題曲的幾句歌詞,,非常適合放在這里作為結(jié)尾:
“反正你的親吻無憑無證
就隨天機(jī)而死天意而生
只要答案,,不要問”
作者:腦極體