現(xiàn)階段,,發(fā)展人工通用智能的方法主要有兩種:一種是以神經(jīng)科學(xué)為基礎(chǔ),,盡量模擬人類大腦;另一種是以計(jì)算機(jī)科學(xué)為導(dǎo)向,讓計(jì)算機(jī)運(yùn)行機(jī)器學(xué)習(xí)算法,。二者各有優(yōu)缺點(diǎn),目前將兩者融合被公認(rèn)為最佳解決方案之一,。發(fā)展一個二者融合的計(jì)算平臺將是推動融合的一個關(guān)鍵,。近日,清華大學(xué)在該領(lǐng)域研究取得新的突破:全球首款異構(gòu)融合類腦計(jì)算芯片——“天機(jī)芯”推出,, 由該芯片驅(qū)動的的“無人駕駛自行車”登上了最新一期Nature封面,!
這項(xiàng)研究由依托精密儀器系的清華大學(xué)類腦計(jì)算研究中心施路平教授團(tuán)隊(duì)進(jìn)行,演示了一輛由新型人工智能芯片驅(qū)動的自動駕駛自行車,。 基于此研究成果的論文“面向人工通用智能的異構(gòu)天機(jī)芯片架構(gòu)”(Towards artificial general intelligence with hybrid Tianjic chip architecture)作為封面文章登上了8月1日《自然》(Nature),,實(shí)現(xiàn)了中國在芯片和人工智能兩大領(lǐng)域《自然》論文零的突破。
這種混合芯片被命名為“天機(jī)芯”(Tianjic),,有多個高度可重構(gòu)的功能性核,,可以同時支持機(jī)器學(xué)習(xí)算法和現(xiàn)有類腦計(jì)算算法。研究人員用一個自動行駛自行車系統(tǒng)驗(yàn)證了這一混合芯片的處理能力,。這是一個異構(gòu)可擴(kuò)展人工通用智能開發(fā)演示平臺,,利用一塊天機(jī)芯片,,展示了自行車的自平衡、動態(tài)感知,、目標(biāo)探測,、跟蹤、自動避障,、過障,、語音理解、自主決策等功能,。
試驗(yàn)中,,無人自行車不僅可以識別語音指令、實(shí)現(xiàn)自平衡控制,,還能對前方行人進(jìn)行探測和跟蹤,,并自動避障。施路平教授表示,,這只是非常初步的一個研究,,但這項(xiàng)研究或能為面向人工通用智能計(jì)算平臺的進(jìn)一步發(fā)展起到促進(jìn)作用。
一般認(rèn)為,,實(shí)現(xiàn)通用人工智能(AGI)有兩條路:分別為計(jì)算機(jī)科學(xué)導(dǎo)向和神經(jīng)科學(xué)導(dǎo)向,。由于這兩條路的思路、理念和實(shí)現(xiàn)方案存在根本差異,,分別依賴于不同開發(fā)平臺,,彼此互不兼容,這給AGI技術(shù)的開發(fā)造成很大阻礙,。目前迫切需要一個同時支持兩種方法的通用平臺,。施路平團(tuán)隊(duì)開發(fā)的“天機(jī)芯”(Tianjic芯片)就做到了這一點(diǎn),可以為AGI技術(shù)提供一個混合協(xié)同的開發(fā)平臺,。
圖1 Tianjic芯片和測試板
Tianjic芯片采用眾核架構(gòu),、可重構(gòu)功能核模塊和混合編碼方案的類數(shù)據(jù)流控制模式,不僅可以適應(yīng)基于計(jì)算機(jī)科學(xué)的機(jī)器學(xué)習(xí)算法,,還可以輕松實(shí)現(xiàn)受大腦原理啟發(fā)的神經(jīng)計(jì)算模型和多種編碼方案,。
圖2 天機(jī)異構(gòu)融合類腦計(jì)算架構(gòu)
僅用一個芯片,就可以在無人駕駛自行車系統(tǒng)中同時處理多種算法和模型,,實(shí)現(xiàn)實(shí)時目標(biāo)檢測,、跟蹤,、語音控制,、避障和平衡控制。這一研究預(yù)計(jì)可以為通用性更高的硬件平臺發(fā)展開拓新的道路,,促進(jìn)AGI技術(shù)的開發(fā),。
鑒于目前機(jī)器學(xué)習(xí)和神經(jīng)科學(xué)的進(jìn)步,,AGI系統(tǒng)至少應(yīng)具有以下特征:
(1)能夠支持在神經(jīng)網(wǎng)絡(luò)中進(jìn)行豐富的空間、時間和時空關(guān)系的表達(dá),。
(2)支持分層,、多粒度和多域網(wǎng)絡(luò)拓?fù)浼軜?gòu),不限于某一專門的網(wǎng)絡(luò)結(jié)構(gòu),。
(3)支持各種模型,,算法和編碼方案。
(4)支持多個專用神經(jīng)網(wǎng)絡(luò)的交織合作,,這些神經(jīng)網(wǎng)絡(luò)可能是為并行處理不同任務(wù)而設(shè)計(jì)的,。
這些特征需要在一個通用化的平臺中高效地運(yùn)行,即能夠在統(tǒng)一框架中實(shí)現(xiàn)對主流的人工神經(jīng)網(wǎng)絡(luò)(ANN)以及受神經(jīng)科學(xué)啟發(fā)的模型和算法的支持,。
圖3 實(shí)現(xiàn)AGI開發(fā)的混合路線
為了支持這些功能,,團(tuán)隊(duì)開發(fā)了一種跨范式計(jì)算平臺,可以適應(yīng)面向計(jì)算機(jī)科學(xué)和神經(jīng)科學(xué)的神經(jīng)網(wǎng)絡(luò)(圖3),,兼容各種神經(jīng)模型和算法,,尤其是基于生物學(xué)的(如脈沖神經(jīng)網(wǎng)絡(luò),即SNN)要素,。通常,,ANN和SNN在信息表示、計(jì)算原理和記憶組織方面具有不同的建模方式(如圖4a所示),。二者最大的差異是,,ANN以精確的多位值來處理信息,而SNN使用二進(jìn)制脈沖序列,。ANN神經(jīng)元和SNN神經(jīng)元之間的實(shí)現(xiàn)比較如圖4b所示,。
另一方面,ANN和SNN神經(jīng)元之間也存在一些相似之處,,這就為模型間的融合留下了空間,。通過對ANN和SNN的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行詳細(xì)比較,將計(jì)算模型解析并對應(yīng)到相關(guān)的神經(jīng)元功能模塊上 - 即軸突,、突觸,、樹突和胞體,從而構(gòu)建一個跨范式的統(tǒng)一神經(jīng)元方案(如圖4c所示),。團(tuán)隊(duì)設(shè)計(jì)了同時適用兩種方案的突觸和樹突,,而軸突和體細(xì)胞通過獨(dú)立重構(gòu)來改變功能。
圖4 Tianjic芯片設(shè)計(jì)示意圖
圖4d是一個完整的單功能核(FCore)示意圖,,包括軸突,、突觸、樹突,、胞體和路由部分,。為了實(shí)現(xiàn)深度融合,,幾乎整個FCore都可以重新配置,以便在不同模式下實(shí)現(xiàn)高利用率,。FCore能夠涵蓋大多數(shù)ANN和SNN使用的線性積分和非線性變換操作,。該芯片上的FCores以二維2D網(wǎng)格方式排列,如圖2e和2f所示,。
Tianjic芯片和其后端布局圖如圖5a所示,。芯片由156個FCore組成,包含大約40000個神經(jīng)元和1000萬個突觸,。Tianjic芯片采用28納米半導(dǎo)體工藝制造,,面積為3.8×3.8平方毫米。每個獨(dú)立模塊占用的芯片面積,,包括軸突,,電流,信號,,路由器,,控制器和其他芯片開銷,如圖5b所示,。由于資源可以重復(fù)使用,,用以兼容SNN和ANN模式的區(qū)域僅占總面積的3%左右。FCore的功耗分解如圖3c所示,。
圖5 芯片評估和建模摘要示意圖
Tianjic能夠支持多種神經(jīng)網(wǎng)絡(luò)模型,,包括基于神經(jīng)科學(xué)的網(wǎng)絡(luò)(如SNN,以及基于生物學(xué)啟發(fā)的神經(jīng)網(wǎng)絡(luò))和基于計(jì)算機(jī)科學(xué)的網(wǎng)絡(luò)(如MLP,,CNN和RNN等),。圖3d所示為在Tianjic芯片上測試不同網(wǎng)絡(luò)模型與通用處理單元的測試結(jié)果。
如圖5e所示,,具有樹突中繼的混合神經(jīng)網(wǎng)絡(luò)可突破傳統(tǒng)神經(jīng)形態(tài)芯片F(xiàn)an in/fan out的限制,,避免SNN網(wǎng)絡(luò)的精度損失(+11.5%)。采用這種混合模式增加的額外開銷小到可以忽略不計(jì),,因?yàn)門ianjic可以自然地在FCore中實(shí)現(xiàn)異構(gòu)轉(zhuǎn)換,。使用Tianjic還可以探索更具生物學(xué)意義的認(rèn)知模型(如圖3f所示)。
為了證明構(gòu)建類腦跨范式智能系統(tǒng)的可行性,,團(tuán)隊(duì)利用無人駕駛自行車發(fā)展了一個異構(gòu)可擴(kuò)展人工通用智能開發(fā)展示平臺,,在一塊Tianjic芯片內(nèi)并行部署并同時運(yùn)行多個專用網(wǎng)絡(luò)。實(shí)驗(yàn)中的自行車配備了多種算法和模型,,能夠執(zhí)行實(shí)時物體檢測,、跟蹤,語音命令識別、加速,、減速,、躲避障礙,、控制平衡和決策等任務(wù),。
要實(shí)現(xiàn)這些任務(wù),需要克服三個主要挑戰(zhàn):首先,,在室外自然環(huán)境中成功檢測并平滑跟蹤移動目標(biāo),、跨越減速帶,并在必要時自動避開障礙物,。第二,,需實(shí)時響應(yīng)平衡控制、語音命令和視覺感知產(chǎn)生實(shí)時電機(jī)控制信號,,以保持自行車在正確的方向上運(yùn)動,。第三,實(shí)現(xiàn)多種信息的集成處理和快速決策,。
圖6:基于Tianjic芯片多模型整合平臺的無人駕駛自行車各項(xiàng)測試結(jié)果
為了完成這些任務(wù),,團(tuán)隊(duì)開發(fā)了幾個神經(jīng)網(wǎng)絡(luò),包括用于圖像處理和物體檢測的CNN,,用于人類目標(biāo)跟蹤的CANN,,用于語音命令識別的SNN,用于姿態(tài)平衡和方向控制的MLP,,還有用于決策控制的混合網(wǎng)絡(luò),。
由于芯片的分散式架構(gòu)和任意路由拓?fù)洌琓ianjic芯片平臺可以實(shí)現(xiàn)所有神經(jīng)網(wǎng)絡(luò)模型的并行化運(yùn)行,,并實(shí)現(xiàn)多個模型之間的無縫通信,,使自行車能夠順利完成這些任務(wù)。圖6c顯示響應(yīng)不同語音命令的輸出信號,。
圖6d顯示自行車在跟蹤,、避障和和“S形”曲線行進(jìn)時的輸出控制信號。圖6e為基于物理量度的不同速度下的車輛姿態(tài)和轉(zhuǎn)向控制的學(xué)習(xí)情況,。
Tianjic芯片可以同時支持基于計(jì)算機(jī)科學(xué)的機(jī)器學(xué)習(xí)算法和基于神經(jīng)科學(xué)的生物學(xué)模型,,可以自由地集成各種神經(jīng)網(wǎng)絡(luò)和混合編碼方案,實(shí)現(xiàn)多網(wǎng)絡(luò)之間的無縫通信,,包括SNN和ANN,。
本文介紹了一種新穎的類腦計(jì)算的芯片架構(gòu),通過將交叉范式模型和算法集成到一個平臺上來實(shí)現(xiàn)靈活性和擴(kuò)展性,。希望這一研究成果能夠加速AGI的發(fā)展,,推動新的實(shí)際應(yīng)用的發(fā)展。