《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > 清華首次提出「類腦計算完備性」及計算系統(tǒng)層次結(jié)構(gòu),登上Nature

清華首次提出「類腦計算完備性」及計算系統(tǒng)層次結(jié)構(gòu),,登上Nature

2020-10-15
來源:機(jī)器之心
關(guān)鍵詞: 人工智能 腦計算 自然

  自「天機(jī)」登上《自然》封面一年多以來,,這已是清華大學(xué)的類腦計算研究最近第三次被自然雜志收錄。

  10 月 14 日,,在最新一期《自然》雜志上,,出現(xiàn)了一項類腦計算體系結(jié)構(gòu)的突破性進(jìn)展。

  來自清華大學(xué),、北京信息科學(xué)與技術(shù)國家研究中心,、美國特拉華大學(xué)(University of Delaware)科研團(tuán)隊的研究者在論文《A system hierarchy for brain-inspired computing》(一種類腦計算系統(tǒng)層次結(jié)構(gòu))中提出了「類腦計算完備性」(neuromorphic completenes)概念。該研究被認(rèn)為會加速類腦計算,,及通用人工智能等方向的研究,。

  目前,發(fā)展通用人工智能(AGI)通常有兩種方法:神經(jīng)科學(xué)導(dǎo)向和計算機(jī)科學(xué)導(dǎo)向,。由于兩種方法在公式和編碼方式上存在根本差異,,它們依賴于不同且不兼容的平臺,,阻礙了 AGI 的發(fā)展。

微信圖片_20201015131242.jpg

  論文鏈接:https://www.nature.com/articles/s41586-020-2782-y

  該研究的第一作者為清華大學(xué)計算機(jī)系研究員張悠慧,,與清華大學(xué)教授,、清華大學(xué)類腦計算中心主任施路平共同為該論文的通訊作者。

  神經(jīng)形態(tài)計算從生物大腦中獲取靈感,,為計算機(jī)技術(shù)和體系結(jié)構(gòu)的下一波發(fā)展提供了方向,。類腦計算與傳統(tǒng)計算機(jī)架構(gòu)不同,后者是圍繞圖靈完備和完善的馮諾依曼結(jié)構(gòu),,前者目前還沒有沒有廣義的系統(tǒng)層次結(jié)構(gòu),,或?qū)︻惸X性計算的完整性的理解。這會影響類腦計算軟件和硬件之間的兼容性,,從而阻礙了大類腦式計算的開發(fā)效率,。

  面對這一挑戰(zhàn),清華大學(xué)等機(jī)構(gòu)的研究者們提出了「類腦計算完備」概念,,它放寬了對硬件完整性的要求,,并提出了相應(yīng)的系統(tǒng)層次結(jié)構(gòu),其中包括圖靈完備的軟件抽象模型和通用的抽象神經(jīng)形態(tài)架構(gòu),。

  使用這種層次結(jié)構(gòu),,我們可以將各種程序描述為統(tǒng)一的表示形式,并轉(zhuǎn)換為任何神經(jīng)形態(tài)完整硬件上的等效可執(zhí)行文件,。這意味著,,這一體系可以確保編程語言的可移植性、硬件完整性和編譯可行性,。

  為了支持在各種典型硬件平臺上執(zhí)行不同類型的程序,,研究人員實(shí)現(xiàn)了一系列工具鏈軟件,進(jìn)而證明了該系統(tǒng)結(jié)構(gòu)的優(yōu)勢,。

  全新的系統(tǒng)層次結(jié)構(gòu)

  在這項研究中,,研究者提出了一種具有高度通用性和普適性的類腦計算系統(tǒng)層次結(jié)構(gòu),該結(jié)構(gòu)包括三個層次:軟件,、硬件和編譯,。

  與傳統(tǒng)的計算系統(tǒng)層次結(jié)構(gòu)不同,對于類腦計算系統(tǒng)層次結(jié)構(gòu)而言,,軟件層指的是神經(jīng)形態(tài)應(yīng)用和開發(fā)框架(如 Nengo 和 PyTorch)。相應(yīng)地,,研究者提出將 POG 作為軟件的中間表征,, EPG 作為硬件的中間表征(CFG,控制流圖),,并引入編譯工具將 POG 轉(zhuǎn)換為 EPG,。對于硬件層,,研究者提出了抽象神經(jīng)形態(tài)結(jié)構(gòu)(ANA),包括調(diào)度單元,、處理單元,、內(nèi)存和互連網(wǎng)絡(luò),作為神經(jīng)形態(tài)硬件(TrueNorth,、SpiNNaker,、Tianjic 和 Loihi)抽象。

  考慮到類腦計算的相似性,,研究者進(jìn)一步提出了「類腦計算完備性」的概念,,引入了逼近等價(approximation equivalence)和近似等價(precise equivalence)。

微信圖片_20201015131244.jpg

  類腦計算機(jī)系統(tǒng)與傳統(tǒng)計算機(jī)系統(tǒng)的層次結(jié)構(gòu)對比,。

  軟件

  圖中的軟件是指編程語言或框架,,以及以它們?yōu)榛A(chǔ)構(gòu)建的算法或模型。在這一層面上,,研究者提出了一個統(tǒng)一的,、通用的軟件抽象模型——POG(programming operator graph)——來適配多種類腦算法和模型設(shè)計。POG 由統(tǒng)一的描述方法和事件驅(qū)動的并行程序執(zhí)行模型組成,,該模型集成了存儲和處理,。它描述了什么是類腦程序并定義了如何執(zhí)行該程序。由于 POG 是圖靈完備的,,它能夠最大程度上支持多種應(yīng)用,、編程語言和框架。

  硬件

  硬件部分包括所有類腦芯片和架構(gòu)模型,。研究者設(shè)計了抽象神經(jīng)形態(tài)結(jié)構(gòu)作為硬件抽象,。它有一個 EPG( execution primitive graph),用作和上一層之間的接口,,來描述它可以執(zhí)行的程序,。EPG 有一個混合的「control-flow–dataflow」表示,用來最大化其對不同硬件的適應(yīng)性,,同時也符合一個流行的硬件趨勢——混合架構(gòu),。

  編譯

  編譯是將一個程序轉(zhuǎn)化為硬件所支持的一種等價形式的中間層。為了提高可用性,,研究者提出了一組基本的硬件執(zhí)行原語,,這些原語在主流的類腦芯片中得到了廣泛的支持,同時證明了配備了這套原語的硬件是神經(jīng)形態(tài)完備的,。此外,,研究者還以一個工具鏈軟件作為編譯層的實(shí)例,論證了該層次結(jié)構(gòu)的可行性、合理性和優(yōu)越性,。

  研究者提到:「這一層次結(jié)構(gòu)避免了硬件和軟件之間的緊密耦合,,確保任何類腦程序都可以用圖靈完備 POG 來表示,然后在任何神經(jīng)形態(tài)完備的硬件上編譯成等效的可執(zhí)行 EPG,。我們確保了編程的可移植性,、硬件的完整性和編譯的可行性,并通過實(shí)驗(yàn)驗(yàn)證了神經(jīng)形態(tài)完備性引入的系統(tǒng)設(shè)計維度優(yōu)化效果,。這一層次結(jié)構(gòu)也促進(jìn)了軟硬件的協(xié)同設(shè)計,。」

  與當(dāng)今常規(guī)計算機(jī)的「圖靈完備性」概念與「馮諾依曼」體系結(jié)構(gòu)相對應(yīng),,全新的類腦計算完備性及軟硬件去耦合的類腦計算系統(tǒng)層次結(jié)構(gòu)證明了自身的可行性,,同時又?jǐn)U展了類腦計算系統(tǒng)應(yīng)用范圍,使之能支持通用計算,。

  這項研究為處于起步階段的類腦計算方向,,填補(bǔ)了完備性理論與相應(yīng)系統(tǒng)層次結(jié)構(gòu)方面的空白,有利于自主掌握新型計算機(jī)系統(tǒng)核心技術(shù),。

  《自然》雜志的一位審稿人認(rèn)為,,「這是一個新穎的觀點(diǎn),并可能被證明是神經(jīng)形態(tài)計算領(lǐng)域以及面向人工智能研究的重大發(fā)展,?!?/p>


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點(diǎn),。轉(zhuǎn)載的所有的文章、圖片,、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容,、版權(quán)和其它問題,,請及時通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,,避免給雙方造成不必要的經(jīng)濟(jì)損失,。聯(lián)系電話:010-82306118;郵箱:[email protected],。