《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 嵌入式技術(shù) > AET原創(chuàng) > AI SoC互聯(lián)總線遇瓶頸,?那就在芯片內(nèi)打造一個“互聯(lián)網(wǎng)”吧

AI SoC互聯(lián)總線遇瓶頸,?那就在芯片內(nèi)打造一個“互聯(lián)網(wǎng)”吧

2018-06-28
作者:王潔
來源:電子技術(shù)應(yīng)用
關(guān)鍵詞: NetSpeedSystems AI SOC OrionAI

人工智能(AI)與5G技術(shù)發(fā)展逐漸加快,,隨之帶來了更高的數(shù)據(jù)交換需求,,這種對數(shù)據(jù)交換的需求不僅體現(xiàn)在系統(tǒng)之間的互聯(lián),,也體現(xiàn)在芯片內(nèi)部的互聯(lián),。在Level4,、Level5的自動駕駛中是不需要人來進(jìn)行操控的,人類將身家性命完全交給半導(dǎo)體來判斷之前,,確保系統(tǒng)信號回路傳輸及時,、穩(wěn)定是首先需要解決的問題。而人工智能芯片運(yùn)算單元豐富,,傳統(tǒng)總線架構(gòu)已經(jīng)成為系統(tǒng)性能的主要瓶頸,,芯片內(nèi)部的互連需要尋求一種新的方式。

“傳統(tǒng)總線架構(gòu)只適合簡單架構(gòu),,下一代芯片,,特別是AI芯片,,單芯片集成內(nèi)核數(shù)量多,需要互聯(lián)的模塊也更多,,我們考慮在芯片內(nèi)部布一個網(wǎng),,類似互聯(lián)網(wǎng)那樣,替代總線結(jié)構(gòu),,把所有數(shù)據(jù)用橋接模塊分成數(shù)據(jù)包,,用互聯(lián)網(wǎng)的方法分發(fā)出去?!?NetSpeed Systems大中華區(qū)銷售總監(jiān)黃啓弘將形象地介紹了NetSpeed SoC芯片內(nèi)部互連解決方案Orion AI,。

黃啓弘.jpg

NetSpeed Systems大中華區(qū)銷售總監(jiān)黃啓弘

AI的主要挑戰(zhàn):(1)人工智能工作負(fù)載具備獨(dú)特性,在訓(xùn)練側(cè)和推理側(cè)都需要大型矩陣算法,;(2)人工智能架構(gòu)具備獨(dú)特性,,內(nèi)核數(shù)量多,大量并行結(jié)構(gòu),,點(diǎn)對點(diǎn)通信,;(3)帶寬要求極高(TB/s),未來對帶寬的要求將會更高,。NetSpeed推出的Orion AI采用解耦架構(gòu),,分層堆疊,每層均可擴(kuò)展或收縮,;可編程多播,,最早也是目前唯一支持基于廣播推送的可配置多播網(wǎng)絡(luò)IP;服務(wù)質(zhì)量(QoS)非凡,,以具備端到端QoS規(guī)劃的非阻塞路徑來控制帶寬與延遲,。

黃啓弘先生介紹了Orion AI的優(yōu)勢,,與傳統(tǒng)總線相比,,Orion AI方案解除了總線架構(gòu)帶來的數(shù)據(jù)吞吐量限制,片內(nèi)帶寬可支持到萬億字節(jié)每秒(TB/s),,接口位寬高達(dá)1024位 ,,內(nèi)部結(jié)構(gòu)位寬更高,并可支持高達(dá)4K字節(jié)的長突發(fā)傳輸,;采用先進(jìn)的低功耗管理技術(shù)提升能效,;內(nèi)置人工智能,利用先進(jìn)人工智能算法,,在解決方案空間搜尋最有效的解決方案,,可謂是“用人工智能設(shè)計人工智能芯片”。

QQ截圖20180628175111.jpg

Orion AI由NetSpeed的圖靈機(jī)器學(xué)習(xí)引擎提供支持,,該引擎使用監(jiān)督學(xué)習(xí)來探索和優(yōu)化SoC設(shè)計與架構(gòu),。Linley Group首席分析師Linley Gwennap表示,,這是一種以人工智能為核心的設(shè)計方法,“就像有一位隨時在線的建筑大師給出設(shè)計建議,。處理器架構(gòu)師可以采納圖靈的建議,,然后花時間去解決SoC設(shè)計中的其他難題?!?/p>

NetSpeed的方案能幫助SoC設(shè)計公司大幅縮減開發(fā)時間,。據(jù)了解,互連IP成本占整體AI成本的3%-10%左右,。NetSpeed的客戶通過采用Orion AI,,在RTL階段就可進(jìn)行互連設(shè)計,大幅縮減前端設(shè)計與后端設(shè)計的試錯周期,,平均可節(jié)約3-4個月時間,。據(jù)黃啟弘介紹,NetSpeed的其中一個客戶,,特斯拉的自動駕駛芯片從設(shè)計到流片只花了大約九個月時間,。

除了特斯拉外,NetSpeed目前還有英特爾,、亞馬遜這些大客戶,,在國內(nèi)有地平線機(jī)器人、寒武紀(jì),、百度等領(lǐng)先的AI公司,。

相比其他消費(fèi)級應(yīng)用,自動駕駛應(yīng)用對安全等級有更高的要求,,Orion AI通過了ISO 26262標(biāo)準(zhǔn),,可支持ASIL D級別安全要求,采用Orion AI來進(jìn)行SoC互聯(lián)設(shè)計也更容易達(dá)到汽車應(yīng)用的安全要求,。

NetSpeed是一個以技術(shù)為本的公司,,雖然是個年輕的公司,但成立8年以來,,已經(jīng)申請了130多項專利,。NetSpeed除了為大客戶提供定制化的IP服務(wù),還提供非加密的互連IP,,在授權(quán)模式和費(fèi)用上都可根據(jù)中國客戶需求進(jìn)行靈活調(diào)整,。目前我國AI應(yīng)用迅速發(fā)展,NetSpeed擁有極佳的市場機(jī)遇,,NetSpeed提供的更方便,、可靠的設(shè)計建議也使得AI芯片設(shè)計工程師擁有了更多的選擇。


此內(nèi)容為AET網(wǎng)站原創(chuàng),,未經(jīng)授權(quán)禁止轉(zhuǎn)載,。