人工智能（AI）與5G技術(shù)發(fā)展逐漸加快,，隨之帶來了更高的數(shù)據(jù)交換需求,，這種對數(shù)據(jù)交換的需求不僅體現(xiàn)在系統(tǒng)之間的互聯(lián)，也體現(xiàn)在芯片內(nèi)部的互聯(lián),。在Level4,、Level5的自動駕駛中是不需要人來進行操控的，人類將身家性命完全交給半導體來判斷之前,，確保系統(tǒng)信號回路傳輸及時,、穩(wěn)定是首先需要解決的問題。而人工智能芯片運算單元豐富,，傳統(tǒng)總線架構(gòu)已經(jīng)成為系統(tǒng)性能的主要瓶頸,，芯片內(nèi)部的互連需要尋求一種新的方式,。
“傳統(tǒng)總線架構(gòu)只適合簡單架構(gòu)，下一代芯片,，特別是AI芯片,，單芯片集成內(nèi)核數(shù)量多，需要互聯(lián)的模塊也更多,，我們考慮在芯片內(nèi)部布一個網(wǎng)，類似互聯(lián)網(wǎng)那樣,，替代總線結(jié)構(gòu),，把所有數(shù)據(jù)用橋接模塊分成數(shù)據(jù)包，用互聯(lián)網(wǎng)的方法分發(fā)出去,?！?NetSpeed Systems大中華區(qū)銷售總監(jiān)黃啓弘將形象地介紹了NetSpeed SoC芯片內(nèi)部互連解決方案Orion AI。
NetSpeed Systems大中華區(qū)銷售總監(jiān)黃啓弘
AI的主要挑戰(zhàn)：（1）人工智能工作負載具備獨特性,，在訓練側(cè)和推理側(cè)都需要大型矩陣算法,；（2）人工智能架構(gòu)具備獨特性，內(nèi)核數(shù)量多,，大量并行結(jié)構(gòu),，點對點通信；（3）帶寬要求極高（TB/s）,，未來對帶寬的要求將會更高,。NetSpeed推出的Orion AI采用解耦架構(gòu)，分層堆疊,，每層均可擴展或收縮,；可編程多播，最早也是目前唯一支持基于廣播推送的可配置多播網(wǎng)絡IP,；服務質(zhì)量（QoS）非凡,，以具備端到端QoS規(guī)劃的非阻塞路徑來控制帶寬與延遲。
黃啓弘先生介紹了Orion AI的優(yōu)勢,，與傳統(tǒng)總線相比,，Orion AI方案解除了總線架構(gòu)帶來的數(shù)據(jù)吞吐量限制，片內(nèi)帶寬可支持到萬億字節(jié)每秒（TB/s）,，接口位寬高達1024位 ,，內(nèi)部結(jié)構(gòu)位寬更高，并可支持高達4K字節(jié)的長突發(fā)傳輸,；采用先進的低功耗管理技術(shù)提升能效,；內(nèi)置人工智能，利用先進人工智能算法,，在解決方案空間搜尋最有效的解決方案,，可謂是“用人工智能設計人工智能芯片”,。
Orion AI由NetSpeed的圖靈機器學習引擎提供支持，該引擎使用監(jiān)督學習來探索和優(yōu)化SoC設計與架構(gòu),。Linley Group首席分析師Linley Gwennap表示,，這是一種以人工智能為核心的設計方法，“就像有一位隨時在線的建筑大師給出設計建議,。處理器架構(gòu)師可以采納圖靈的建議,，然后花時間去解決SoC設計中的其他難題?！?/p>
NetSpeed的方案能幫助SoC設計公司大幅縮減開發(fā)時間,。據(jù)了解，互連IP成本占整體AI成本的3%-10%左右,。NetSpeed的客戶通過采用Orion AI,，在RTL階段就可進行互連設計，大幅縮減前端設計與后端設計的試錯周期,，平均可節(jié)約3-4個月時間,。據(jù)黃啟弘介紹，NetSpeed的其中一個客戶,，特斯拉的自動駕駛芯片從設計到流片只花了大約九個月時間,。
除了特斯拉外，NetSpeed目前還有英特爾,、亞馬遜這些大客戶,，在國內(nèi)有地平線機器人、寒武紀,、百度等領(lǐng)先的AI公司,。
相比其他消費級應用，自動駕駛應用對安全等級有更高的要求,，Orion AI通過了ISO 26262標準,，可支持ASIL D級別安全要求，采用Orion AI來進行SoC互聯(lián)設計也更容易達到汽車應用的安全要求,。
NetSpeed是一個以技術(shù)為本的公司,，雖然是個年輕的公司，但成立8年以來,，已經(jīng)申請了130多項專利,。NetSpeed除了為大客戶提供定制化的IP服務，還提供非加密的互連IP,，在授權(quán)模式和費用上都可根據(jù)中國客戶需求進行靈活調(diào)整,。目前我國AI應用迅速發(fā)展，NetSpeed擁有極佳的市場機遇,，NetSpeed提供的更方便,、可靠的設計建議也使得AI芯片設計工程師擁有了更多的選擇,。