每一次技術浪潮,,
都會產(chǎn)生新的領導型公司。
邊緣AI會嗎,?
隨著人工智能從云端向邊緣擴展,邊緣計算被視為下一個AI戰(zhàn)場,。海量的應用場景,、龐大的計算需求,不僅吸引了英特爾,、英偉達這些巨頭加速完善云邊端一體化的布局,,更吸引了眾多AI芯片公司紛紛入局。
云端AI已經(jīng)造就了英偉達的巨大成功,,如果邊緣AI是一次嶄新的機會,,哪些公司有機會成為贏家?
最適合的芯片路線,?
業(yè)界對于通用,、專用的計算路線討論已久,與這個話題伴生的其實是多樣,、碎片的應用場景,。場景是碎片的,產(chǎn)品是碎片的,,那么芯片呢,?也只能是碎片的、專用的,,不能是通用的嗎,?通用計算老大哥CPU、GPU的地位會旁落嗎,?未來通用計算和專用計算的關系如何發(fā)展,?
時擎科技總裁于欣告訴<與非網(wǎng)>,針對不同應用的架構設計,,是一定需要的,。領域?qū)S眉軜嫞―SA)處理器和芯片,本質(zhì)上就是要解決通用性和專用性平衡和取舍的問題,。
“這里有兩個大前提,,一是端側(cè)的應用比較碎片化,第二是對功耗和成本往往有比較高的要求,。在這兩個前提下,,如何既能保證相對于某個場景足夠的競爭力,以滿足成本和功耗的要求,,同時又能兼顧足夠的市場空間——這是每一家公司都要面臨的挑戰(zhàn),,也是對產(chǎn)品定義能力的考驗”,他強調(diào),。
通用計算芯片固然能夠覆蓋邊緣計算程序所需要的所有運算操作,,但在芯片架構伸縮性、性能方面,,確實無法及時適應邊緣側(cè)需求的快速增長,。通用計算和專用計算芯片已經(jīng)呈現(xiàn)出融合發(fā)展的趨勢。并且,,計算特性決定了邊緣芯片和云端芯片的不同,,架構設計需要進行優(yōu)化定制。
靈汐科技副總經(jīng)理華寶洪表示,,二者要相輔相成,,在專用計算芯片中會包括通用計算的核,比如Arm或RISC-V等IP內(nèi)核,。新型架構芯片比如神經(jīng)擬態(tài)芯片中,,除了包括神經(jīng)擬態(tài)計算核、神經(jīng)網(wǎng)絡計算核,,也可以有通用的ARM核,。同時,通用計算芯片比如最新的Arm芯片,,也會內(nèi)置部分針對傳統(tǒng)神經(jīng)網(wǎng)絡加速的IP核,。
伴隨這一趨勢,意味著需要把負責加速的專用計算單元移入通用編程模型中,,且創(chuàng)建通用處理器的壓力始終存在,。Imagination計算業(yè)務產(chǎn)品管理總監(jiān)Rob Fisher表示,這主要是從通用處理器編程的易用性角度來考慮的,。當任務的規(guī)?;蛩栊阅苓h遠超出通用解決方案所能容納的范圍時,這種模式將受到限制,。
他指出,,GPU就是一個很好的示例,。在實際應用中,將圖形處理工作負載卸載到GPU上的優(yōu)勢很明顯,,從而推動了高效圖形處理器的獨立開發(fā),。矢量處理器正越來越多地與CPU架構緊密結(jié)合,從而允許對計算任務進行指令級加速,。
雪湖科技副總裁趙小吾表示,,針對不同場景下功能和性能的不同要求,邊緣的需求更復雜,,很難用一個通用的架構或者平臺來滿足大多數(shù)的需求,,所以會針對不同應用場景進行專門的架構設計。性能要求不高,,算法變化快的部分可以使用通用計算芯片,,比如CPU;性能要求高,,算法相對固化的部分可以使用專用計算芯片,,比如ASIC;對性能和算法靈活性都有一定要求的部分可以使用FPGA可編程芯片,。
他以智慧交通領域的邊緣計算為例談到,,由于基本都是室外場景,環(huán)境復雜且惡劣,,既要滿足AI大算力和低延時,,又要滿足可靠性和穩(wěn)定運行,因此目前大部分邊緣計算機都無法滿足需求,。而采用了室外基站同等級的芯片為這種場景定制了專用的大算力計算機,,才滿足了這些特殊場景的需求。
Chiplet正當紅
圖源 | EV Group
隨著高性能計算和機器學習的興起,,異構處理器必須處理的工作負載急劇增加,,在整個半導體行業(yè)建立開放的生態(tài)合作至關重要。
不久前,,英特爾,、AMD、Arm,、高通,、臺積電等已經(jīng)聯(lián)合成立了Chiplet標準聯(lián)盟,推出了通用Chiplet的高速互聯(lián)標準UCIe,。在UCIe的框架下,,互聯(lián)接口標準得到統(tǒng)一,各類不同工藝,、不同功能的Chiplet芯片,,有望通過2D,、2.5D、3D等各種封裝方式整合在一起,,多種形態(tài)的處理引擎將共同組成超大規(guī)模的復雜芯片系統(tǒng),。
英偉達在上個月的GTC22上,一方面宣布了對UCIe規(guī)范的支持,,另一方面,宣布為半定制芯片開放其NVLink-C2C互連技術,,這是一種支持內(nèi)存一致性的芯片到芯片,、裸片到裸片的互連技術。這一路線已經(jīng)明確展現(xiàn)了英偉達的異構決心,,按照這一規(guī)劃,,理論上甚至可以將英偉達的芯片與競爭對手的芯片放入同一個封裝中。
黃仁勛告訴<與非網(wǎng)>,,他第一喜歡PCIe,,第二喜歡UCIe,并且預測五年內(nèi)UCIe的好處會逐漸顯現(xiàn),。至于英偉達自身的NVlink互連技術,,他強調(diào)優(yōu)勢在于直連能力。UCIe不能直接接入芯片,,仍然是一個外設接口,;而NVlink的優(yōu)勢在于可以直接連接,幾乎就像直接連接到大腦一樣,。一定程度上,,這可能會導致它的組裝比較復雜,合作伙伴和客戶必須非常了解NVlink,。不過,,一旦他們能做好這一點,就可以充分利用芯片內(nèi)部的所有資源,,就像這些資源都在同一個芯片上一樣,。
這一解答既表明了英偉達并不打算自我排除在在UCIe聯(lián)盟之外,同時也展現(xiàn)出了對自身NVLink互連技術的絕對信心,,推測該技術也將成為英偉達構建異構生態(tài)的關鍵,。
新一代“英特爾”,、“英偉達”
能否在邊緣市場誕生,?
圖源 | redherring.com
邊緣計算市場的巨大潛力,自然也吸引著云端芯片巨頭的競逐,,他們正通過異構計算,、先進制程,、先進封裝等方式進行全面布局,加之高筑的生態(tài)壁壘,,國內(nèi)AI芯片廠商是否有機會與之一搏,?
“能造得了摩天大樓的,不一定擅長雕梁畫柱,。當然相對于云端目前高度壟斷和集中的格局來說,,邊緣側(cè)還沒有確定的格局,大家都有機會,,而具有更強技術能力和落地能力的廠家,,會有更大的機會在競爭中脫穎而出”,時擎科技于欣表示,,“云邊端在某些場景融合協(xié)同是有道理的,,但本身從芯片設計的角度來說,還是會有很大的區(qū)別,?!?/p>
靈汐科技華寶洪則認為,異構計算,、先進制程,、先進封裝等均是手段,不能從根本上解決高能效比,、小樣本學習,、在線學習等問題。在行業(yè)導向和市場需求的雙重驅(qū)動下,,計算機科學和腦科學的異構融合,,將成為驅(qū)動邊緣計算技術架構創(chuàng)新與未來行業(yè)高質(zhì)量發(fā)展的核心引擎。
一方面,,馮·諾依曼架構的芯片依然在走“暴力計算”的美學方向,,采用更加先進制程、更加先進封裝來提升算力,;另一方面,,非馮·諾依曼架構優(yōu)先通過架構創(chuàng)新來滿足在生物神經(jīng)網(wǎng)絡、類腦方向和新型混合神經(jīng)網(wǎng)絡等領域的規(guī)?;褂?。以類腦計算、量子計算為代表的新型計算架構將與傳統(tǒng)計算架構深度融合,,引領新一輪的技術變革,。
雪湖科技趙小吾表示,業(yè)界頭部廠商都開始用小芯片拼湊大芯片的方式來完成產(chǎn)品布局,,以滿足不同場景的算力需求,。例如蘋果和英偉達,,都開始采用這種“拼積木”的方式,這是非常明確的趨勢,。
國內(nèi)這兩年市場很熱發(fā)展很快,,但形成規(guī)模和有競爭力的廠商并不多?!靶酒€是一個需要積累的產(chǎn)業(yè),,且產(chǎn)業(yè)鏈比較長”, 趙小吾表示,,“目前國內(nèi)小而多的形態(tài)不利于去和上下游爭奪話語權,,預計未來1-2 年里應該會迎來一波AI芯片廠商淘汰潮?!?/strong>
愛芯元智創(chuàng)始人、董事長兼CEO仇肖莘也表達了類似觀點,,她談到,,現(xiàn)在對國產(chǎn)芯片產(chǎn)業(yè)是千載難逢的機會,由于市場需求和國家支持,,涌現(xiàn)了許多創(chuàng)業(yè)型公司,。而從大環(huán)境出發(fā),我國的芯片行業(yè)還屬于初期階段,,正呈現(xiàn)出一種百花齊放的態(tài)勢,,但隨著產(chǎn)業(yè)的不斷發(fā)展壯大,隨之而來的行業(yè)整合也將是必經(jīng)過程,。
她強調(diào),,這符合芯片行業(yè)在過去幾十年發(fā)展的規(guī)律,經(jīng)過這樣的整合,,業(yè)內(nèi)一定會出現(xiàn)頭部企業(yè),,這對于國家整體產(chǎn)業(yè)發(fā)展是非常重要的。只有這樣,,中國企業(yè)和國際大廠才有同臺競技的機會,。
靈汐科技華寶洪表示,邊緣AI芯片市場仍處于開放狀態(tài),,沒有絕對的霸主,。新興的、多樣化的應用場景為國產(chǎn)AI芯片帶來了巨大的市場機會,,特別是在自動駕駛,、智能安防、智能物聯(lián)網(wǎng)和可穿戴設備等越來越碎片化的市場,,國產(chǎn)AI芯片廠商和國際巨頭芯片廠商是站在同一起跑線上的,,甚至在某些領域更有優(yōu)勢,。“國際巨頭的AI布局大而全,,是優(yōu)勢也是劣勢,,國內(nèi)處理器廠商聚焦在某些細分領域進行持續(xù)的創(chuàng)新和突破,構建自己的護城河是關鍵”,,他強調(diào),。
寫在最后
就像計算架構領域一位著名的科學家所說,現(xiàn)在正是芯片體系架構百花齊放的黃金時代,,這一時代前所未有,。盡管CPU、GPU會持續(xù)創(chuàng)新,,且在某些計算任務上是不可或缺的,,但是AI加速計算、數(shù)據(jù)爆炸等趨勢催生的新市場,,一定是巨大且多樣的,,這就給了AI芯片公司帶來了新的機會。
從CPU來看,,x86架構統(tǒng)治PC和服務器已有松動跡象,,Arm一路從手機端和IoT逐漸向上,攻入PC和服務器領域,。RISC-V也從物聯(lián)網(wǎng)設備起步,,向更大量的設備進行布局。馮·諾依曼架構和非馮·諾依曼架構的異構融合,,正在通往規(guī)?;牡缆飞稀?/p>
每一次技術浪潮,都會產(chǎn)生新的領導型公司,。邊緣AI會嗎,?