作為AI和芯片兩大領域的交差點,,AI芯片已經(jīng)成了最熱門的投資領域,各種AI芯片如雨后春筍冒出來,,但是AI芯片領域生存環(huán)境惡劣,,能活下來的企業(yè)將是鳳毛麟角,,以下正文:
不久前,谷歌在I/O大會發(fā)布了其第三代TPU,,并宣稱其性能比去年的TUP 2.0提升8倍之多,,達到每秒1000萬億次浮點計算,同時谷歌展示了其一系列基于TPU的AI應用,。
可以說,,AI已經(jīng)成為科技行業(yè)除了區(qū)塊鏈之外最熱門的話題。AI芯片作為AI時代的基礎設施,,也成為目前行業(yè)最熱門的領域,。
可以看到,AI芯片已經(jīng)成為資本追逐的最熱門領域,,資本對半導體芯片的熱情被AI技術徹底點燃,。在創(chuàng)業(yè)公司未真正打開市場的情況下,AI芯片初創(chuàng)企業(yè)已經(jīng)誕生了不少的獨角獸,,多筆融資已經(jīng)超過億元,。
AI技術的革新,其從計算構架到應用,,都和傳統(tǒng)處理器與算法有巨大的差異,,這給創(chuàng)業(yè)者和資本市場無限的遐想空間,這也是為什么資本和人才對其趨之若鶩的原因,。
但是,,產業(yè)發(fā)展還是要遵循一定的產業(yè)規(guī)律,筆者認為,,絕大多數(shù)AI芯片公司都將成為歷史的炮灰,,最后,在云端和終端只剩下為數(shù)極少的幾個玩家,。
為何這么說,,請聽本君慢慢道來!
首先我們來分析下目前對AI芯片的需求主要集中在哪些方面,。
先來講講AI目前芯片大致的分類:從應用場景角度看,,AI芯片主要有兩個方向,,一個是在數(shù)據(jù)中心部署的云端,一個是在消費者終端部署的終端,。從功能角度看,,AI芯片主要做兩個事情,一是Training(訓練),,二是Inference(推理),。
目前AI芯片的大規(guī)模應用主要還是在云端。云端的AI芯片同時做兩個事情:Training和Inference,。Training即用大量標記過的數(shù)據(jù)來“訓練”相應的系統(tǒng),,使之可以適應特定的功能,比如給系統(tǒng)海量的“貓”的圖片,,并告訴系統(tǒng)這個就是“貓”,,之后系統(tǒng)就“知道”什么是貓了;Inference即用訓練好的系統(tǒng)來完成任務,,接上面的例子,,就是你將一張圖給之前訓練過的系統(tǒng),讓他得出這張圖是不是貓這樣的結論,。
Training和Inference在目前大多數(shù)的AI系統(tǒng)中,,是相對獨立的過程,其對計算能力的要求也不盡相同,。
Training需要極高的計算性能,,需要較高的精度,需要能處理海量的數(shù)據(jù),,需要有一定的通用性,,以便完成各種各樣的學習任務。
Inference相對來說對性能的要求并不高,,對精度要求也要更低,,在特定的場景下,對通用性要求也低,,能完成特定任務即可,,但因為Inference的結果直接提供給終端用戶,所以更關注用戶體驗的方面的優(yōu)化,。
Training將在很長一段時間里集中在云端,,Inference的完成目前也主要集中在云端,,但隨著越來越多廠商的努力,,很多的應用將逐漸轉移到終端。
然后我們來看看目前的市場情況,。
1,、云端市場已被巨頭瓜分殆盡,,創(chuàng)業(yè)公司生存空間幾乎消失。
云端AI芯片無論是從硬件還是軟件,,已經(jīng)被傳統(tǒng)巨頭控制,,給新公司預留的空間極小。下面這張圖是Compass Intelligence公布了全球AI芯片榜單,。因為AI芯片目前在終端應用極少,,所以榜單頭部的排名可以近似的認為就是云端AI芯片的目前市場格局。
不客氣的說,,大多數(shù)AI芯片都得死
我們可以看到,,芯片巨頭Nvidia(英偉達)已經(jīng)牢牢占據(jù)AI芯片榜首,由于CUDA開發(fā)平臺的普及,,英偉達的GPU是目前應用最廣的通用AI硬件計算平臺,。除了有實力自研芯片的企業(yè)(全世界也沒幾家),如果需要做AI相關的工作,,必定需要用到Nvidia的芯片,。Nvidia的芯片應用普遍,現(xiàn)在所有的AI軟件庫都支持使用CUDA加速,,包括谷歌的Tensorflow,,F(xiàn)acebook的Caffe,亞馬遜的MXNet等,。
除了一騎絕塵的英偉達,,其他老牌的芯片巨頭都沒閑著,特別是Intel通過買,、買,、買奮力的將自己擠到了頭部玩家的位置。微軟在最新的Build大會上公布了基于英特爾FPGA的AI方案,,而英特爾的FPGA業(yè)務正是通過收購Altera獲得的,。
除此之外,我們可以看到像Google這樣的互聯(lián)網(wǎng)廠商也亂入了前五,。這當然要歸功于上面提到的TPU,,雖然谷歌不直接售賣芯片,但是谷歌通過云服務提供TPU的調用服務,。谷歌很早就開源了Tensorflow軟件平臺,,這使得Tensorflow成為最主流的機器學習軟件平臺,已經(jīng)成了事實上行業(yè)的軟件平臺標準,。而Tensorflow最佳的計算環(huán)境必定就是谷歌自己的云服務了,,通過軟件、硬件(或者說云)環(huán)境的打通,谷歌妥妥的成為AI芯片領域的一方霸主,。
現(xiàn)在業(yè)界爭論的焦點是AI芯片的處理器架構用哪種是最好的,,有前面提及的有GPU、FPGA,、DSP和ASIC,,甚至還有更前沿的腦神經(jīng)形態(tài)芯片。現(xiàn)在GPU可以認為是處于優(yōu)勢地位,,但其他幾種的處理器架構也各有優(yōu)勢,。Intel則是多方下注,不錯過任何一種處理器架構,。谷歌在TPU(其實就是一種ASIC)方面的巨大投入帶來了硬件效能的極大提高,,目前看來對GPU的沖擊將是最大的,原因不單單是因為專用架構帶來的效率優(yōu)勢,,還有商業(yè)模式方面帶來的成本優(yōu)勢,。在半導體行業(yè)內的普遍觀點是,一旦AI的算法相對穩(wěn)定,,ASIC肯定是最主流的芯片形態(tài),。看看挖礦芯片的進化歷程,,這個觀點非常有說服力,。
在云端,互聯(lián)網(wǎng)巨頭已經(jīng)成為了事實上的生態(tài)主導者,,因為云計算本來就是巨頭的戰(zhàn)場,,現(xiàn)在所有開源AI框架也都是這些巨頭發(fā)布的。在這樣一個生態(tài)已經(jīng)固化的環(huán)境中,,留給創(chuàng)業(yè)公司的空間實際已經(jīng)消失,。所以地平線的余凱在前幾年就對「商業(yè)技術評論」表示,云端市場是巨頭的禁臠,,創(chuàng)業(yè)公司沒有任何機會,。
2、終端市場群雄割據(jù),,機會尚存,。
上面說到了Inference現(xiàn)在主要是在云端完成的,這主要是因為現(xiàn)在終端上基本沒有合適的處理單元可以完成相應功能,。所以我們發(fā)現(xiàn)很多AI功能都需要聯(lián)網(wǎng)才可以使用,,這大大限制了AI的使用場景。所以將Inference放到終端來,,讓一些功能可以本地完成,,成了很多芯片廠商關注的領域,。
華為的麒麟970便是最早將AI處理單元引入到終端產品的芯片,其中該芯片中的AI核心,,是由AI芯片創(chuàng)業(yè)公司寒武紀提供的IP(知識產權)。該芯片的引入,,可以幫助華為手機在終端完成一些特定的AI應用,,比如高效的人臉檢測,相片的色彩美化等,。此后,,蘋果,三星都宣布了在其處理器中引入相應的AI處理單元,,提升手機終端的AI應用能力,。
在終端上,由于目前還沒有一統(tǒng)天下的事實標準,,芯片廠商可以說是八仙過海各顯神通,。
給手機處理器開發(fā)AI協(xié)處理器是目前看來比較靠譜的方式,寒武紀Cambricon-1A集成進入麒麟970就是一個很好的例子,。由于華為手機的巨大銷量,,寒武紀迅速成為AI芯片獨角獸。而另外一家創(chuàng)業(yè)公司深鑒科技此前獲得了三星的投資,,其AI芯片IP已經(jīng)集成到三星最新的處理器Exynos 9810中,。
然而能獲得手機大廠青睞的AI芯片廠商畢竟是少數(shù),更多的AI芯片廠商還需要找到更多的應用場景來使自己的芯片發(fā)光發(fā)熱,。
一些傳統(tǒng)AI服務廠商很容易想到將自己的服務進行垂直拓展,,比如的自然語音處理廠商云知聲從自己的傳統(tǒng)語音業(yè)務出發(fā),開發(fā)了自己的芯片UniOne語音AI芯片,,用于物聯(lián)網(wǎng)IOT設備,。
相對于語音市場,安防更是一個AI芯片扎堆的大產業(yè),,如果可以將自己的芯片置入攝像頭,,是一個不錯的場景,也是很好的生意,。包括云天勵飛,、海康威視,、曠視科技等廠商都在大力開發(fā)安防領域的AI嵌入式芯片,,而且已經(jīng)完成了一定的商業(yè)化部署。
相對于云端,,終端留給AI芯片創(chuàng)業(yè)公司更廣闊的市場,。但是于此同時,,由于應用環(huán)境千差萬別,沒有相應的行業(yè)標準,,各個廠商各自為戰(zhàn),,無法形成一個統(tǒng)一的規(guī)模化市場,,對于投入巨大的芯片行業(yè)來說,,是好故事,但不一定是個好生意,。
3,、怎樣的AI芯片企業(yè)會有機會?
AI芯片的誕生,,源于一種全新的計算需求,,傳統(tǒng)的計算架構很難滿足AI計算的要求,所以新的芯片成為業(yè)界追逐的熱點,,這和多年前的顯卡市場非常像,。
曾經(jīng)的PC并沒有3D處理能力,CPU幾乎包攬了所有的功能,,但是由于人們對于3D處理需求的逐漸增加,,帶有3D加速功能的圖形處理器越來越成為人們關注的重點。
于是一大批圖形處理器企業(yè)如雨后春筍搬冒了出來,。
然而最后,,只有Nvidia(也是目前的AI芯片巨頭)作為獨立的3D圖形處理器供應商活了下來。ATI被AMD收購,,仍然耕耘3D圖形市場,,和Nvidia正面作戰(zhàn),但常年的虧損也一直困擾著這個千年老二,。Intel早早退場,,放棄了獨立顯卡產品線,但由于其控制了中央處理器,,其顯示核心一直以集成的方式變相的和Nvidia以及AMD曲線作戰(zhàn),。
Nvidia之所以獲得成功,有以下幾方面原因,。
首先在性能上,,始終保持在第一梯隊,在最開始幾代失敗的產品后,,Nvidia一直是最先進圖形技術的代名詞,。當然,光有性能是不夠的,,當時世面上還有很多性能差不多的產品,。Nvidia在當時做了一件現(xiàn)在看來很平常的事情,,就是推出了專屬驅動程序——雷管,并定期的更新,,使其不斷的兼容最新的游戲,。這在當時顯卡標準混亂,游戲兼容一塌糊涂的情況下,,一舉奠定了其領先位置,。
于此同時,Nvidia擁抱了當時最大軟件平臺微軟推出的3D 圖形API接口——Driect 3D,,在此之前,,每家顯卡都有自己的3D API接口,,標準極度不統(tǒng)一,,也讓開發(fā)者非常頭痛,Driect 3D出現(xiàn)結束了這個局面,,所以誰對DirectX支持好,,誰就更受市場歡迎。Nvidia和ATI一直和微軟合力推動DriectX 和顯卡的換代升級,,也因此坐穩(wěn)了了PC顯卡的領先位置,。
芯片是一個贏者通吃的市場,由于高昂的研發(fā)費用,,只有市場第一才能形成規(guī)模優(yōu)勢從而轉化成成本優(yōu)勢,,最后將其他玩家趕凈殺絕,無論是傳統(tǒng)的GPU行業(yè)還是CPU行業(yè),,都存在相同的情況,。
然后我們再過來看AI芯片市場,AI云端市場,,其實更接近于顯卡市場的末期,,主導的軟硬件生態(tài)已經(jīng)形成,巨頭控制整個軟硬件和服務市場,。如果AI技術在理論層面沒有新的突破,,依然是以深度學習為基礎進行迭代升級的話,這個局面并不容易打破,。
在終端市場,,更接近于顯卡市場發(fā)展的初期,沒有統(tǒng)一的API接口,,沒有統(tǒng)一的基準測試,,沒有成熟的應用場景。所以終端市場對于AI芯片創(chuàng)業(yè)公司來說,,還是值得一搏的,,但這也是一場硬仗,,你必須在核心性能上擁有優(yōu)勢,或是處理速度,,或是功耗控制,,總得有拿的出手的殺手锏。第二,,必須賭對標準,,站到勝利者一邊,并借此快速占領市場,。誰都想成為標準的制定者,,但很多時候,你必須擁護其他人的標準,,甚至是競爭對手的標準,,才能贏得市場。
4,、老三必死
芯片產業(yè)是一個資金密集型的產業(yè),,無論是研發(fā),還是后期的生產,,都要求極高的資金投入,。如果產品沒有辦法規(guī)模化,,將無法消化前期的高額開銷,,將企業(yè)拖入虧損的泥潭。
拿PC行業(yè)CPU和顯卡領域的千年老二AMD為例,,雖然常年坐二望一,,偶爾爆發(fā)短期超越,但其財報可謂慘不忍睹,,虧多盈少,,經(jīng)常以虧損減少為榮,基本不提盈利,。但也因為芯片行業(yè)能保持市場第二,,已經(jīng)屬于不易,所以AMD即使常年虧損,,其戰(zhàn)略地位仍然極具價值,,仍然是芯片行業(yè)重要玩家。至于老三,,好像是不存在的(就是臺灣的威盛,,已經(jīng)毫無市場存在感)。
移動芯片領域也存在類似的情況,,高通和聯(lián)發(fā)科幾乎壟斷了整個市場,,除了蘋果,、華為、三星,、依托自己的終端優(yōu)勢,,撐起了自己的芯片業(yè)務,其他純粹的芯片玩家已經(jīng)基本被清場,,又是一個和圖形處理器市場發(fā)展非常相似的過程,,從百家爭鳴到寡頭壟斷。
而在AI芯片領域,,這種情況也將繼續(xù),。頭部玩家將吃下幾乎所有市場,而第三名以外的玩家,,即使能活下來,,也只有喝湯的份了。
5,、天下屬于王者,,但最精彩故事永遠是在亂世,。
秦始皇統(tǒng)一中原,,奠定了中國大一統(tǒng)帝國的統(tǒng)治基礎,但讓人神往的卻是之前的諸子百家,。在那個思想激昂的年代,,各種思潮不斷涌現(xiàn),為后人提供了無限的精神財富,。
在微軟統(tǒng)治PC操作系統(tǒng)之前,,還有很多偉大的操作系統(tǒng),比如OS/2,、VMS,,BeOS、Netware等,。雖然這些系統(tǒng)在商業(yè)上失敗了,,卻給整個行業(yè)留下了寶貴的財富,系統(tǒng)不只有一種實現(xiàn)方法,,還有更多的可能,。
AI芯片創(chuàng)業(yè)者們,正在用他們認為可行的方式,,探索著行業(yè)的各種可能,,雖然我們知道在最后,絕大多數(shù)的嘗試都將失敗,,但這些失敗將成為推動整個產業(yè)發(fā)展的動力,,將技術快速轉化成真正的應用,,推動社會的發(fā)展。
若干年以后,,當人們回顧AI行業(yè)的發(fā)展,,可能會發(fā)現(xiàn),最精彩的故事就發(fā)生在這個群雄并起的時代,。