前幾年的“人工智能熱”讓大小廠商陸續(xù)跳入AI芯片的研發(fā)大軍中,，而當(dāng)這股潮水褪去，當(dāng)初的50多家公司大多數(shù)都黯然退出歷史舞臺(tái),，如今只剩10家左右,。AI芯片的風(fēng)口已然過(guò)去。據(jù)艾瑞咨詢發(fā)布的2019年《AI芯片行業(yè)研究報(bào)告》指出,，目前AI芯片行業(yè)接近Gartner技術(shù)曲線泡沫頂端,，只有通過(guò)市場(chǎng)檢驗(yàn)和篩選的優(yōu)質(zhì)團(tuán)隊(duì)才能夠繼續(xù)獲得產(chǎn)業(yè),、政策和資本的青睞與支持。
隨著AI芯片進(jìn)入深水區(qū),，人們更關(guān)注的不再是單純的算力,，還有對(duì)應(yīng)用落地和商業(yè)化的支持：進(jìn)入了哪些場(chǎng)景？合作了哪些客戶,？有沒(méi)有軟硬一體化方案,？是否已經(jīng)有實(shí)際案例？……“AI落地難”已成行業(yè)共識(shí),，浮華過(guò)后,，AI芯片接下來(lái)將進(jìn)入市場(chǎng)檢驗(yàn)真理的階段。
AI芯片為何落地難,？
首先,，我們來(lái)看下當(dāng)前AI芯片的格局。目前市面上AI芯片主要分為云端AI芯片與終端AI 芯片,，云端AI芯片主要部署在大型服務(wù)器中,，可支持圖像、語(yǔ)音等不同類別的AI 應(yīng)用,；終端芯片則被放在音箱,、攝像頭等硬件設(shè)備中。由于云端芯片起步較早,，且所需要協(xié)同的CPU/GPU等硬件成本投入規(guī)模高,，該領(lǐng)域已被英偉達(dá)、Intel等巨頭瓜分殆盡,；國(guó)內(nèi)一眾AI從業(yè)者大多選擇發(fā)力在終端芯片領(lǐng)域,，如自動(dòng)駕駛、安防,、零售,、智能硬件等。但AI芯片終端市場(chǎng)細(xì)分化,、碎片化,、應(yīng)用場(chǎng)景不明確也是一大難題。
至于AI芯片落地難的原因可能有無(wú)數(shù)個(gè),。例如,，芯片研發(fā)比AI語(yǔ)言的更迭速度慢，當(dāng)芯片面市時(shí),，其采用的AI語(yǔ)言可能已經(jīng)過(guò)時(shí)了,。這種問(wèn)題首先體現(xiàn)在量產(chǎn)，但歸根結(jié)底,，缺乏殺手級(jí)應(yīng)用場(chǎng)景才是最致命的,。AI芯片廠商高投入研發(fā)過(guò)后,，卻不知道自己的產(chǎn)品要賣給哪些客戶或者說(shuō)應(yīng)用到哪些產(chǎn)品上，無(wú)法找到可持續(xù)性的落地場(chǎng)景,。
地平線的聯(lián)合創(chuàng)始人兼副總裁黃暢表示,，缺乏殺手級(jí)應(yīng)用使得現(xiàn)有的AI芯片大多沒(méi)有清晰的定位，無(wú)法高度優(yōu)化PPA,。做半導(dǎo)體的都知道PPA有多么重要,，尤其是Performance。AI芯片需要針對(duì)應(yīng)用場(chǎng)景進(jìn)行設(shè)計(jì),，以此來(lái)指導(dǎo)研發(fā)調(diào)整優(yōu)化方向，引導(dǎo)客戶進(jìn)行正確選擇,，同時(shí)能夠促進(jìn)行業(yè)有序協(xié)同向前發(fā)展,。
再者，用戶接受度也不高,，AI應(yīng)用所需要的數(shù)據(jù)閉環(huán)難以形成,。需要明確的是，AI應(yīng)用開發(fā)模式與傳統(tǒng)軟件開發(fā)流程不同,，傳統(tǒng)軟件開發(fā)可清晰定義功能,，通過(guò)編程就能實(shí)現(xiàn)；而AI應(yīng)用則要通過(guò)示例（數(shù)據(jù)）來(lái)定義功能再進(jìn)行開發(fā),，需要形成數(shù)據(jù)閉環(huán),，且自動(dòng)迭代。
“AI是一個(gè)全新領(lǐng)域,，AI芯片需要支撐的不僅是AI計(jì)算,，更要面向場(chǎng)景，實(shí)現(xiàn)完整的功能,。芯片公司多年的積累不是主要矛盾,，其主要矛盾是如何將軟硬件結(jié)合起來(lái)，開發(fā)出一個(gè)高效能,、低功耗,、低成本，同時(shí)能夠又快又準(zhǔn)的完成自主機(jī)器人的任務(wù),。AI芯片的成功不止于將ISP調(diào)的好,，能夠看清楚；也不是將傳統(tǒng)的語(yǔ)音算法做的更精進(jìn),，更不是說(shuō)一個(gè)傳統(tǒng)的車規(guī)芯片公司把CPU和DSP升級(jí)成一個(gè)NPU,，AI芯片沒(méi)有那么簡(jiǎn)單?！秉S暢如是說(shuō),。
在紛繁復(fù)雜的碎片化終端市場(chǎng)中,，最需要什么樣的AI芯片？黃暢認(rèn)為：“需要的是能極致優(yōu)化PPA的AI芯片,，這個(gè)PPA的提升需是數(shù)量級(jí)的,，要能適應(yīng)未來(lái)數(shù)年的算法演進(jìn)，同時(shí)充分考慮算法發(fā)展,，從而能真正替代GPU,。”
但黃暢也告訴半導(dǎo)體行業(yè)觀察記者,，目前AI芯片也有其可取之處,，例如，大多數(shù)AI芯片的工具鏈都能對(duì)場(chǎng)景深度學(xué)習(xí)框架有比較好的支持,，也培養(yǎng)了一些開發(fā)者,，在開發(fā)成本上有一定的降低，減少了對(duì)于Cuda之類的編程生態(tài)的依賴,。
誰(shuí)來(lái)定義AI芯片的“好壞”,？
都說(shuō)AI芯片難落地，客戶難評(píng)判,，那么一款A(yù)I芯片的“好壞”究竟如何來(lái)評(píng)估呢,？是TFLOPS？是TOPS,？還是MLPerf,？AI芯片界好像依然沒(méi)能找到完美體現(xiàn)真實(shí)性能的衡量標(biāo)準(zhǔn)。
為何這么說(shuō),？目前業(yè)界慣常使用的芯片評(píng)測(cè)標(biāo)準(zhǔn)有兩種,，一是峰值算力，但這只反映AI芯片理論上的最大計(jì)算能力,，而非在實(shí)際AI應(yīng)用場(chǎng)景中的處理能力,，具有很大的局限性；二是目前行業(yè)較為知名的基準(zhǔn)測(cè)試組織MLPerf,，但其采用的模型少且更新速度滯后于算法演進(jìn)的速度,，無(wú)法及時(shí)反映算法效率的提升以及各種精度下芯片能夠達(dá)到的計(jì)算速度，因而無(wú)法描述芯片AI性能的全貌,。
針對(duì)當(dāng)前AI芯片評(píng)測(cè)中存在的問(wèn)題,，地平線提出MAPS（Mean Accuracy-guaranteed Processing Speed）評(píng)測(cè)方法，針對(duì)應(yīng)用場(chǎng)景的特點(diǎn),，在精度有保障的前提下,，包容所有與算法相關(guān)的選擇，評(píng)估芯片對(duì)數(shù)據(jù)的平均處理速度,。為行業(yè)提供一個(gè)評(píng)估芯片AI性能的全新視角,。
“評(píng)估芯片AI性能,，本質(zhì)上應(yīng)該關(guān)注做AI任務(wù)的速度和精度，即‘多快’和‘多準(zhǔn)’,?！?/p>
黃暢介紹說(shuō)：“MAPS評(píng)測(cè)方法，能關(guān)注真實(shí)的用戶價(jià)值,，將每顆芯片在‘快’和‘準(zhǔn)’這兩個(gè)關(guān)鍵維度上的取舍變化直觀地展現(xiàn)出來(lái),，并在合理的精度范圍內(nèi)，評(píng)估芯片的平均處理速度,。這個(gè)方法具有可視化和可量化的特點(diǎn),。”
MAPS 聚焦“快”和“準(zhǔn)”兩個(gè)關(guān)鍵評(píng)測(cè)維度,，用最優(yōu)幀率精度所圍面積直接體現(xiàn) AI 芯片的最強(qiáng)能力
按照黃暢的說(shuō)法,，這個(gè)全新的MAPS評(píng)估方式對(duì)行業(yè)來(lái)說(shuō)有六大創(chuàng)新之處：
第一，它將芯片的Benchmark通過(guò)圖形變得可視化,，表達(dá)更精準(zhǔn)；
第二,，該方式關(guān)注真實(shí),、面向結(jié)果的需求，只在乎精度和速度,，不在乎中間任何關(guān)于算法的取舍和選擇,；
第三，可以統(tǒng)一表示精度與速度,，關(guān)注主流精度區(qū)間,；
第四，隱藏與最終結(jié)果無(wú)關(guān)的中間變量,，包括模型,、輸入大小、批處理的量是多大,；
第五,，通過(guò)MAPS評(píng)估方法可以在算力之外幫助用戶理解這個(gè)芯片到底能跑多快以及多好；
第六,，留有最大的空間引導(dǎo)客戶使用最優(yōu)的方式使用某一顆芯片,，這一點(diǎn)非常重要，是去真正指導(dǎo)客戶使用這個(gè)芯片的最佳實(shí)踐,。
芯片是個(gè)生態(tài)系統(tǒng),，單獨(dú)依靠一家之力是玩不轉(zhuǎn)的。地平線的MAPS評(píng)估標(biāo)準(zhǔn)最重要的意義是讓行業(yè)能夠形成一種合力,，讓大家更好的協(xié)同,，不管你是買方還是賣方,，大家都有一個(gè)相對(duì)清晰的目標(biāo)，容易形成共識(shí),、形成協(xié)力,，這樣才好健康地去推動(dòng)整個(gè)行業(yè)往前發(fā)展。黃暢表示,。
AI芯片花開兩朵：“旭日”東升,，“征程”萬(wàn)里
有了好的評(píng)估標(biāo)準(zhǔn)之后，AI產(chǎn)業(yè)向好,，經(jīng)歷過(guò)大風(fēng)大浪的AI芯片,，最終將落在哪些場(chǎng)景中呢？作為一家以“為客戶提供的智能化價(jià)值”的人工智能公司,，地平線將其AI芯片的種子灑向了AIoT和自動(dòng)駕駛航道,，花開兩朵，同心向陽(yáng),。
“做AI芯片需要企業(yè)有很強(qiáng)的洞察力,，要在三五年前找到落腳點(diǎn)，以創(chuàng)造真實(shí)的價(jià)值為導(dǎo)向,，本著長(zhǎng)期主義的精神堅(jiān)持不懈的走下去,。”黃暢談到,。
自動(dòng)駕駛被看作是AI芯片的殺手級(jí)應(yīng)用的潛力市場(chǎng),，近年來(lái)伴隨智能駕駛滲透率的提升，全球芯片巨頭也在紛紛向汽車這個(gè)產(chǎn)業(yè)靠攏,。汽車AI芯片市場(chǎng)未來(lái)仍是各大巨頭競(jìng)爭(zhēng)角逐之地,。目前在AI自動(dòng)駕駛方面，國(guó)外的英偉達(dá),、英特爾,、特斯拉，國(guó)內(nèi)的華為,、地平線,、寒武紀(jì)以及芯馳科技等一眾廠商都在深耕這個(gè)領(lǐng)域。
地平線是中國(guó)最早進(jìn)入AI芯片領(lǐng)域的人工智能企業(yè),。2015年,，在國(guó)內(nèi)AI芯片仍未進(jìn)入大眾視野時(shí)，地平線公司成立,，率先提出軟硬結(jié)合的BPU芯片架構(gòu),；2017年，發(fā)布中國(guó)第一款邊緣AI芯片：旭日一代和征程一代；2018年,，征程芯片助力國(guó)際頂尖Robotaxi車隊(duì),；2019年，宣布正式量產(chǎn)中國(guó)首款車規(guī)級(jí)AI芯片征程2,。
這幾年,，地平線在商業(yè)化的道路上越走越穩(wěn)。就拿征程2 來(lái)說(shuō),，該產(chǎn)品可全方位實(shí)現(xiàn)車內(nèi)場(chǎng)景化感知,，并基于感知結(jié)果為用戶提供更精準(zhǔn)的智能推薦以及智能車控等服務(wù)。
今年3月份,，地平線征程2登陸長(zhǎng)安UNI-T前裝量產(chǎn),，使長(zhǎng)安UNI-T成為首款搭載國(guó)產(chǎn)人工智能芯片的智能汽車，而且也讓它走在了世界前列,，成為全球首款智能人機(jī)交互SUV,。
眾所周知，車載AI芯片是人工智能行業(yè)的珠穆朗瑪,，也是自動(dòng)駕駛實(shí)現(xiàn)大規(guī)模落地的前提,。車規(guī)級(jí)芯片產(chǎn)品的開發(fā)周期長(zhǎng)、難度大,，是硬科技,、長(zhǎng)跑道的創(chuàng)新。在汽車芯片如此高標(biāo)準(zhǔn)以及長(zhǎng)供貨周期,、與主機(jī)廠長(zhǎng)久的合作關(guān)系下，汽車芯片一旦能夠量產(chǎn),，其供應(yīng)格局相對(duì)來(lái)說(shuō)就較為穩(wěn)定,。
雖然，相比市場(chǎng)前景更大,、場(chǎng)景更為復(fù)雜的自動(dòng)駕駛,，地平線在AIoT領(lǐng)域的聲量較小，但其重視程度絲毫不差,。據(jù)了解,，其旭日系列芯片所服務(wù)的客戶已過(guò)百家。去年發(fā)布的旭日2的表現(xiàn)也相當(dāng)亮眼,，在旭日2上的實(shí)際測(cè)試結(jié)果表明,，分類模型 MobileNet V2 的運(yùn)行速度超每秒 700 張圖片，實(shí)際性能能夠達(dá)到甚至超過(guò)業(yè)內(nèi)標(biāo)稱 4TOPS 算力的 AI 芯片,。
在AIoT領(lǐng)域,，地平線堅(jiān)持底層技術(shù)能力研發(fā)與解決方案的打造，加速普惠 AI 時(shí)代到來(lái)；在開發(fā)者生態(tài)方面,，地平線則通過(guò)工具鏈服務(wù)降低開發(fā)者門檻,，助力上層應(yīng)用產(chǎn)生，以此豐富整個(gè) AIoT 應(yīng)用生態(tài),，用行業(yè)的力量推動(dòng)行業(yè),。目前，地平線已攜手上百家 AIoT合作伙伴為產(chǎn)業(yè)提供賦能服務(wù),，實(shí)現(xiàn)線下場(chǎng)景服務(wù)數(shù)千萬(wàn)人口,。
結(jié)語(yǔ)
自去年旭日2的發(fā)布，又經(jīng)過(guò)近一年的商業(yè)化落地和技術(shù)錘煉,，面向AIoT市場(chǎng)的旭日3正呼之欲出,。在此，想劇透下,，此前,，地平線有在ImagetNet模型上進(jìn)行了一項(xiàng)MAPS測(cè)試，下圖中有一顆地平線即將推出的芯片,，在與表現(xiàn)最優(yōu)的標(biāo)稱11.4TOPS峰值算力的AI芯片對(duì)比中,，新的芯片雖然在高精度上稍有劣勢(shì)，但在追求速度和低延遲等場(chǎng)景中會(huì)有不俗的表現(xiàn),。9月9日上午,，“地平線”盡頭將再次升起一輪“旭日”！
ImageNet圖像分類 75~80.5%精度范圍內(nèi),， MAPS 評(píng)估方式下的主流芯片測(cè)試結(jié)果（右一折線為地平線最新一代芯片測(cè)試結(jié)果）