人工智能芯片的應(yīng)用場景細(xì)分市場越來越多,,隨著人臉識別等應(yīng)用的普及與發(fā)展,專門為AI應(yīng)用定制的芯片開始逐漸替代傳統(tǒng)的通用芯片。這樣的形勢,,給一些人工智能芯片的初創(chuàng)公司帶來了機(jī)會(huì)。這也使得各大AI算法公司紛紛推出自己的專用定制芯片,。
從技術(shù)架構(gòu)來看,,目前人工智能芯片主要可分為通用性芯片(比如常用的GPU)、半定制化芯片(FPGA),、全定制化芯片(ASIC),、類腦芯片四大類。
在全球范圍內(nèi),,AI芯片早已成為各行業(yè)巨頭最為重視的戰(zhàn)略高地,。Google很早就推出了自研的TPU;Nvidia在AI領(lǐng)域也是深耕多年,,并且在云端AI芯片,、汽車自動(dòng)駕駛領(lǐng)域占據(jù)了很大的市場;2017年,,Intel以150多億美金收購了ADAS/自動(dòng)駕駛AI芯片及解決方案廠商Mobileye,,此外還收購了AI芯片公司Movidius;Facebook也有在芯片方向布局,;不久前,,Tesla也推出了自己的自動(dòng)駕駛AI芯片。
而在國內(nèi),,如百度在2018年就發(fā)布了云端AI芯片“昆侖”,;阿里去年也收購了中天微,并且還成立了平頭哥半導(dǎo)體公司,;同時(shí),,在去年,眾多的語音AI算法廠商(如云知聲,、Rokid,、思必馳等)及視覺AI算法廠商(如地平線、云天勵(lì)飛等)也都紛紛推出了自己的AI芯片,。
顯然,,AI算法廠商推出自有的AI芯片,加速自身AI技術(shù)能夠更好更快的落地,,已經(jīng)成為了一大趨勢,。
摩爾定律終結(jié),算法即芯片開啟新時(shí)代
2019年5月9日,,依圖科技在上海舉行“極智·求索——依圖科技產(chǎn)品發(fā)布會(huì)”,,并在會(huì)上發(fā)布了自研云端視覺推理AI芯片questcore?,,以及基于該芯片構(gòu)建的軟硬件一體化系列產(chǎn)品和行業(yè)解決方案。
官方宣稱,,questcore?是目前全球最智能,、性價(jià)比最高的視覺推理芯片。這款A(yù)I芯片是由依圖科技和AI芯片初創(chuàng)團(tuán)隊(duì)ThinkForce聯(lián)合開發(fā)的,。
而需要指出的是,,ThinkForce則是依圖科技投資的一家AI芯片公司。2017年ThinkForce曾獲得依圖科技,、云鋒基金,、紅杉資本、高瓴資本的4.5億元A輪融資,。
依圖科技聯(lián)合創(chuàng)始人,、CEO 朱瓏博士現(xiàn)場分享了他對 AI 芯片的看法。在演講中,,朱瓏博士表示,,依圖預(yù)見,摩爾定律的終結(jié)和人工智能技術(shù)的發(fā)展將開啟一個(gè)新的時(shí)代——算法即芯片時(shí)代,?!八惴葱酒@句話非常本質(zhì),只有能找對問題,,找對場景,,用對算法,并為此定制芯片,,才有可能做到極致性價(jià)比,。”
早在2017年,,ThinkForce就宣布要發(fā)布AI芯片,,不過從研發(fā)設(shè)計(jì)到流片及最終量產(chǎn)需要花費(fèi)大量的時(shí)間進(jìn)行產(chǎn)品驗(yàn)證。
盡管早在2018年就有數(shù)據(jù)AI算法公司發(fā)布了芯片,,但是呂昊認(rèn)為,2018年發(fā)布的產(chǎn)品大部分以PPT為主,,并沒有實(shí)現(xiàn)量產(chǎn)商用,,也沒有經(jīng)過市場驗(yàn)證。相對2018年,,2019年才是AI芯片的交卷的一年,。“我們5月的發(fā)布是直接商用,,畢竟我們不是一個(gè)傳統(tǒng)做芯片廠商,,不是為了賣這顆芯片為目的來做這件事情,。”呂昊表示,,從時(shí)間點(diǎn)來看,,此次發(fā)布的AI芯片并不晚于任何一家同行公司。
依圖科技還在現(xiàn)場向業(yè)界展示了其技術(shù)前瞻性和垂直整合的能力,,成為眾多明星初創(chuàng)企業(yè)中,,率先將基礎(chǔ)算力和高端算法等核心實(shí)力同時(shí)握于手中的人工智能公司。
依圖questcore:性能強(qiáng)大,、高能效,、高性價(jià)比
據(jù)介紹,依圖questcore?采用16nm工藝,,基于Arm內(nèi)核 ThinkForce自主研發(fā)的微內(nèi)核ManyCore架構(gòu),,同時(shí)還針對依圖領(lǐng)先的AI算法做了專門優(yōu)化,能夠充分發(fā)揮依圖在機(jī)器視覺領(lǐng)域的專業(yè)積累和行業(yè)知識,,適用于人臉識別,、視頻結(jié)構(gòu)化分析、行人再識別等多種圖像和視頻實(shí)時(shí)智能分析任務(wù),。
在實(shí)際的云端應(yīng)用場景,,依圖 questcore? 最高能提供每秒15 TOPS的視覺推理性能,可以支持64路全高清實(shí)時(shí)解碼,。最大功耗僅20W,,比一個(gè)普通的電燈泡還小。在同等功耗下,,依圖questcore?產(chǎn)品的視覺推理性能是市面現(xiàn)有主流同類產(chǎn)品的2~5倍,。
不過,目前這款A(yù)I芯片并不對外,,主要是依圖自用,,將主要用在依圖的云端和邊緣服務(wù)器上,結(jié)合產(chǎn)品和行業(yè)解決方案一起售賣,。雖然是自用,,但由于依圖的應(yīng)用場景很廣泛,因此足以支撐起其產(chǎn)品升級,。另據(jù)透露,,依圖下一代的AI芯片目前也已經(jīng)在研發(fā)當(dāng)中。
此外,,依圖還推出了基于questcore? 打造的原子服務(wù)器,。根據(jù)官方的數(shù)據(jù)顯示,一臺依圖原子服務(wù)器提供的算力與 8 張英偉達(dá)P4卡服務(wù)器相當(dāng),而體積僅為后者的一半,,但功耗卻不到20%,。
在進(jìn)行視頻解析時(shí),1臺依圖原子服務(wù)器(搭載4核 questcore?芯片,,除此之外無需其他配置),,與8卡英偉達(dá)T4服務(wù)器(含雙核英特爾 x86 CPU)對比,單路視頻解析功耗僅為后者的 20%,,與8卡英偉達(dá)P4 服務(wù)器(同樣含雙核英特爾 x86 CPU)相比,,功耗約為后者的10%。
在發(fā)布會(huì)現(xiàn)場的插電演示中,,依圖科技首席創(chuàng)新官呂昊博士手持一臺體積與15 英寸蘋果 MacBook Pro筆記本相當(dāng)?shù)囊缊D原子服務(wù)器,,成功帶動(dòng)200路攝像頭同時(shí)完成實(shí)時(shí)智能視頻分析任務(wù),引發(fā)在場嘉賓強(qiáng)烈反響,。
在智慧城市,、安防、無人零售等領(lǐng)域,,需要解決大量的視頻分析,。呂昊表示,這顆AI芯片定位為一顆云端芯片,,主要應(yīng)用于視頻解析等任務(wù)?,F(xiàn)場演示表明,單條主干道或者一整個(gè)小型園區(qū)所需的智能終端設(shè)備,,只需要這樣小小一臺單手可持的服務(wù)器便能驅(qū)動(dòng),,為智慧城市、智慧交通,、智能安防,、智能零售等大規(guī)模AI行業(yè)應(yīng)用的落地和普及奠定了堅(jiān)實(shí)的基礎(chǔ)。
當(dāng)然,,對于客戶來說,,數(shù)據(jù)中心的成本也是至關(guān)重要的需要考量的因素。依圖表示,,數(shù)據(jù)中心應(yīng)該讓客戶“建得起,、用得省、算得準(zhǔn)”,,使用依圖 questcore?構(gòu)建的視頻解析系統(tǒng),,可將原本需要 16 臺機(jī)柜的方案壓縮到 1 臺,使整體建設(shè)費(fèi)用投入減少 50%,,運(yùn)維成本降低 80%。
不僅如此,依圖原子服務(wù)器能夠直接在云端升級系統(tǒng),,不需要大規(guī)模購買或者更新已有的攝像頭,、傳感器等終端設(shè)備,大幅提高了現(xiàn)有基礎(chǔ)設(shè)施的利用率,。
替代英偉達(dá)P4,,未來將挑戰(zhàn)50萬路應(yīng)用
以“城市大腦”應(yīng)用為例,如果采用傳統(tǒng)的英偉達(dá)的P4方案,,成本高昂(2000美金),,不是所有企業(yè)都可以負(fù)擔(dān)。采用AI芯片后,,一萬路的解決方案不再需要超大的數(shù)據(jù)中心來進(jìn)行處理,,同時(shí)可以挑戰(zhàn)更大型的50萬路方案。采用這款A(yù)I芯片,,將為依圖的服務(wù)器節(jié)省1/3的體積和能耗,,同時(shí)讓依圖的產(chǎn)品解決方案發(fā)生巨大變化。
依圖強(qiáng)調(diào),,由于這款A(yù)I芯片是自用,,所以目前并沒有對標(biāo)的同類的產(chǎn)品。不過將取代之前自己采用的英偉達(dá)P4,、T4方案,。
呂昊表示,如果說硬要比較的話,,前段時(shí)間特斯拉推出的AI芯片F(xiàn)SD在設(shè)計(jì)上有很多相似之處,,雖然具體應(yīng)用不同,但都專注于視頻解析能力的提升,。 因此依圖的這顆AI芯片同樣也適用于智能駕駛應(yīng)用,。
中國獨(dú)角獸公司有何底氣挑戰(zhàn)Nvidia等AI芯片巨頭?
作為一家AI芯片公司,,其競爭對手往往是半導(dǎo)體行業(yè)的傳統(tǒng)巨頭,,比如英特爾、英偉達(dá)這樣的公司,。在芯片的制造工藝,、設(shè)計(jì)等各方面人才儲備是有絕對優(yōu)勢的。不過這并不表示初創(chuàng)公司就沒有機(jī)會(huì)了,,因?yàn)槌鮿?chuàng)公司針對的應(yīng)用市場往往比較單一,,不需要提供復(fù)雜的芯片設(shè)計(jì)來適應(yīng)通用市場。
呂昊認(rèn)為,,AI時(shí)代來臨的一個(gè)機(jī)會(huì)是摩爾定律難以繼續(xù)下去了,。單位面積晶體管數(shù)量的提升終將觸及物理極限。與此同時(shí),智能算法的性能仍在萬倍增長,,以依圖自主研發(fā)的人臉識別算法為例,,過去4年算法精度提升了100萬倍。
人工智能的提升不能再依靠晶體管密度的提升,,而需要對芯片設(shè)計(jì),、整個(gè)體系結(jié)構(gòu)做調(diào)整。同時(shí)算法的調(diào)整,、上層應(yīng)用,、軟件的設(shè)計(jì)業(yè)至關(guān)重要。因此,,在此次5月9日的發(fā)布會(huì)上,,依圖提出了“算法即芯片”的戰(zhàn)略。
“我們非常相信垂直整合之后能夠給我們帶來突破,,這個(gè)是我們和傳統(tǒng)芯片廠商最大的區(qū)別,。” 呂昊認(rèn)為,,AI時(shí)代算法和芯片需要強(qiáng)耦合才能夠在這樣一個(gè)比較復(fù)雜的設(shè)計(jì)空間里面找到一個(gè)更有競爭力的設(shè)計(jì),。
對于依圖這樣一直深耕算法的公司來說,“算法級芯片”代表算法公司有很大的優(yōu)勢,。在同類算法公司中,,依圖的人臉識別算法的精度是其他廠商的100倍以上。除了視頻算法以外也有做語音算法,,語義理解算法也登上了最近的《Nature Medicine》雜志,。此外,依圖對行業(yè)具體應(yīng)用場景的應(yīng)用如安防,、醫(yī)療也投入巨大,,這也讓依圖選擇自己研發(fā)芯片有了底氣。
依圖的另一個(gè)優(yōu)勢是對未來算法發(fā)展趨勢的預(yù)判,,呂昊表示依圖與ThinkForce在一起研究迭代了非常長的時(shí)間,、做了非常多的實(shí)驗(yàn)。對很多算法是有一個(gè)比較深的判斷,,尤其是視覺推理,。通過實(shí)踐,“我們很早在自己的模型上知道了低精度的INT8的設(shè)計(jì)是云端推理芯片一個(gè)必然的趨勢,。這不是所有廠商都能判斷對的,。”
由于對算法的精準(zhǔn)預(yù)判,,依圖得以通過ASIC提前固化一些算法,,以應(yīng)對AI算法的不斷提升以及變化,。最后,通過AI芯片能夠在更小的設(shè)備和更好的功耗上完成更高的智能密度,,有機(jī)會(huì)與傳統(tǒng)芯片廠商在同一起跑線競爭,,甚至實(shí)現(xiàn)彎道超車。
隨著云端AI芯片及一系列產(chǎn)品的發(fā)布,,從技術(shù)維度,依圖已具備視覺,、語音,、自然語言理解和智能決策等多個(gè)技術(shù)領(lǐng)域達(dá)到甚至領(lǐng)跑世界領(lǐng)先水平,全面解決機(jī)器看,、聽,、理解的根本問題,同時(shí)致力于提升算法精度,、拓寬算法廣度,。
從業(yè)務(wù)應(yīng)用維度,芯片及系列硬件產(chǎn)品的發(fā)布將強(qiáng)化依圖行業(yè)垂直整合的布局,,通過世界級的算法,、芯片、服務(wù)器和管理軟件,,構(gòu)建更高性能,、更低成本的芯片和硬件產(chǎn)品,讓算法對芯片的全面賦能,,更將驅(qū)動(dòng)人工智能在更多場景下的應(yīng)用和落地,。
AI算法的未來,精度繼續(xù)提升的意義在哪里,?
依圖科技首席創(chuàng)新官呂昊也在會(huì)后第一時(shí)間接受了芯智訊記者采訪,,并詳細(xì)介紹了依圖科技的“算法即芯片”戰(zhàn)略。
提到未來趨勢,,呂昊表示AI算法精度一定會(huì)繼續(xù)不斷的提升,。那么算法識別率從99%提升到99.9%的意義是什么呢?呂昊認(rèn)為,,以人臉解鎖為例,,人臉的算法精度不斷提升就能不斷解鎖應(yīng)用場景。
比如簡單的1:1人證核驗(yàn),,對精度要求不高,,因此很多廠商都免費(fèi)了。往上一步,,門禁,、閘機(jī),、園區(qū)方案可能對算法要求更高。比如說去年整個(gè)華為園區(qū)都是用依圖的門禁閘機(jī)系統(tǒng),。
再往上的應(yīng)用包括地鐵刷臉,、刷臉支付,現(xiàn)在很多刷臉支付場景都需要你輸入手機(jī)號碼,,這個(gè)體驗(yàn)上就比較差,,站在你后面的人就能看到前面的人的手機(jī)號,就不那么的智能,。要想突破這些場景下的應(yīng)用就必須要有精度非常高的人臉識別,。
這些應(yīng)用再提升到城市級別的大規(guī)模應(yīng)用,比如公安視頻監(jiān)控,、反恐等,,對于算法的精度要求就更高了。所以算法精度不斷地提升是有非常大意義的,。就是低于某個(gè)線的性能的算法幾乎就不值錢,,只有到你這個(gè)是市場上有你的稀缺性的時(shí)候才能體現(xiàn)出你的價(jià)值?!斑@個(gè)是為什么依圖這么專注地不斷提高自己算法精度的一個(gè)根本原因,,并不是為了炫酷、秀肌肉,?!眳侮槐硎尽?/p>
依圖大事記
上海依圖網(wǎng)絡(luò)科技有限公司成立于2012年9月,,由朱瓏,、林晨曦共同創(chuàng)立。
依圖科技人工智能技術(shù)的應(yīng)用領(lǐng)域包括:智能安防,、依圖醫(yī)療,、智慧金融、智慧城市,、智能硬件等,。
2017年7月,依圖科技在由美國國家標(biāo)準(zhǔn)技術(shù)局(NIST)主辦的全球人臉識別測試(FRVT)中奪得第一,,成績在千萬分之一誤報(bào)下達(dá)到識別準(zhǔn)確率95.5%,,是當(dāng)時(shí)全球工業(yè)界在此項(xiàng)指標(biāo)下的最好水平。根據(jù)2018年6月的官方報(bào)告,,依圖已將這一指標(biāo)提升到了接近極限的水平,,即在千萬分之一誤報(bào)下的識別準(zhǔn)確率已經(jīng)接近 99%。
2018年6月依圖科技完成由高成資本,、工銀國際,、浦銀國際的2億美元C 輪融資,。
2018年7月16日,依圖科技完成興業(yè)國信資管1億美元融資,。
2019年5月9日,,依圖科技在上海舉行“極智·求索——依圖科技產(chǎn)品發(fā)布會(huì)”,并在會(huì)上發(fā)布了自研云端視覺推理AI芯片questcore?,,以及基于該芯片構(gòu)建的軟硬件一體化系列產(chǎn)品和行業(yè)解決方案,。