業(yè)內(nèi)知名媒體EE Times每年都會(huì)舉辦“Silicon 60”評(píng)選活動(dòng),選出全球最值得關(guān)注的60家半導(dǎo)體新創(chuàng)公司,。統(tǒng)計(jì)顯示,,今年選出來的“Silicon 60”企業(yè)以機(jī)器學(xué)習(xí)為主流,共有15家相關(guān)企業(yè)入選,,與去年七月相比大幅提升,,這從側(cè)面反映了近年來AI產(chǎn)業(yè)的流行。
值得一提的是,,總部設(shè)在美國加利福尼亞州的企業(yè)出現(xiàn)在榜單中的頻率越來越高,,今年更是有29家之多,當(dāng)中大多與人工智能芯片有關(guān),,其中有一家企業(yè)更是首次入選——那就是由加州大學(xué)洛杉磯分校電子工程系博士劉峻誠創(chuàng)立的耐能(Kneron),。
耐能科技的創(chuàng)始人兼CEO劉峻誠
資料顯示,該公司2015年創(chuàng)立于美國圣地亞哥,,是終端人工智能解決方案的領(lǐng)導(dǎo)廠商,,提供軟硬件整合的解決方案,包括終端設(shè)備專用的神經(jīng)網(wǎng)絡(luò)處理器(Neural Processing Unit,,NPU)以及各種圖像識(shí)別軟件,。依賴于其高能耗的產(chǎn)品,耐能已經(jīng)也與格力和搜狗等多家大廠達(dá)成了長(zhǎng)期合作,。公司更是在推出了兩代IP產(chǎn)品之后,,謀劃于明年推出ASIC芯片,進(jìn)一步深耕人工智能應(yīng)用市場(chǎng),。
為了讓大家對(duì)這家人工智能新貴有更深入的了解,,半導(dǎo)體行業(yè)觀察記者日前采訪了耐能的創(chuàng)始人兼CEO劉峻誠,給大家?guī)硭麑?duì)公司和行業(yè)的最新見解,。
實(shí)力雄厚團(tuán)隊(duì)締造的人工智能IP新貴
過去幾年深度學(xué)習(xí)算法準(zhǔn)確率的提升,,推動(dòng)了整個(gè)人工智能應(yīng)用的興旺,巨大的市場(chǎng)容量吸引了大量的創(chuàng)業(yè)者投身其中,。尤其是在邊緣終端AI芯片方面,,更是百花齊放,百家爭(zhēng)鳴,。但這些企業(yè)做邊緣端AI芯片,,只有兩個(gè)途徑可供選擇,那就是自研人工智能IP,,或者授權(quán)第三方的NPU IP,,而耐能在創(chuàng)業(yè)初期就是從NPU IP切入,,也是當(dāng)中的一個(gè)佼佼者。
今年年初,,該公司推出的第一代NPU IP在市場(chǎng)獲得了高度認(rèn)可,。但銳意創(chuàng)新的耐能馬不停蹄,在短短的半年之后,,就帶來了其第二代終端人工智能處理器系列NPU IP ——KDP Series,。當(dāng)中包括了超低功耗版KDP 320、標(biāo)準(zhǔn)版KDP 520,、高效能版KDP 720等三大產(chǎn)品,,全系列產(chǎn)品的功耗低于0.5瓦(W),采用新的架構(gòu)設(shè)計(jì)讓計(jì)算更具彈性,,整體效能相較于上一代產(chǎn)品大幅提升達(dá)3倍,峰值吞吐量(Peak Throughput)最高更是可以達(dá)到5.8TOPS(每秒萬億次計(jì)算),。
耐能的第二代NPU核心技術(shù)
劉峻誠表示,,耐能新一代NPU產(chǎn)品在諸多方面取得顯著的突破,基于第一代產(chǎn)品的優(yōu)勢(shì),,改善數(shù)據(jù)計(jì)算流程,、提升整體計(jì)算效能與儲(chǔ)存資源使用率,同時(shí)針對(duì)不同的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行優(yōu)化,,讓NPU可以更廣泛地應(yīng)用在各種終端設(shè)備,,并滿足更復(fù)雜的計(jì)算需求。新的IP的出現(xiàn),,也讓耐能在11月初正式推出支付等級(jí)3D AI軟硬件一體化解決方案,,進(jìn)入新一個(gè)高增長(zhǎng)的市場(chǎng)。
耐能的NPU產(chǎn)品線
在問到如何在群雄并立的AI芯片市場(chǎng)站穩(wěn)腳跟,,并且在短短半年間就可以做到產(chǎn)品更新的時(shí)候,,劉峻誠告訴半導(dǎo)體行業(yè)觀察的記者,這首先依賴于其實(shí)力雄厚的技術(shù)團(tuán)隊(duì),。
“耐能的核心團(tuán)隊(duì)成員都有很強(qiáng)的技術(shù)背景,,來自加州大學(xué)洛杉磯分校、圣地亞哥分校以及普渡大學(xué),、北京清華大學(xué),、臺(tái)灣大學(xué)、新竹清華大學(xué)等名校,,而且長(zhǎng)期任職于高通,、英特爾、三星,、博通,、IBM,、貝爾實(shí)驗(yàn)室等國際大廠,在AI,、計(jì)算機(jī)視覺和圖像處理領(lǐng)域的工作經(jīng)驗(yàn)平均超過10年,。同時(shí),公司在自主原創(chuàng)的人工智能算法,、神經(jīng)網(wǎng)絡(luò)軟件,、硬件核心設(shè)計(jì)等領(lǐng)域,已在4個(gè)國家共申請(qǐng)了近20項(xiàng)專利,?!保瑒⒕\說,。
其次,,耐能在圣地亞哥、臺(tái)北,、深圳,、珠海都設(shè)有辦公室,布局兩大洲四個(gè)城市,。這也加速了他們的崛起,。劉峻誠指出,美國和中國大陸的AI技術(shù)更新迅速,、市場(chǎng)龐大,,臺(tái)灣能提供從設(shè)計(jì)、封裝到測(cè)試都很齊全的供應(yīng)鏈,,這就使耐能的產(chǎn)品可以快速落地并交付給客戶,。
第三,耐能起步早,,和不少大廠都有長(zhǎng)期合作,,從中獲取了大量訓(xùn)練數(shù)據(jù),加上耐能自主開發(fā)的算法,,可以針對(duì)不同需求調(diào)整功能,。
在團(tuán)隊(duì)和產(chǎn)品的雙重影響下,耐能于2017年11月完成A輪融資,,包含阿里巴巴創(chuàng)業(yè)者基金,、中華開發(fā)資本國際、奇景光電,、高通,、中科創(chuàng)達(dá)、紅杉資本的子基金Cloudatlas以及創(chuàng)業(yè)邦,。2018年5月31日,,耐能又獲得了由李嘉誠旗下維港投資領(lǐng)投的A+輪融資,,累計(jì)融資金額超過3300萬美元。
“現(xiàn)在,,耐能正在進(jìn)行新一輪融資,,近期便將向外界公布?!?,劉峻誠強(qiáng)調(diào)。相信其聚焦市場(chǎng)的容量,,對(duì)耐能吸引投資產(chǎn)生了重要的推動(dòng)作用,。
聚焦三大市場(chǎng)讓AI無處不在
劉峻誠告訴半導(dǎo)體行業(yè)觀察的記者,耐能產(chǎn)品主要應(yīng)用于智能手機(jī),、智能家居與智能安防等三大領(lǐng)域,。當(dāng)中的應(yīng)用場(chǎng)景包括了智能手機(jī)、智能門鎖,、智能家電,、智能監(jiān)控?cái)z像機(jī)、門禁系統(tǒng),、無人機(jī)、新零售,、智能玩具等,。公司的客戶、合作伙伴也包括了格力,、搜狗,、奇景光電等廠商。
能同時(shí)覆蓋這三個(gè)市場(chǎng)巨大的市場(chǎng),,耐能各具特性的的超低功耗,、標(biāo)準(zhǔn)和高效能的三大產(chǎn)品線布局是根本:
首先看其低功耗版的KDP 320。從劉峻誠的介紹我們得知的,,這個(gè)包含計(jì)算與靜態(tài)隨機(jī)存取內(nèi)存(SRAM)的處理器功耗不到5mW,,能夠應(yīng)用到低功耗智能終端和手機(jī)等領(lǐng)域,而手機(jī)3D面部識(shí)別應(yīng)用就是其一個(gè)重要的應(yīng)用方向,。據(jù)了解,,依靠于耐能的這個(gè)方案,可進(jìn)行3D結(jié)構(gòu)光與來自雙鏡頭的立體圖像識(shí)別分析,,讓真人面部識(shí)別更快速精準(zhǔn),;
其次,再看標(biāo)準(zhǔn)版的KDP 520,,這個(gè)處理器的計(jì)算能力可達(dá)481GOPS (500MHz) (每秒十億次計(jì)算),,功耗也是僅有100mW,。可進(jìn)行快速實(shí)時(shí),、大規(guī)模的面部,、手勢(shì)、身體識(shí)別與分析以及深度學(xué)習(xí),,是智能家居和安防市場(chǎng)的不二選擇,。
第三,高效能版的KDP 700信息吞吐量可高達(dá)5.8TOPS(1GHz) (每秒萬億次計(jì)算),,功耗為300~500mW,。這樣優(yōu)異的計(jì)算能力,讓它能處理更進(jìn)階與復(fù)雜的人工智能計(jì)算,,以及深度學(xué)習(xí)推理應(yīng)用,,能夠滿足高端智能手機(jī)、機(jī)器人,、無人機(jī)和更高端的安防需求,。
在這三大系列IP的加持下,耐能于今年11月舉辦的2018騰訊全球合作伙伴大會(huì)上帶來了支付等級(jí)的3D AI軟硬件一體化解決方案,。
眾所周知,,近年來,由于智能手機(jī)和安防等應(yīng)用的推動(dòng),,人臉識(shí)別的應(yīng)用越來越廣泛,。國際權(quán)威市場(chǎng)洞察報(bào)告gen market insights在其名為《全球人臉識(shí)別設(shè)備市場(chǎng)研究報(bào)告》的報(bào)告中指出,全球的人臉識(shí)別市場(chǎng)將從2017的10.7億美元上升到2025年的71.1億美元,,并在此期間以每年26.8%的增量不斷提升,。耐能的方案就是為了解決這個(gè)問題而來的。
據(jù)介紹,,這套方案能夠采用商業(yè)化等級(jí)的CNN(Convolutional Neural Network , 卷積神經(jīng)網(wǎng)絡(luò))模型,,適配于主流的CNN網(wǎng)絡(luò),以及2D,、3D視覺應(yīng)用與音頻應(yīng)用,。同時(shí),擁有領(lǐng)先的模型壓縮技術(shù),,支持無損,、有損壓縮,并與硬件設(shè)計(jì)協(xié)同工作,,可減少模型尺寸和計(jì)算成本,。能夠滿足結(jié)構(gòu)光、ToF和雙目視覺等多種硬件方案下的多種識(shí)別需求,。
“依托超低功耗,、擁有全球領(lǐng)先算力的耐能KDP系列AI芯片IP加持,,耐能3D AI軟硬件一體化解決方案在智能手機(jī)、智能安防,、智能家居,、新零售、工業(yè)智聯(lián)網(wǎng)等領(lǐng)域均有不俗表現(xiàn),。我們現(xiàn)在也已經(jīng)與多家國際大廠展開合作,,預(yù)計(jì)將在2019年 Q2 大規(guī)模量產(chǎn)?!眲⒖≌\強(qiáng)調(diào),,并進(jìn)一步指出,“耐能將持續(xù)專注終端AI領(lǐng)域,,提供客制化的,、軟硬件整合的解決方案,以AI賦能終端設(shè)備,,讓AI無處不在,。在產(chǎn)品形態(tài)上,近期將對(duì)NPU產(chǎn)品進(jìn)行持續(xù)升級(jí),,推出更高算力,、更低功耗、更小體積的產(chǎn)品,,以降低AI應(yīng)用門檻與客戶開發(fā)成本,。長(zhǎng)期來看,則將從視覺識(shí)別延伸至語音識(shí)別,、人腦模擬等領(lǐng)域,在更長(zhǎng)的產(chǎn)品線上為客戶創(chuàng)造價(jià)值,?!?/p>
在10月的北京安博會(huì)上,奇景光電推出了基于結(jié)構(gòu)光技術(shù)的3D傳感解決方案,,該方案采用的便是耐能的人臉識(shí)別算法,。而在12月中旬,據(jù)臺(tái)灣媒體報(bào)道,,鈺創(chuàng)科技,、鈺立微電子宣布推出基于耐能NPU IP的ToF方案。至于雙目視覺方案,,據(jù)悉在2018騰訊全球合作伙伴大會(huì)上也已展出,,不過相關(guān)廠商的名稱尚未公開,對(duì)此,,劉峻誠的回復(fù)是“基于保密義務(wù),,暫不便說明,。”
攜手業(yè)內(nèi)領(lǐng)先IP供應(yīng)商探索未來的無限可能
除了持續(xù)推出領(lǐng)先的人工智能IP外,,耐能還聯(lián)手業(yè)內(nèi)領(lǐng)先處理器IP和機(jī)器視覺IP供應(yīng)商,,探索更多的可能。
今年12月初,,耐能宣布,,將結(jié)合耐能針對(duì)終端設(shè)備所設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)處理器(Neural Processing Unit , NPU)與新思科技(Synopsys )ARC?處理器,推出低功耗AI IP解決方案,。雙方將共同展開進(jìn)一步的合作推廣計(jì)劃,,攜手拓展市場(chǎng),以加速終端人工智能的開發(fā)與應(yīng)用,。
行內(nèi)的人都知道,,除了其領(lǐng)先的EDA工具好之外,新思科技在IP方面的表現(xiàn)也非常出色,。而ARC?處理器IP則是其中的一個(gè)代表,。從他們的官網(wǎng)我們可以看到,新思科技的 DesignWare? ARC? 處理器是 32 位 CPU,,經(jīng) SoC 設(shè)計(jì)人員的優(yōu)化,,可滿足各種不同用途的需求,從各類細(xì)分市場(chǎng)深度嵌入式應(yīng)用到高性能主機(jī)應(yīng)用,,不一而足,。設(shè)計(jì)人員可利用可綜合來定制各個(gè) ARC 核實(shí)例,使產(chǎn)品各不相同,,以滿足特定性能,、功耗和面積的要求。ARC?處理器還具有可延展性,,可讓設(shè)計(jì)人員添加自己的定制指令,,從而大大提高性能。 全球已有超過 225 家客戶使用新思科技ARC?處理器,,這些客戶每年總共產(chǎn)出 19 多億塊基于 ARC?處理器IP的芯片,。雙方的強(qiáng)強(qiáng)聯(lián)合必能給終端應(yīng)用帶來無限可能。
劉峻誠也表示:“結(jié)合耐能NPU 低功耗,、體積小的特性與新思科技ARC?處理器的優(yōu)異性能,,協(xié)助客戶采用終端人工智能解決方案的進(jìn)度。低功耗AI IP解決方案可應(yīng)用于智能家居,、3D人臉解鎖以及對(duì)能耗和空間有高度要求的物聯(lián)網(wǎng)設(shè)備,,且能滿足復(fù)雜的計(jì)算需求。”
與另一家IP供應(yīng)商Cadence(楷登電子)的合作,,進(jìn)一步拓展了耐能產(chǎn)品的應(yīng)用范圍,。在談雙方搞的合作之前,我們要先介紹一下Cadence的可定制處理器(Xtensa),。
業(yè)內(nèi)知名專家唐杉曾在其一篇文章中提到,,Cadence Tensilica的可定制處理器(Xtensa)主要有兩方面的定制性:第一、可配置性(Configurability):從指令集,,微結(jié)構(gòu),,接口等方面都提供一些可配置的選項(xiàng)。你可以通過菜單選擇的方式定制適合你自己應(yīng)用的處理器,;第二,、可擴(kuò)展性(Extensibility):使用Tensilica Instruction Extension (TIE)的方法,增加你自己的指令,,寄存器,,寄存器堆等等。你可以使用和verilog類似的TIE語言來描述自己的datapath單元的功能,,而相應(yīng)的RTL代碼和工具鏈則自動(dòng)生成,。Cadence的Tensilica Vision P6 DSP則是雙方這次合作的一個(gè)重點(diǎn)。
據(jù)介紹,,這個(gè)DSP是以Cadence Tensilica Xtensa架構(gòu)為基礎(chǔ),,結(jié)合靈活硬件選項(xiàng)與豐富圖像、視覺DSP功能,,以及眾多來自既有生態(tài)系統(tǒng)合作伙伴的圖像,、視覺應(yīng)用程序,該軟件環(huán)境提供包括對(duì)1700多個(gè)基于OpenCV的視覺和OpenVX?1.1庫函數(shù)的完整與優(yōu)化的支持,,并全面支持Tensilica廣大的其他應(yīng)用軟件,、模擬、晶圓與服務(wù)等合作伙伴生態(tài)系統(tǒng),。
在劉峻誠看來,,這個(gè)DSP結(jié)合耐能低能耗、高計(jì)算力的人工智能處理器NPU IP KDP 720,,可以滿足他們創(chuàng)新圖像應(yīng)用的需求。通過采用此整合性方案,,芯片廠商能夠輕松地與主機(jī)處理器整合,,加速SoC的開發(fā)進(jìn)度,為新興的智能設(shè)備開發(fā)更豐富的視覺功能,。
而在此前,,耐能還與智原科技(Faraday)、晶心科技(Andes)、創(chuàng)意電子(GUC)等頭部IP廠商達(dá)成合作,,從而構(gòu)建起匯聚國際一眾頭部IP廠商的供應(yīng)鏈,。在業(yè)內(nèi)諸多NPU廠商中,這樣的供應(yīng)商陣容已足夠亮眼,。
對(duì)于系統(tǒng)廠做終端AI芯片的看法
由于芯片的開發(fā)越來越簡(jiǎn)單,,終端客戶的客制化需求也越來越高,這就驅(qū)使很多終端系統(tǒng)廠走上自研AI芯片之路,,甚至有些廠商連人工智能NPU IP也都自主研發(fā),,這就從某種程度上壓逼了IP供應(yīng)商和芯片供應(yīng)商的生存空間。華為在今年10月舉辦華為2018全聯(lián)接大會(huì)上推出了其兩款采用自主研發(fā)加速器IP的AI芯片Ascend 910和Ascend 310,,就引發(fā)了媒體對(duì)其相關(guān)供應(yīng)商的生存大討論,。
在問到這個(gè)問題的時(shí)候,劉峻誠告訴半導(dǎo)體行業(yè)觀察的記者:“各界廠商爭(zhēng)相涌入,,表明AI的發(fā)展成果和前景正得到日益廣泛的認(rèn)可,。耐能樂見AI芯片市場(chǎng)持續(xù)壯大,并期待和友商一起推動(dòng)產(chǎn)業(yè)進(jìn)步,。同時(shí),,不同廠商的產(chǎn)品方向與應(yīng)用領(lǐng)域各異,彼此形成既競(jìng)爭(zhēng)又合作的關(guān)系,。在AI產(chǎn)業(yè)從野蠻生長(zhǎng)向精細(xì)發(fā)展過渡的階段,,這種競(jìng)合關(guān)系將加速產(chǎn)業(yè)洗牌,投機(jī)者將被淘汰,,深耕細(xì)分市場(chǎng)的企業(yè)則有望異軍突起,。”
“耐能專注終端AI領(lǐng)域,,面向智能手機(jī),、智能家居與職能安防等市場(chǎng)提供軟硬件整合的方案,包括終端設(shè)備專用的NPU,、IP,、算法等,并與多家國際大廠展開業(yè)務(wù)層面的合作,。相信只要找準(zhǔn)并堅(jiān)守自身的方向,,不僅可在未來的AI芯片市場(chǎng)占據(jù)一席之地,與這些科技巨頭或互聯(lián)網(wǎng)公司也有合作空間,?!保瑒⒕\進(jìn)一步指出,。
為了滿足客戶的多樣化需求,,除了持續(xù)推出高能效的NPU IP和軟件算法外,,耐能將觸角伸到了芯片側(cè)。整體的宗旨就是奉行“客制化”策略,,根據(jù)客戶需求提供定制化的產(chǎn)品與解決方案,。其間,除了客戶的公司實(shí)力與供應(yīng)鏈整合能力,,其主導(dǎo)產(chǎn)品與行業(yè)特點(diǎn)無疑也是驅(qū)動(dòng)耐能提供何種產(chǎn)品或解決方案的重要因素,。
“具體來看,針對(duì)智能手機(jī),、智能安防領(lǐng)域,,由于下游市場(chǎng)已高度成熟、品牌集中度較高,,芯片廠商到終端廠商均具有很強(qiáng)的供應(yīng)鏈整合能力,,客戶的需求主要是IP,因此耐能也定位為IP提供方,。而在智能家居市場(chǎng),,競(jìng)爭(zhēng)格局比較開放,客戶對(duì)IP和芯片的需求都大量存在,,單一的IP或芯片并不能滿足,,耐能便決定IP和芯片并舉”,劉峻誠說,。
微軟全球執(zhí)行副總裁,、全球電腦視覺和圖形學(xué)研究領(lǐng)域的專家沈向洋在早前接受《彭博商業(yè)周刊》采訪的時(shí)候說到,人工智能的寒冬一定會(huì)再來,。在這種環(huán)境下,,如何能適應(yīng)市場(chǎng)需求推出更多的產(chǎn)品,如何更方便地解決用戶真正的需求,,是現(xiàn)在遍地開花的AI芯片創(chuàng)業(yè)公司需要考慮的問題,。
而耐能已經(jīng)看到了這點(diǎn),并跨出了重要一步,。