2019年6月20日,,寒武紀(jì)宣布推出第二代云端AI芯片思元270(MLU270)及板卡產(chǎn)品,,目標(biāo)是提供速度更快,、功耗更低、性價(jià)比更高的AI加速解決方案,。思元270芯片采用TSMC 16nm工藝制造,,其板卡產(chǎn)品可以通過PCIe接口快速部署在服務(wù)器和工作站內(nèi)。
寒武紀(jì)本次公開的思元270板卡產(chǎn)品面向人工智能推斷任務(wù),,在ResNet50上推理性能超過10000fps,。MLU270-S4 型板卡(半高半長)面向數(shù)據(jù)中心部署,集成16GB DDR4 內(nèi)存,,支持ECC;MLU270-F4型板卡(全高全長)采用主動散熱設(shè)計(jì),,面向非數(shù)據(jù)中心部署場景,集成16GB DDR4 內(nèi)存,,支持ECC,。面向人工智能訓(xùn)練任務(wù)的思元270訓(xùn)練版板卡產(chǎn)品將于本年度第四季度推出。
思元270采用寒武紀(jì)公司自主研發(fā)的MLUv02指令集,,可支持視覺,、語音、自然語言處理以及傳統(tǒng)機(jī)器學(xué)習(xí)等高度多樣化的人工智能應(yīng)用,,更為視覺應(yīng)用集成了充裕的視頻和圖像編解碼硬件單元。思元270芯片處理非稀疏深度學(xué)習(xí)模型的理論峰值性能提升至上一代MLU100的4倍,,達(dá)到128TOPS(INT8);同時(shí)兼容INT4和INT16運(yùn)算,,理論峰值分別達(dá)到256TOPS和64TOPS;支持浮點(diǎn)運(yùn)算和混合精度運(yùn)算。
官方表示,,寒武紀(jì)在定點(diǎn)訓(xùn)練領(lǐng)域已實(shí)現(xiàn)關(guān)鍵性突破,,思元270訓(xùn)練版板卡將可通過8位或16位定點(diǎn)運(yùn)算提供卓越的人工智能訓(xùn)練性能,該技術(shù)有望成為AI芯片發(fā)展的重要里程碑,。在系統(tǒng)軟件和工具鏈方面,,思元270繼續(xù)支持寒武紀(jì)Neuware軟件工具鏈,支持業(yè)內(nèi)各主流編程框架,。此外,,為方便開發(fā)者更好地挖掘思元270超強(qiáng)的運(yùn)算能力、開拓更多的應(yīng)用領(lǐng)域,,寒武紀(jì)將在近期向社區(qū)和開發(fā)者開放專用編程語言,。
寒武紀(jì)的人工智能處理器已經(jīng)在智能手機(jī)中大規(guī)模出貨,在云端產(chǎn)品方面,,寒武紀(jì)去年5月推出第一代云端AI芯片MLU100及板卡于2018年5月發(fā)布,。MLU100系列產(chǎn)品已為客戶在智能視頻分析、語音合成,、推薦引擎,、AI云等多個(gè)領(lǐng)域提供了高能效比的解決方案,。
寒武紀(jì)表示,此次推出中文品牌“思元”是對MLU品牌的有機(jī)補(bǔ)充,,其含義為“思考的基本單元”,。思元商標(biāo)的字體來自于中國元代書法家趙孟頫。
寒武紀(jì)是AI芯片領(lǐng)域的獨(dú)角獸,,2018年6月,,寒武紀(jì)宣布完成數(shù)億美元的B輪融資,投后整體估值達(dá)25億美元,。