芯東西4月14日消息,，美國明星AI芯片獨角獸SambaNova Systems最新宣布D輪融資6.76億美元（折合44億人民幣）,，由軟銀愿景基金2領投，英特爾資本,、谷歌風投,、華登國際等參投。

　　至此,，該公司估值超過50億美元（折合327億人民幣）,，成為全球估值最高的人工智能（AI）創(chuàng)企之一。

　　這家脫胎于斯坦福大學的AI芯片創(chuàng)企,，長期受到知名投資者的青睞,，英特爾資本、谷歌風投,、華登國際,、貝萊德、紅鏈資本等均曾參與其多輪融資,。截至當前,，SambaNova Systems累計融資已達11.32億美元。

　　就在去年12月,，這家創(chuàng)企一舉推出其最重磅的軟硬件集成平臺SambaNova DataScale,，擁有TB級內(nèi)存容量和數(shù)百萬PetaFLOPS低延遲互連計算能力，能處理大量復雜的數(shù)據(jù)模型,。

　　美國阿貢國家實驗室,、美國能源部旗下國家核安全管理局（NNSA）、勞倫斯利弗莫爾國家實驗室（LLNL）,、洛斯阿拉莫斯國家實驗室（LANL）均已應用DataScale來加速AI計算研究,。

　　01.

　　甲骨文元老、斯坦福教授聯(lián)合創(chuàng)立

　　華登國際董事長兼任董事會主席

　　這家初創(chuàng)公司專注于開發(fā)處理AI工作負載的基礎設施,，總部位于加州帕洛阿爾托,，由甲骨文和Sun Microsystems公司的元老Rodrigo Liang、斯坦福大學教授Kunle Olukotun,、Chris Ré于2017年成立,，提供從數(shù)據(jù)中心到邊緣運行AI和數(shù)據(jù)密集型應用的系統(tǒng)。

　　Liang擔任SambaNova的首席執(zhí)行官,，Olukotun任首席技術(shù)專家,，華登國際創(chuàng)始人兼董事長,、EDA軟件巨頭Cadence CEO陳立武同時也是SambaNova董事長。

　　▲SambaNova創(chuàng)始人合影,，左-Kunle Olukotun,，中-Rodrigo Liang，右-Chris Ré

　　Olukotun被稱為“多核處理器之父”,，最近獲得了IEEE計算機協(xié)會的哈里·H·古德紀念獎（Harry H. Goode Memorial Award）,。

　　他是斯坦福Hydra芯片多處理器（CMP）研究項目的負責人，這個項目研發(fā)了一種芯片設計,，將四個專用處理器和它們的緩存與共享的二級緩存相匹配,。

　　Ré是斯坦福大學信息實驗室計算機科學系的副教授，也是美國跨領域最高獎項之一——麥克阿瑟天才獎（MacArthur genius award）的獲得者,，他還隸屬于斯坦福統(tǒng)計機器學習小組（Statistical Machine Learning Group）,、普適并行實驗室（Pervasive Parallelism Lab）和斯坦福AI實驗室。

　　▲SambaNova董事會成員

　　02.

　　自研可重構(gòu)數(shù)據(jù)流單元

　　400億晶體管,、臺積電7nm制程

　　SambaNova的AI芯片與其客戶很大程度上仍在保密狀態(tài),，但該公司此前透露，受DARPA資助的高效AI處理研究啟發(fā),，他們正在開發(fā)“軟件定義”設備,。

　　通過算法優(yōu)化和自定義硬件結(jié)合，SambaNova聲稱能顯著提高大多數(shù)AI應用的性能和能力,。該公司聯(lián)合創(chuàng)始人兼CEO Rodrigo Liang分享道,，SambaNova并沒有采用市面上主流的Arm和x86架構(gòu)，而是自主研發(fā)了芯片架構(gòu),。

　　SambaNova研發(fā)的可重構(gòu)數(shù)據(jù)流單元Cardinal SN10 RDU包含400億晶體管,，采用臺積電7nm制程，由一系列可重構(gòu)節(jié)點組成,，用于數(shù)據(jù),、存儲和交換。

　　Rodrigo Liang提到,，為規(guī)避芯片短缺可能帶來的不利影響,，SambaNova于去年早些時候進行投資，以確保獲得臺積電的產(chǎn)能,。

　　每個Cardinal芯片有6個內(nèi)存控制器,，支持153GB/s帶寬， 8個芯片以全對全配置連接,，最后一點是通過允許芯片擴展的交換網(wǎng)絡實現(xiàn)的,。

　　SambaNova并不是單獨出售Cardinal，而是將其作為一種安裝在數(shù)據(jù)中心的解決方案,。

　　2020年12月，SambaNova Systems宣布SambaNova Systems DataScale正式可用，DataScale基于可重構(gòu)數(shù)據(jù)流架構(gòu)（RDA）,，是一個完全集成的軟件和硬件平臺,，可針對從算法到芯片的數(shù)據(jù)流進行優(yōu)化，包含SambaFlow軟件棧和8個可重構(gòu)數(shù)據(jù)流單元Cardinal SN10 RDU,。每個RDU都能支持無縫并行處理大型模型,，使企業(yè)能夠比當今最先進的解決方案更快地將新的服務和產(chǎn)品推向市場。

　　SambaNova提供的基本單元被稱為DataScale SN10-8R ,，配備了一個AMD處理器,，搭配8個Cardinal芯片和12 TB的DDR 4內(nèi)存，或每個Cardinal芯片1.5TB,。

　　▲SambaNova DataScale SN10-8R運行工作負載的效果

　　03.

　　對標NVIDIA

　　4個關鍵領域性能破紀錄

　　SambaNova Systems DataScale專為高效的深度學習推理和訓練而設計,，相比最新NVIDIA旗艦A100 GPU，DataScale在四個關鍵領域?qū)崿F(xiàn)破紀錄的多機架規(guī)模性能指標：

　?。?）性能：DLRM推理的吞吐量比A100高7倍,，延遲只有A100的1/7；BERT-Large訓練速度比DGX A100系統(tǒng)快1.4倍,。

　?。?）精度：與DGX A100系統(tǒng)相比，其高分辨率計算機視覺的精度達90.23%,；與NVIDIA A100 GPU相比,，其DLRM推薦引擎的精度達80.46%。

　?。?）規(guī)模：以多機架規(guī)模打破BERT-Large訓練和精度的記錄,。

　　（4）易用性：從加載dock到數(shù)據(jù)中心,，DataScale可以在45分鐘內(nèi)快速輕松地集成到任何運行客戶工作負載的現(xiàn)有基礎設施中,，數(shù)秒內(nèi)即可在DataScale上以先進精度下載數(shù)千個預訓練的Hugging Face Transformer模型，無需更改代碼,。

　　在軟件方面,，SambaNova有自己的圖形優(yōu)化器和編譯器，使用TensorFlow,、PyTorch等其他機器學習框架的客戶可以用這些工具為Cardinal重新編譯工作負載,。

　　SambaNova的目標是支持包含超過1000億參數(shù)的自然語言處理、高分辨率計算機視覺和推薦模型,，并提供更大的內(nèi)存占用和更高的準確性,。

　　與新的SN10-8R產(chǎn)品一起，SambaNova將提供兩種類似云的服務選項：

　　第一種是SambaNova AI云平臺,，允許研究機構(gòu)能免費訪問和使用SambaNova的硬件資源,；

　　第二種是業(yè)界首個數(shù)據(jù)流即服務（DataFlow as a Service）,，面向想要靈活的云服務而無需為硬件付費的商業(yè)客戶所準備。

　　04.

　　產(chǎn)品已銷售1年多

　　落地多個美國實驗室

　　據(jù)悉,，第一代Cardinal芯片在2019年春季taped out,，首批芯片樣品已用于客戶服務器上。

　　在此之前,，SambaNova的產(chǎn)品已經(jīng)向客戶銷售了一年多,。

　　美國阿貢國家實驗室、美國能源部旗下國家核安全管理局（NNSA）,、勞倫斯利弗莫爾國家實驗室（LLNL）,、洛斯阿拉莫斯國家實驗室（LANL）等多個研究機構(gòu)，均已部署DataScale平臺來加速研究中的AI計算,。

　　例如,，LLNL正將DataScale用在其Corona超級計算機中，用于研發(fā)新冠肺炎藥物,。

　　LLNL首席技術(shù)官Bronis de Supinski稱,，SambaNova的平臺正被用于探索一種被稱為認知模擬的技術(shù)，在這種技術(shù)中,，AI被用來加速部分模擬處理,。他聲稱，與運行相同型號的GPU相比,，這一性能提高了大約5倍,。

　　05.

　　SambaNova融資背后

　　AI芯片成各國必爭之地

　　AI芯片是一種專用于加速AI應用的硬件，通過低精度計算,、存內(nèi)計算等技術(shù),，提高運行大規(guī)模AI算法的性能。根據(jù)全球綜合數(shù)據(jù)資料庫Statista的一項研究,，專用集成電路（ASIC）預計將在推理階段AI邊緣計算處理能力中占有越來越大的份額,，到2025年占比將達70%。

　　以SambaNova獲得的新融資為例,，多國AI芯片創(chuàng)企正斬獲融資,，AI芯片市場正競爭激烈。根據(jù)美通社數(shù)據(jù),，該市場預計2025年將達到911.8億美元,。

　　▲到2025年，ASIC在推理階段AI邊緣計算處理能力的占比達70%（來源：Statista）

　　近期,，中國云端AI芯片創(chuàng)企正經(jīng)歷著新一輪融資熱潮,。天數(shù)智芯、壁仞科技,、燧原科技,、沐曦集成等多家云端芯片創(chuàng)企宣布獲得高額新融資,，百度AI芯片部門最近在融資后估值為20億美元，中科寒武紀去年成為科創(chuàng)板上市的第一家純AI芯片公司,。

　　在云端及邊緣AI芯片的研發(fā)及落地競賽中,，其他國家也有一些備受關注的明星創(chuàng)企。

　　例如,，以色列AI芯片創(chuàng)企Hailo正在開發(fā)加快邊緣AI推理速度的硬件，該公司在2020年3月獲得了6000萬美元的風險投資,。

　　美國加州創(chuàng)企Mythic已融資8520萬美元用于開發(fā)定制的存內(nèi)計算架構(gòu),。

　　英國AI芯片獨角獸Graphcore致力于研發(fā)加速AI工作負載的大規(guī)模IPU處理器芯片及系統(tǒng)，該公司擁有數(shù)億美元的資金儲備,。

　　隨著AI芯片出現(xiàn)前所未有且持續(xù)的客戶需求,，SambaNova也是受益者之一。

　　因新冠肺炎疫情蔓延,，汽車和電子產(chǎn)品采購需求的激增加劇了日益嚴重的芯片緊缺,。美國總統(tǒng)喬·拜登近期承諾投入1800億美元，用于先進計算的研發(fā)和專門用于AI和量子計算的半導體制造,，這些都已成為美國國家科技戰(zhàn)略的核心,。

　　06.

　　結(jié)語：AI芯片市場

　　開啟落地與生態(tài)之戰(zhàn)

　　2020年以來，多國AI芯片領域均傳出多起融資事件,?？傮w來看，以國內(nèi)市場為例,，據(jù)工銀投行數(shù)據(jù),，2019年國內(nèi)AI芯片領域投資金額達58.57億元，而2020年僅1-10月的AI芯片總?cè)谫Y額已經(jīng)超過了2019年全年,。企業(yè)層面之外,，多個國家與地區(qū)亦從政策層面出發(fā)，扶持AI芯片企業(yè)成長,。

　　在這背后,，AI芯片創(chuàng)企走過了早期的技術(shù)拓荒期，市場或?qū)㈤_啟落地與生態(tài)構(gòu)建新戰(zhàn)事,。