說(shuō)起“存儲(chǔ)”和“AI”,，很多人會(huì)說(shuō)存儲(chǔ)對(duì)AI很重要,，因?yàn)锳I的發(fā)展是由海量數(shù)據(jù)支撐起來(lái)的，這就使得人們對(duì)數(shù)據(jù)處理提出了極高的要求，需要更大的內(nèi)存去存儲(chǔ)更多的數(shù)據(jù),，不得不承認(rèn),，高性能的存儲(chǔ)能讓AI技術(shù)發(fā)揮出最大威力,。但其實(shí)AI對(duì)存儲(chǔ)也很重要,，AI 時(shí)刻推動(dòng)著存儲(chǔ)的發(fā)展，究其原因繞不開(kāi)存內(nèi)計(jì)算（PIM ：Processing in-memory）,。

　　存內(nèi)計(jì)算是一項(xiàng)打破傳統(tǒng)馮諾依曼架構(gòu)的新型運(yùn)算架構(gòu),，通過(guò)將存儲(chǔ)和計(jì)算有機(jī)結(jié)合，直接利用存儲(chǔ)單元進(jìn)行計(jì)算,，極大地消除了數(shù)據(jù)搬移帶來(lái)的開(kāi)銷,，解決了傳統(tǒng)芯片在運(yùn)行人工智能算法上的“存儲(chǔ)墻”與“功耗墻”問(wèn)題，可以數(shù)十倍甚至百倍地提高人工智能運(yùn)算效率,，降低成本,。

　　雖然存內(nèi)計(jì)算的基本概念早在上個(gè)世紀(jì)七十年代就已經(jīng)被提出,，但直到近些年才逐漸成為人們關(guān)注的焦點(diǎn),，原因在于，算力和運(yùn)算數(shù)據(jù)量的激增導(dǎo)致存儲(chǔ)墻問(wèn)題愈發(fā)凸顯,，想要進(jìn)一步提高算力,，只有解決存儲(chǔ)墻問(wèn)題，而在各種解決方案中存內(nèi)計(jì)算是最直接的一種方式,，可以實(shí)現(xiàn)高能效,、低功耗、低成本,。

　　早在2019年,，美光首席執(zhí)行官 Sanjay Mehrotra 就指出，曾經(jīng)的計(jì)算架構(gòu)并不適合未來(lái)的發(fā)展趨勢(shì),，從長(zhǎng)遠(yuǎn)來(lái)看認(rèn)為計(jì)算最好在內(nèi)存中完成,。當(dāng)時(shí)美光另一位技術(shù)高管也堅(jiān)信計(jì)算和內(nèi)存的融合對(duì)于提高性能效率和降低延遲是必要的，并愿意為此付出努力,。不少業(yè)內(nèi)人士認(rèn)為,，未來(lái)存儲(chǔ)器可能不僅僅是存儲(chǔ)設(shè)備，還可能是加速器,，或者還會(huì)具備其他的功能,，例如更好的ECC等,。

　　那么，面對(duì)數(shù)據(jù)量激增的未來(lái),，如何應(yīng)對(duì)內(nèi)存帶寬挑戰(zhàn),，實(shí)現(xiàn)更優(yōu)質(zhì)的 PIM來(lái)減輕各種 AI 驅(qū)動(dòng)所面對(duì)的諸如HPC、培訓(xùn)和推理等工作負(fù)載,？AI就是一個(gè)很好的選擇,，隨著技術(shù)的演進(jìn)，越來(lái)越多的存儲(chǔ)廠商開(kāi)始加入AI戰(zhàn)…

　　卡位AI,，投資先行

　　如何最快獲得一項(xiàng)新技術(shù),，投資/收購(gòu)就是極為常見(jiàn)的一種方式，存儲(chǔ)廠商開(kāi)啟AI投資熱潮大約是在2018年前后,，這一年也是人工智能的狂歡年,，Google Duplex代替人類自動(dòng)接打電話、歐盟正式發(fā)布的人工智能道德準(zhǔn)則草案,、OpenAI的5v5 DOTA AI“Open AI Five”再次完勝人類,、全球第一個(gè)“AI合成主播”正式上崗…種種一切似乎讓人們意識(shí)到，只在小說(shuō)中存在的AI時(shí)代真的要來(lái)了,。

　　2018年6月,，存儲(chǔ)龍頭三星公布了一項(xiàng)專注于 AI 科技和初創(chuàng)公司的新基金“Samsung NEXT Q Fund ”，將為那些解決AI問(wèn)題以及使用AI解決計(jì)算機(jī)科學(xué)問(wèn)題的初創(chuàng)公司提供種子輪和 A 輪融資支持,，公告中特別提到,，包括的領(lǐng)域涉及模擬學(xué)習(xí)、場(chǎng)景理解,，問(wèn)題學(xué)習(xí)方案和人機(jī)交互,。

　　到了2018年8月，三星集團(tuán)宣布,，未來(lái)三年將在AI,、汽車零部件等領(lǐng)域投資逾220億美元，其中大部分投資由三星電子承擔(dān),；2021年8月,，三星再次公布未來(lái)三年會(huì)投資240萬(wàn)億韓元（約合2055億美元）到生物制藥、人工智能,、半導(dǎo)體,、機(jī)器人等領(lǐng)域。從2018年的220億美元,，到2021年的2055億美元,，十倍的增長(zhǎng)，雖然AI并不是三星電子加大投資的惟一領(lǐng)域,，但顯然已經(jīng)是被鎖定的新成長(zhǎng)領(lǐng)域,。

　　三星2018年投資計(jì)劃重點(diǎn)

　　圖源：路透

　　在2018年三星宣布成立新基金后不久,，美光也宣布通過(guò)美光創(chuàng)投投入一億美元在人工智能及機(jī)器學(xué)習(xí)新創(chuàng)公司，當(dāng)時(shí)消息顯示,，投資新創(chuàng)不僅有助于加速人工智能的發(fā)展,，還能間接帶動(dòng)對(duì)于DRAM與NAND內(nèi)存與3D Xpoint等次世代內(nèi)存的需求。

　　或許是投資已經(jīng)沒(méi)辦法滿足需求,，又或許是美光進(jìn)一步認(rèn)識(shí)到了存內(nèi)計(jì)算的重要性,，到了2019年，美光科技直接收購(gòu)了人工智能硬件和軟件初創(chuàng)公司Fwdnxt,，這在當(dāng)時(shí)的行業(yè)內(nèi)掀起了不小的波瀾,。美光認(rèn)為，F(xiàn)wdnxt的技術(shù)與美光的存儲(chǔ)芯片結(jié)合使用時(shí),，能夠使美光具備探索數(shù)據(jù)分析所需的深度學(xué)習(xí)AI解決方案的能力,，尤其是物聯(lián)網(wǎng)和邊緣計(jì)算。

　　美光方面還表示,，收購(gòu)Fwdnxt不僅不會(huì)與英特爾,、英偉達(dá)等有更多的競(jìng)爭(zhēng)，相反反而會(huì)有更多的合作,。在美光看來(lái),，沒(méi)有人可以在數(shù)據(jù)中心領(lǐng)域與他們競(jìng)爭(zhēng)，存儲(chǔ)廠商想要分得一杯羹,，為英特爾等提供更多幫助,，那么在邊緣計(jì)算方面進(jìn)行研究，將會(huì)是美光獲得最大效率和規(guī)模經(jīng)濟(jì)的地方,。

　　數(shù)據(jù)中心是互聯(lián)網(wǎng),、云計(jì)算和人工智能等領(lǐng)域的通用支撐技術(shù),，中國(guó)信通院《數(shù)據(jù)中心白皮書(shū)2022》報(bào)告顯示,，2021年全球數(shù)據(jù)中心市場(chǎng)規(guī)模超過(guò)679億美元，預(yù)計(jì)2022年市場(chǎng)收入將達(dá)到746億美元,。而存儲(chǔ)和AI都是數(shù)據(jù)中心不可缺少的重要部分,，一方面任何數(shù)據(jù)中心的數(shù)據(jù)最終都要放置到存儲(chǔ)設(shè)備上。另一方面,，AI能夠幫助數(shù)據(jù)中心提高能源效率,，進(jìn)而節(jié)省成本，還能幫助優(yōu)化運(yùn)維,，使用預(yù)測(cè)分析來(lái)幫助數(shù)據(jù)中心分配工作負(fù)載,。那么，當(dāng)數(shù)據(jù)中心的“左膀右臂”結(jié)合在一起,，勢(shì)必會(huì)帶來(lái)奇效,，這或許也是美光收購(gòu)Fwdnxt的一部分考量,。

　　而在2019年，SK海力士也加入了這場(chǎng)AI投資戰(zhàn),，甚至攻勢(shì)十分兇猛,。2019年年初，SK海力士投資了地平線,；2020年9月,，宣布投資Gauss Labs公司，旨在通過(guò)工業(yè)人工智能（AI）解決方案引領(lǐng)半導(dǎo)體制造業(yè)創(chuàng)新,；2022年1月,，SK 海力士又同SK Telecom 以及 SK Square一起宣布，成立聯(lián)合發(fā)展協(xié)會(huì),，首先將砸 800 億韓元,，在美國(guó)設(shè)立 AI 半導(dǎo)體公司 SAPEON，SK 海力士持有25%的股份,，這對(duì)于SK 海力士來(lái)說(shuō),，在 NAND 閃存以及AI領(lǐng)域的事業(yè)也會(huì)更進(jìn)一步擴(kuò)張。

　　“鈔能力”下的技術(shù)成果

　　從投資方面來(lái)看,，存儲(chǔ)大廠對(duì)AI可謂是下足了“血本”,，重金之下，廠商們的成果也是斐然,，接連展示新技術(shù),。

　　三星電子在2021年2月率先研發(fā)出結(jié)合內(nèi)存芯片和AI處理器的高帶寬內(nèi)存 HBM-PIM（也被稱為 Aquabolt-XL），以強(qiáng)化數(shù)據(jù)中心,、高性能計(jì)算(HPC)系統(tǒng)和支持 AI 的移動(dòng)應(yīng)用程序中的大規(guī)模處理,。據(jù)了解，HBM-PIM 通過(guò)將經(jīng)過(guò)DRAM優(yōu)化的 AI 引擎置于每個(gè)存儲(chǔ)子單元內(nèi),，將處理能力直接引入到數(shù)據(jù)存儲(chǔ)位置,，從而實(shí)現(xiàn)并行處理并盡可能減少數(shù)據(jù)移動(dòng)。數(shù)據(jù)顯示,，當(dāng)應(yīng)用于三星現(xiàn)有的 HBM2 Aquabolt 解決方案時(shí),，新架構(gòu)能夠提供超過(guò)兩倍的系統(tǒng)性能，能源消耗也大幅降低,。

　　三星電子DRAM產(chǎn)品和技術(shù)高級(jí)副總裁Nam Sung Kim表示,，隨著技術(shù)標(biāo)準(zhǔn)化發(fā)展，該技術(shù)應(yīng)用將會(huì)進(jìn)一步擴(kuò)大,，擴(kuò)展至用于下一代超級(jí)計(jì)算機(jī)和AI應(yīng)用的HBM3,，甚至用于設(shè)備上AI的移動(dòng)存儲(chǔ)器，以及用于數(shù)據(jù)中心的存儲(chǔ)器模塊。最新消息顯示,，三星已經(jīng)完成了運(yùn)行其最新內(nèi)存解決方案內(nèi)存中高帶寬內(nèi)存處理 (HBM-PIM) 所需的軟件標(biāo)準(zhǔn)化,，計(jì)劃在本月推出該解決方案。

　　SK海力士則在今年2月宣布,，將與人工智能芯片公司 SAPEON合作,，推出一款將 GDDR6-AiM 與 AI 芯片相結(jié)合的新產(chǎn)品。SAPEON即上述提到的SK海力士與SK Telecom 以及 SK Square在美國(guó)成立的AI芯片公司,。GDDR6-AiM則是SK海力士在今年2月宣布的采用下一代存儲(chǔ)芯片PIM技術(shù)開(kāi)發(fā)出的樣品,，為 GDDR6內(nèi)存芯片增加了計(jì)算功能，以 16Gbps 的速度處理數(shù)據(jù),。SK海力士聲稱,，GDDR6-AiM 與 CPU 和 GPU 的組合，不是典型的 DRAM 芯片,，可以將計(jì)算速度提高 16 倍,，適用于機(jī)器學(xué)習(xí)、高性能計(jì)算和大數(shù)據(jù)計(jì)算與存儲(chǔ),。

　　美光則是在收購(gòu)FWDNX之后,，推出一組用于深度學(xué)習(xí)應(yīng)用的、功能強(qiáng)大的新型高性能硬件和軟件工具,，該綜合性人工智能開(kāi)發(fā)平臺(tái)集成了計(jì)算,、內(nèi)存、工具和軟件,，可為探索針對(duì)人工智能工作負(fù)載優(yōu)化的創(chuàng)新內(nèi)存提供重要基石,。FWDNXT是一種架構(gòu)，專為打造快速上市時(shí)間的邊緣AI解決方案而設(shè)計(jì),，通過(guò)非常易于使用的軟件架構(gòu)搭配廣泛的模型支持與運(yùn)用靈活度,。據(jù)悉，美光深度學(xué)習(xí)加速器（DLA）技術(shù)支持廣泛的機(jī)器學(xué)習(xí)框架和神經(jīng)網(wǎng)絡(luò),，能夠通過(guò)易于使用的接口快速處理海量數(shù)據(jù),，在FWDNXT人工智能推理引擎的支持下，能讓內(nèi)存和計(jì)算能夠更緊密地融合,，從而實(shí)現(xiàn)更高的性能和更低的功耗,。

　　此外，不同于上述三家存儲(chǔ)大廠,，鎧俠則是發(fā)力SSD和AI技術(shù)的結(jié)合，專注于研發(fā)以內(nèi)存為中心的AI技術(shù),。近日,，鎧俠開(kāi)發(fā)了一種基于Memory-Centric AI的圖像分類系統(tǒng)，Memory-Centric AI是一項(xiàng)利用大容量存儲(chǔ)器的人工智能技術(shù),，該系統(tǒng)使用神經(jīng)網(wǎng)絡(luò)對(duì)圖像進(jìn)行分類,，未來(lái)鎧俠會(huì)將Memory-Centric AI從圖像分類擴(kuò)展到其他領(lǐng)域,，并促進(jìn)采用大容量存儲(chǔ)的人工智能技術(shù)的研究和開(kāi)發(fā)。

　　鎧俠方面指出,，傳統(tǒng)AI技術(shù)是使用大量數(shù)據(jù)來(lái)訓(xùn)練模型,，而以內(nèi)存為中心的AI則是基于其積累的知識(shí)，通過(guò)搜索和參考這些知識(shí)來(lái)執(zhí)行任務(wù),，因此它積累的新知識(shí)和記憶越多,，人工智能就越成熟，更重要的是,，這項(xiàng)技術(shù)可以讓人工智能可以無(wú)限期地成長(zhǎng),，同時(shí)也能減少所需的大量計(jì)算并減少功耗。

　　而這項(xiàng)技術(shù)的關(guān)鍵之處就是積累的數(shù)據(jù)存儲(chǔ)在哪里,，這就是閃存的用武之地,，能夠在幾乎不消耗電力的情況下存儲(chǔ)信息，但這也對(duì)閃存的速度提出了挑戰(zhàn),，速度太慢會(huì)影響人工智能做出決定,。隨著訪問(wèn)速度的提高，硬件和人工智能技術(shù)也在不斷發(fā)展,，鎧俠認(rèn)為如今是提出以內(nèi)存為中心的AI的恰當(dāng)時(shí)候,。

　　寫在最后

　　AI從概念被提出來(lái)開(kāi)始就似乎是一個(gè)“萬(wàn)金油”般的存在，5G需要AI,、元宇宙需要AI,、自動(dòng)駕駛需要AI，甚至于連EDA都需要AI,。如今,，AI又已經(jīng)“滲入”存儲(chǔ)芯片領(lǐng)域，各大存儲(chǔ)廠商為此展現(xiàn)出“十八般武藝”,，但未來(lái)誰(shuí)能成為拔得頭籌者,，我們拭目以待。

　更多信息可以來(lái)這里獲取==>>電子技術(shù)應(yīng)用-AET<<