馮丹表示，支持近數(shù)據(jù)處理的固態(tài)盤技術(shù)以及存算一體的憶阻器技術(shù)為解決“存儲墻”問題提供了全新的路徑,，并從三個方面進(jìn)行了闡述,。
以下為演講實錄：
謝謝，我給大家分享一下我們做的一些工作,，這是近數(shù)據(jù)處理存儲技術(shù),，主要從三個方面給大家分享。
應(yīng)該說,，大數(shù)據(jù)時代第一個對存儲有挑戰(zhàn),，第二個對數(shù)據(jù)處理也存在挑戰(zhàn)，存儲方面據(jù)統(tǒng)計增長率已經(jīng)達(dá)到了36%,，2018年全球的數(shù)據(jù)總量是33ZB,，預(yù)計到2025年將達(dá)到175ZB。但是大量的數(shù)據(jù)實際上除了要存之外,，更多的要做處理,，比如說大數(shù)據(jù)的5V特征——Volume(體量)、Velocity(速度),、Variety(多樣性),、Veracity（準(zhǔn)確性)、Value(價值), 要求在大量的數(shù)據(jù)中間能夠找到有價值的數(shù)據(jù)或者說發(fā)現(xiàn)有價值的數(shù)據(jù)做處理,。
處理和存儲之間實際上發(fā)展的是不平衡的,，處理器核每兩年翻一倍，內(nèi)存容量每三年才翻一倍,。也就是說,，每個核的內(nèi)存容量每兩年是減少30%，它分配到的內(nèi)存帶寬也大為減少,，從而導(dǎo)致處理和存儲之間的差距越來越大,。
而存儲性能的提升非常有限，從1999年到2017年訪問延遲基本上沒有什么變化,，盡管帶寬提升了20倍,，容量提升了128倍，這樣就導(dǎo)致處理和存儲之間的發(fā)展非常不平衡,。從性能的角度來看,，據(jù)分析大約50%處理器流水線中的停頓是由數(shù)據(jù)訪問造成的，有的是數(shù)據(jù)的沖突，有的是因為內(nèi)存沒有命中,，所以導(dǎo)致存儲流水停頓問題,。這就是我們所有說的內(nèi)存強(qiáng)的問題。還有一個功耗強(qiáng)的問題,，據(jù)統(tǒng)計移動設(shè)備中瀏覽網(wǎng)頁41%的能量花費在數(shù)據(jù)訪問上,，LOAD操作能耗約為ADD指令的115倍。因此,，內(nèi)耗強(qiáng)的問題也非常突出,。
從閃存內(nèi)部講，16個通道的閃存構(gòu)成的SSD,，理論上來講內(nèi)部的數(shù)據(jù)的速率可以達(dá)到8.5GB/S,，但是把它封裝成為SSD盤之后，就是SATA接口或者PCIe接口就達(dá)不到這么高的速度,，就是2G/S的速度,。如果是64個SSD理論上是可以達(dá)到545個GB/S的速度，但是掛載在PCIe的總線上,，被Host來訪問的話16個通道的SSD變成了16GB/S的速度,。
也就是說，設(shè)備內(nèi)部速度理論上是非常高的,，但是通過層層衰減,，性能非常低了，這樣就導(dǎo)致了CPU訪問的時候差距非常大,，怎么樣解決這個問題呢,？分析一下就是由傳統(tǒng)的馮諾依曼體系結(jié)構(gòu)限制了它。
傳統(tǒng)的馮諾依曼體系結(jié)構(gòu)導(dǎo)致數(shù)據(jù)一定是要存儲里搬到計算里,，然后算完之后再回去,。我們反過來想一下，能不能把處理推送到存儲中間去,，充分發(fā)揮內(nèi)部帶寬作用呢？
這個是傳統(tǒng)的馮諾依曼體系結(jié)構(gòu)數(shù)據(jù)流向存在的問題,，從而使得過分的以計算為中心導(dǎo)致性能差,、能耗低，所以新的理念我們能不能實現(xiàn)以數(shù)據(jù)為中心的體系結(jié)構(gòu),，也就是說在盡量靠近數(shù)據(jù)的地方來處理數(shù)據(jù)或者盡量減少數(shù)據(jù)的訪問來完成計算,，也就是所說的將處理推送到數(shù)據(jù)中間去或者推送到存儲中間去。
現(xiàn)在的一些解決方案,，為了提高訪存的帶寬也有CPU+GPU+FPGA+TPU,，來使得能夠更多的并行訪存。我們也做了一點工作，在SSD控制器里做了支持近數(shù)據(jù)處理的可重構(gòu)的存儲控制器,。
主要的思路基于可重構(gòu)的FPGA來實現(xiàn)硬件的加速,，也就是說把一些頻繁操作的處理推送到SSD控制器里。第二個方面圍繞RRAM做了存算融合,，也就是CIM方面做了探索,，我們做了優(yōu)化的工作今天跟大家分享一下。
第一個工作支持可重構(gòu)的近數(shù)據(jù)處理的固態(tài)盤,，我們開發(fā)了PCIe原形系統(tǒng),，用FPGA做，像內(nèi)存條是flash的直卡或者PCM的直卡,，我們用來做實驗的,。在控制器中間我們除了做傳統(tǒng)的閃存FTL這些操作之外以及閃存的控制，我們還加了可重構(gòu)的處理的模塊,，很多可重構(gòu)的單元,，還加上重構(gòu)配置模塊。
可重構(gòu)的處理單元可以配置成為要加速處理的一些操作,，比如說來做數(shù)據(jù)的過濾操作,，要去查詢一個數(shù)據(jù)，或者操作的一些音節(jié)碼,，以及加密的操作等等,，可以用可重構(gòu)的單元，通過FPGA的編程之后用硬件直接實現(xiàn)加速,。將處理推送到存儲,，離數(shù)據(jù)最近的地方來做，具體的來做基于近數(shù)據(jù)處理,，我們實現(xiàn)AES加密的模塊,，接收到的數(shù)據(jù)經(jīng)過可重構(gòu)的近數(shù)據(jù)處理模塊之后再通過flash的控制器到真正的Facebook中間去。
具體的實現(xiàn)包括密鑰的擴(kuò)展模塊,，替換模塊等等,，也實現(xiàn)了做壓縮硬件實現(xiàn)，實現(xiàn)數(shù)據(jù)輸出的數(shù)據(jù)緩存模塊,，壓縮運算模塊,，還有哈希表的模塊，整個壓縮硬件的實現(xiàn),。我們實現(xiàn)之后發(fā)現(xiàn)效果還是不錯的,。本來規(guī)劃是1，我們最后搞了0.5,，如果用軟件來加密,、解密或者壓縮的，這個操作用可重構(gòu)的硬件實現(xiàn)之后的效果，我們可以看到大大地提升了性能,，這是我們在控制器里頭做這些操作可以提升性能,。
真正要實現(xiàn)可重構(gòu)還有一個問題，我要頻繁的更換FPGA的配置,，這個配置信息傳輸?shù)难舆t,，還有配置的延遲也會影響性能，我怎么樣加速這個配置,，不至于硬件是加速了,，但是配置在那兒搞了半天才把它電路換過來，也會影響整個性能,，我們也做了相應(yīng)的工作,，比如說加了一個緩存，并且對緩存的調(diào)度算法也進(jìn)行了一定的修改,，采用MLFU（配置信息緩存替換算法）進(jìn)行修改之后來使用,，包括加上配置信息的面積到底有多大。
如果面積小的模塊剔除去,，面積大的盡量保留在緩存里頭這樣加快速度,。這樣就使得整個性能比不加改進(jìn)要更好一些，不至于說因為做配置,，用可重構(gòu)提高了性能,，因為配置又把性能降下去了，所以使得整個不至于出現(xiàn)瓶頸問題,，這是第一個工作,，可重構(gòu)的近數(shù)據(jù)處理的固態(tài)盤。
第二個工作做存算融合存儲器探索的研究,，主編存儲器第一個方面可以做存儲,，通過高組、低組,，以及不同的組織狀態(tài)做存儲,，同時也可以做邏輯計算，另外做模擬計算,，我們也把它叫做近似的計算,，主要就可以做矩陣的向量乘法。
實際上憶阻器的發(fā)展主要從2008年開始,，正式了憶阻器之后得到了研究界廣泛的關(guān)注。這是近十年來相應(yīng)的研究,，包括把它用做大容量存儲,，邏輯計算，還有近似計算，也就是做矩陣的計算,，做AI的加速研究的是非常多的,。
這是做AI的加速，既可以做存儲,，又可以做計算,，陣列的控制模塊通過變化來使得達(dá)到是做存儲，還是做計算的目的,。比如說當(dāng)他做存儲的時候,，他就排除掉一些邏輯。而當(dāng)他做計算模式的時候才發(fā)揮作用,，同時也提供編程接口或者是優(yōu)化接口,。
這是在探索怎么樣基于憶阻既做存儲，又做計算這樣的體系結(jié)構(gòu),。未來我們認(rèn)為除了專用的探索之外,，能夠做高性能計算的加速，也可以做神經(jīng)網(wǎng)絡(luò)計算的加速,，或者是做圖像處理的加速等等這些專用的加速之外,，我們也希望探索一些通用的架構(gòu)，能夠滿足不同的應(yīng)用需求,。也就是說,，通過可配置的方式能夠滿足只要是我希望能夠在存儲器里頭做計算的，做存算一體化或者融合的,，都可以用這樣的架構(gòu),，這是在探索方面。
另一方面從它真正實現(xiàn)來看,，研究界非常熱,，但很多基于理想的假設(shè)之后做了研究。
比如說器件級就有這種非線性導(dǎo)致存儲可靠性降低的問題,，當(dāng)做成陣列形勢的時候就有電阻,、電流，導(dǎo)致存儲能效下降的問題,。還有當(dāng)他做大規(guī)模計算的時候,，多個陣列之間要做一些直連，會有誤差的傳遞,、累計,，從而導(dǎo)致計算的準(zhǔn)確度下降的問題。
盡管好處是說我要做計算,，實際上很簡單,，我先寫,，把電阻值子放到相應(yīng)的數(shù)字，做矩陣的成價運算,，就是加一個電壓讀過程就完了,，非常快,。但是真正實現(xiàn)起來就不那么簡單了,。要克服這樣非理想因素的影響，比如說單元級的,，非線性組織的變化,，還有D2D和C2C變化系，是很理想的直線,。
還有電流,、電壓的特性，盡管本身是一個組織,，但實際上電壓是線性的特點,。當(dāng)他作為陣列的時候，因為是共享,，就有電容的問題,，還有連線電阻的問題，本來是一個小的組織,，但是連線上也有電阻,，也會影響他。當(dāng)他做成下面第二個圖的結(jié)構(gòu)時候,，綠色的線本身是希望加一個電壓電流走這個線,，結(jié)果發(fā)現(xiàn)電流會像紅色的線到處跑，原因是共享導(dǎo)致,。
還有操作的問題,，哪些是不能并線操作的，哪些是能并線操作的,，這些都是我們在底層要解決的,，我們就做了一點這樣的工作，盡管上層可以做的很好,，可以做各種各樣的運算,，但真正要實現(xiàn)起來首先要解決底層非理想因素的影響。
我們解決具體的對象就多機(jī)存儲單元,，以及3D的模型,，也就是說共享的模型。在這個過程中間我們發(fā)現(xiàn)做計算首先要寫一個值,，再就是讀一次就出來了,，實際上我要做大容量的存儲也要解決這樣的問題,，寫的可靠問題,，以及寫的低能耗的問題,。我們發(fā)現(xiàn)有效電壓在左邊加進(jìn)來會有一個逐漸的衰減，到右上角的時候衰減是最厲害的,，也就是多單不對稱的現(xiàn)象,，所以就要做偏壓的操作對他進(jìn)行補(bǔ)償。
我們發(fā)現(xiàn)組織變化的時候高組態(tài)變化線是比較大的,，低組態(tài)的變化是小的,。如果是傳統(tǒng)的不同高組、低組只是均勻劃分進(jìn)行采樣情況下準(zhǔn)確度會降低,，所以我們就根據(jù)變化線高組態(tài)劃寬,，低組態(tài)劃窄，也就是變化性感知狀態(tài)劃分的方式,，來提高可靠性,。最差的情況下變化性降低了40%，提高了可靠性,。
另外大家都知道我們要去寫的時候都是寫一個高組或者低組,，傳統(tǒng)的方式是采用脈沖的迭代寫，寫到中間這個態(tài),。我們提出來比例控制的狀態(tài)調(diào)整,，也就是說第一次調(diào)的時候幅度大一點調(diào)到附近，然后再做準(zhǔn)確的控制反饋,，這樣就使得寫入速度加快,，平均的迭代次數(shù)減少31%，降低了寫入延遲,。
另外還有并行線的問題,，我們也寫出了相應(yīng)的并行調(diào)度的方法。這里有一個例子,，當(dāng)前的狀態(tài)是1213,，目標(biāo)狀態(tài)是3125，哪些是可以并行的,？第一個和第三個都要并行做兩次操作就可以完成的,，中間實際上就可以把第三位同時寫掉了，就相應(yīng)的提出了并行的算法來提高并行性,。
當(dāng)他用做大容量存儲的時候,，我們用內(nèi)存的對它進(jìn)行測試，平均的內(nèi)存訪問延遲降低了67.6%,，IPC提高了2.94倍,。這個是新寫進(jìn)去,，當(dāng)做存儲的時候讀要準(zhǔn)確，我們發(fā)現(xiàn)這樣的問題,，這是一個陣列的示意圖,，由于有電壓降的問題，左邊還是加電壓到最右端的紅點的時候電壓就衰減,，衰減之后導(dǎo)致理想讀的狀態(tài)應(yīng)該是右邊的綠線,，就變成橙色的線。也就是說,，讀出來的值會出錯,，測量的電流值由于電壓下降之后測量的電流肯定也是減少，減少之后如果還用理想狀態(tài)讀出來肯定是錯的,，所以我們也是做了相應(yīng)的表,，就可以準(zhǔn)確來讀取出來。
當(dāng)他做運算的時候,，我們就不利用這種查表的方式,，因為是加一個電壓就有電流出來。由于有電壓降的問題存在,，就會導(dǎo)致整個電流肯定都是會減少了,，我們就采用片壓，之前未先感知的互聯(lián)電壓降補(bǔ)償?shù)姆椒?，來使得每一個測量都是準(zhǔn)確的,，從而提升結(jié)果的準(zhǔn)確度提升15%，這就是我們在底層做了一些工作,，怎么樣能夠真正支持大容量存儲,；第二個在這種結(jié)構(gòu)怎么樣支持高速存算一體化，首先存,，然后再計算,。
當(dāng)然，在體系結(jié)構(gòu)方面我們也在做一些,，今天由于時間限制就不給大家分享了,。總的來說,，今天給大家分享了兩個工作,，第一個在SSD里頭做了近數(shù)據(jù)處理的，基于可重構(gòu)的FPGA近數(shù)據(jù)處理的硬件的加速,，來減少數(shù)據(jù)的傳輸,。
第二個基于SRAM做了一體化的探索，基本上大容量的探索,，首先是做大容量的存儲,，其次是能夠做存算一體化,，克服非理想因素我們做了相應(yīng)的工作。未來我們也在做體系結(jié)構(gòu)設(shè)計,，支持神經(jīng)網(wǎng)絡(luò),、圖像處理等等這樣的體系結(jié)構(gòu)的設(shè)計，下次有機(jī)會再給大家分享,。