《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > 美光 MRDIMM 創(chuàng)新技術(shù)打造最高性能,、低延遲主存,,為數(shù)據(jù)中心工作負載加速

美光 MRDIMM 創(chuàng)新技術(shù)打造最高性能、低延遲主存,為數(shù)據(jù)中心工作負載加速

突破性的美光 MRDIMM 具備高達 256GB 容量和 40% 更低延遲,,賦能 AI 及 HPC 等內(nèi)存密集型應(yīng)用
2024-07-24
來源:美光科技股份有限公司
關(guān)鍵詞: 美光 MRDIMM AI

  2024 年 7 月 18 日,,中國上海 — 美光科技股份有限公司(納斯達克股票代碼:MU)近日宣布,,已出樣多路復(fù)用雙列直插式內(nèi)存模塊(MRDIMM),。該款 MRDIMM 將賦能美光客戶應(yīng)對日益繁重的工作負載,從而最大化計算基礎(chǔ)設(shè)施的價值,。對于需要每個 DIMM 插槽內(nèi)存超過 128GB 的應(yīng)用,,美光 MRDIMM 提供最高帶寬、最大容量,、最低延遲以及更高的每瓦性能,,在加速內(nèi)存密集型虛擬化多租戶、高性能計算和 AI 數(shù)據(jù)中心工作負載方面,,表現(xiàn)優(yōu)于當前的 TSV RDIMM,。1 該款全新內(nèi)存產(chǎn)品為美光 MRDIMM 系列的首代,將與英特爾? 至強? 6 處理器兼容,。

  美光副總裁暨計算產(chǎn)品事業(yè)群總經(jīng)理 Praveen Vaidyanathan 表示:“美光最新的創(chuàng)新主存解決方案 MRDIMM 為下一代服務(wù)器平臺提供了亟需的帶寬和容量,,并降低了延遲,旨在擴展 AI 推理和高性能計算應(yīng)用,。MRDIMM 在提供與 RDIMM 相同的可靠性,、可用性、適用性和接口的同時,,顯著降低了每項任務(wù)的能耗,,為客戶帶來了性能可擴展的靈活解決方案,。美光與業(yè)界的緊密合作,確保該解決方案能與現(xiàn)有服務(wù)器基礎(chǔ)設(shè)施無縫集成,,并順利過渡到未來的計算平臺,。”

  通過實施 DDR5 的物理和電氣標準,,MRDIMM 實現(xiàn)了內(nèi)存技術(shù)的突破,,使單核心的帶寬和容量得以擴展,為未來的計算系統(tǒng)提供堅實保障,,并能滿足數(shù)據(jù)中心工作負載日益增長的需求,。與 RDIMM 相比,MRDIMM 具有以下優(yōu)勢:2

  ·有效內(nèi)存帶寬提升高達 39%2

  ·總線效率提升超過 15%2

  ·與 RDIMM 相比,,延遲降低高達 40%3

  MRDIMM 支持從 32GB 到 256GB 廣泛的容量選擇,涵蓋標準型和高型外形規(guī)格(TFF),,適用于高性能的 1U 和 2U 服務(wù)器,。得益于 TFF 模塊優(yōu)化的散熱設(shè)計,在同等功耗和氣流條件下,,DRAM 溫度可降低高達 20 攝氏度,,4為數(shù)據(jù)中心帶來更高效的散熱,并優(yōu)化內(nèi)存密集型工作負載的總系統(tǒng)任務(wù)能耗,。美光憑借業(yè)界領(lǐng)先的內(nèi)存設(shè)計和制程技術(shù),,在 256GB TFF MRDIMM 上采用 32Gb DRAM 芯片,實現(xiàn)了與采用 16Gb 芯片的 128GB TFF MRDIMM 相同的功耗表現(xiàn),。在最大數(shù)據(jù)傳輸速率下,,256GB TFF MRDIMM 的性能比相同容量的 TSV RDIMM 提升 35%。5與 TSV RDIMM 相比,,使用 256GB TFF MRDIMM,,數(shù)據(jù)中心可以獲得前所未有的總體擁有成本(TCO)優(yōu)勢。

  英特爾副總裁兼數(shù)據(jù)中心至強 6 產(chǎn)品管理總經(jīng)理 Matt Langman 表示:“借助 DDR5 接口和技術(shù),,MRDIMM 實現(xiàn)了與現(xiàn)有英特爾? 至強? 6 處理器平臺的無縫兼容,,為客戶帶來了更高的靈活性和更多選擇。MRDIMM 為客戶提供全面的選項,,包括更高的帶寬,、更低的延遲以及多樣的容量規(guī)格,適用于高性能計算,、AI 及多種工作負載,,且這一切均在同一支持標準 DIMM 的英特爾? 至強? 6 處理器平臺上實現(xiàn)。我們的客戶將從美光廣泛的 MRDIMM 產(chǎn)品組合中受益,,這些產(chǎn)品涵蓋從 32GB 到 256GB 的不同容量,,包括標準和高型兩種外形規(guī)格,,并將與英特爾? 至強? 6 平臺進行驗證?!?/p>

  聯(lián)想集團副總裁兼人工智能和高性能計算總經(jīng)理 Scott Tease 表示:“隨著處理器和 GPU 供應(yīng)商提供的產(chǎn)品核心數(shù)呈指數(shù)級增長,,所需的內(nèi)存帶寬卻未能跟上這一趨勢,以滿足系統(tǒng)性能平衡的需求,。針對內(nèi)存密集型任務(wù),,如 AI 推理、AI 再訓(xùn)練以及眾多高性能計算工作負載,,美光 MRDIMM 將助力縮小帶寬差距,。我們與美光的合作愈發(fā)緊密,致力于為我們共同的客戶提供平衡,、高性能,、可持續(xù)的技術(shù)解決方案?!?/p>

  美光 MRDIMM 現(xiàn)已開售,,并將于 2024 年下半年批量出貨。后續(xù)幾代 MRDIMM 產(chǎn)品將繼續(xù)提供比同代 RDIMM 高 45% 的單通道內(nèi)存帶寬,。6

  1基于 GNR-AP 平臺,,使用英特爾 Memory Latency Checker(MLC)工具,針對 MRDIMM(經(jīng)驗數(shù)據(jù)為 8800MT/s)和 TSV RDIMM(預(yù)估數(shù)據(jù)為 6400MT/s)在不同內(nèi)存時鐘下的只讀帶寬數(shù)據(jù)進行測試,。

  2基于英特爾 Memory Latency Checker(MLC)工具,,對 128GB MRDIMM 8800MT/s 與 128GB RDIMM 6400MT/s 進行經(jīng)驗數(shù)據(jù)對比測試。

  3基于經(jīng)驗得出 Stream Triad 數(shù)據(jù),,對 128GB MRDIMM 8800MT/s 與 128GB RDIMM 6400MT/s 進行對比,。

  4最高 DRAM 溫度模擬對比:1U 服務(wù)器機箱中的標準外形規(guī)格(SFF)DIMM 與 2U 服務(wù)器機箱中的高型外形規(guī)格(TFF)MRDIMM。

  5基于 GNR-AP 平臺,,使用英特爾 Memory Latency Checker(MLC)工具,,針對 MRDIMM (經(jīng)驗數(shù)據(jù)為8800MT/s)和當前一代 TSV RDIMM(預(yù)估數(shù)據(jù)為6400MT/s)在不同內(nèi)存時鐘下的只讀帶寬數(shù)據(jù)進行測試。

  6基于 MRDIMM 相對于 RDIMM 的預(yù)期未來速率,,數(shù)據(jù)傳輸速率將有所提升,。




更多精彩內(nèi)容歡迎點擊==>>電子技術(shù)應(yīng)用-AET<<

3952966954c9c6c308355d1d28d750b.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點,。轉(zhuǎn)載的所有的文章、圖片,、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,,請及時通過電子郵件或電話通知我們,,以便迅速采取適當措施,避免給雙方造成不必要的經(jīng)濟損失,。聯(lián)系電話:010-82306118,;郵箱:[email protected]