三星2月27日宣布開發(fā)出業(yè)界首款12層堆疊HBM3E 12H高帶寬存儲芯片,,這也是迄今為止容量最高的HBM產(chǎn)品,,達36GB,,帶寬高達1280GB/s,。與8層堆疊HBM3產(chǎn)品相比,,這款新品在容量,、帶寬方面都提高了50%以上,,可顯著提高人工智能(AI)訓(xùn)練,、推理速度,。
三星電子存儲產(chǎn)品規(guī)劃執(zhí)行副總裁Yongcheol Bae表示,,業(yè)界AI服務(wù)供應(yīng)商越來越需要更高容量的HBM,而我們開發(fā)的全新HBM3E 12H產(chǎn)品正是為滿足這一需求設(shè)計的,。
技術(shù)方面,,三星HBM3E 12H采用先進的熱壓非導(dǎo)電薄膜(TC NCF),使12層產(chǎn)品具有與8層HBM芯片相同的高度,,以滿足當(dāng)前HBM封裝要求,。該技術(shù)預(yù)計將在未來帶來更多優(yōu)勢,特別是更高層數(shù)堆疊方面,,因為業(yè)界正在努力減輕芯片裸片變薄帶來的翹曲問題,。三星不斷降低NCF材料的厚度,并實現(xiàn)了當(dāng)前業(yè)界最小的芯片間隙(7微米),,同時消除了層間空隙,。與此前的HBM3 8H產(chǎn)品相比,新技術(shù)的進步使得垂直密度提高了20%以上,。
三星表示,,TC NCF技術(shù)還能夠通過在芯片之間使用不同大小的凸塊,來改善HBM的熱性能,。在芯片鍵合層面,,較小的凸塊用于信號傳輸區(qū)域,而較大的凸塊用于需要散熱的區(qū)域,;該方法還有助于提高產(chǎn)品產(chǎn)量,。
集微網(wǎng)了解到,英偉達目前的H200旗艦AI芯片宣布采用HBM3E存儲,,下一代B100預(yù)計將同樣采用HBM3E,,目前三大存儲芯片巨頭三星、SK海力士,、美光均重點發(fā)力HBM,。
三星表示,HBM3E 12H將成為未來最佳解決方案,,并降低數(shù)據(jù)中心總成本(TCO),。性能方面,新產(chǎn)品與HBM3 8H相比,人工智能訓(xùn)練平均速度可提高34%,,用于推理服務(wù)支持的用戶數(shù)量最高可增加11.5倍以上,。
目前三星已開始向客戶提供HBM3E 12H樣品,計劃于今年上半年量產(chǎn),。