9月3日,，在SEMICON Taiwan 2024 展會(huì)期間的“異質(zhì)整合國(guó)際高峰論壇”上，SK 海力士封裝（PKG）研發(fā)副社長(zhǎng)李康旭（Kangwook Lee）以“準(zhǔn)備AI 時(shí)代的HBM和先進(jìn)封裝技術(shù)”為題,，分享了SK 海力士最新的HBM技術(shù),。

SK海力士的HBM規(guī)劃

李康旭指出， HBM 是克服“存儲(chǔ)墻”（Memory Walls）的最優(yōu)解決方案,，基于其強(qiáng)大的I/O 并行化能力,，使HBM 成為Al 系統(tǒng)中用于訓(xùn)練和推理的最高規(guī)格DRAM。

根據(jù)應(yīng)用產(chǎn)品（Application）不同,，使用的HBM數(shù)量也不同,。隨著HBM技術(shù)的發(fā)展，在訓(xùn)練和推理AI 服務(wù)器中搭載HBM 平均數(shù)量也會(huì)增加,，如近期訓(xùn)練服務(wù)器應(yīng)用需要8 個(gè)HBM3E,，推理則只需要4-5 個(gè)，長(zhǎng)遠(yuǎn)估算可能分別要12 個(gè)和8 個(gè)HBM4 /HBM4E,。

李康旭表示,，SK 海力士計(jì)劃在2025 年推出12 層的HBM4 產(chǎn)品，通過(guò)自家研發(fā)的封裝技術(shù),，在HBM 產(chǎn)品的能效和散熱性能上更具競(jìng)爭(zhēng)力,。

有趣的是，SK 海力士到HBM3E 仍是DRAM 基礎(chǔ)裸片（Base Die）,，采用2.5D 系統(tǒng)級(jí)封裝,，到HBM4 考慮將DRAM Base Die 改成Logic Base Die，使性能和能效獲得進(jìn)一步提升,。此外,，到了HBM5 架構(gòu)可能再次改變，SK 海力士目前正評(píng)估包括2.5D 和3D 系統(tǒng)級(jí)封裝（SiP）在內(nèi)的各種方案,。

不過(guò),，SK海力士在邏輯制程的能力上存在一定的欠缺，為了解決這一問(wèn)題,，SK海力士考慮和臺(tái)積電進(jìn)行合作,。雖然此前SK海力士自己制造Base Die,，但從第6代的HBM4開(kāi)始，將會(huì)委托臺(tái)積電生產(chǎn)Base Die,，以進(jìn)一步增強(qiáng)功能,。

提到未來(lái)HBM 技術(shù)挑戰(zhàn)，李康旭表示在封裝,、設(shè)計(jì)面臨許多挑戰(zhàn),，以封裝來(lái)說(shuō)是堆疊數(shù)限制，更希望直接結(jié)合邏輯芯片和HBM 堆疊,，客戶(hù)目前也對(duì)3D SIP 感興趣,，因此3D SIP、存儲(chǔ)芯片帶寬,、結(jié)合客戶(hù)需求和協(xié)作,，都是未來(lái)挑戰(zhàn)之一。

對(duì)于一些新創(chuàng)AI芯片公司出于成本考慮,，采用增大片上SRAM來(lái)減少對(duì)于HBM的依賴(lài)的做法,，李康旭認(rèn)為，這主要仍取決于產(chǎn)品應(yīng)用,，有些公司宣稱(chēng)HBM 太貴,，所以找尋其他不需要HBM 的解決方案，但仍需要看具體情況,，高性能計(jì)算產(chǎn)品仍需要HBM ,，但某些應(yīng)用可能不需要有HBM，主要仍取決于應(yīng)用場(chǎng)景,。

兩種封裝路線：MR-MUF 和Hybrid Bonding

SK 海力士目前的HBM 產(chǎn)品主要采用MR-MUF 封裝技術(shù),，具有低壓、低溫鍵合和批量熱處理的優(yōu)勢(shì),，在生產(chǎn)效率和可靠性?xún)?yōu)于TC-NCF 制程,。此外，具有高熱導(dǎo)特性的Gap-Fill 材料（填充空隙的材料）和高密度金屬凸塊（在垂直堆疊HBM DRAM時(shí)起連接電路作用的微小鼓包型材料）的形成,，散熱可比TC-NCF 制程有36% 性能優(yōu)勢(shì),。

但是由于堆疊將面臨高度限制，目前SK 海力士不斷找尋新方法,，在有限高度下塞入更多堆疊層數(shù),。李康旭指出，公司8 層HBM3/HBM3E 使用MR-MUF技術(shù),；12層HBM3/HBM3E 將采用Advanced MR-MUF技術(shù),；明年下半年準(zhǔn)備出貨的12 層HBM4 同樣采Advanced MR-MUF 技術(shù)；至于后續(xù)的16 層HBM4/ HBM4E 將同步采用Advanced MR-MUF 和混合鍵合（Hybrid Bonding）兩種技術(shù),，未來(lái)堆疊20 層以上產(chǎn)品（如HBM5）則將轉(zhuǎn)向Hybrid Bonding 前進(jìn),。

李康旭指出，SK海力士目前正在研發(fā)16 層產(chǎn)品相關(guān)技術(shù),，最近確認(rèn)對(duì)16 層產(chǎn)品仍可適用Advanced MR-MUF技術(shù)的可能性,。此外，SK海力士此前也表示,，從HBM4E 開(kāi)始會(huì)更強(qiáng)調(diào)“定制化HBM”,，以應(yīng)對(duì)各種客戶(hù)需求，如提升芯片效率,。

李康旭解釋?zhuān)瑯?biāo)準(zhǔn)HBM 和定制化HBM 核心芯片相同,，但是Base Die（基礎(chǔ)芯片）不同，主要是再加入客戶(hù)的IP,，芯片效率也可能更高,。

另?yè)?jù)韓媒報(bào)道，SK 海力士將小芯片技術(shù)（chiplet）導(dǎo)入存儲(chǔ)控制器（memory controller）,。對(duì)此,，李康旭表示目前控制器是在單芯片（SoC）中，但未來(lái)會(huì)針對(duì)小芯片封裝技術(shù),，結(jié)合存儲(chǔ)控制器,。除了HBM 外，SSD 的SoC 控制器也會(huì)采用這項(xiàng)技術(shù),。