7 月 3 日消息,臺媒《工商時報(bào)》消息,,英偉達(dá) H200 上游芯片端于二季度下旬起進(jìn)入量產(chǎn)期,,預(yù)計(jì)在三季度以后開始大規(guī)模交付。
據(jù)此前報(bào)道,,OpenAI 近日在舊金山舉辦了一場研討會,,英偉達(dá)首席執(zhí)行官黃仁勛親自出席,共同宣布交付第一臺 Nvidia DGX H200,。
H200 作為 H100 的迭代升級產(chǎn)品,,基于 Hopper 架構(gòu),首次采用了 HBM3e 高帶寬內(nèi)存技術(shù),,實(shí)現(xiàn)了更快的數(shù)據(jù)傳輸速度和更大的內(nèi)存容量,,對大型語言模型應(yīng)用表現(xiàn)出顯著優(yōu)勢。
根據(jù)英偉達(dá)官方發(fā)布的數(shù)據(jù),,在處理諸如 Meta 公司 Llama2 這樣的復(fù)雜大語言模型時,,H200 相較于 H100 在生成式 AI 輸出響應(yīng)速度上最高提升了 45%。
供應(yīng)鏈指出,,目前待出貨的客戶端訂單仍多集中于 HGX 架構(gòu)的 H100,,H200 比重有限,因采用配貨制,,目前各家終端系統(tǒng)合作伙伴的出貨主力 H100 GPU,,到貨時間最長仍可能達(dá) 20 周。
消息稱 B100 將于明年上半年出貨,。英偉達(dá) CEO 黃仁勛此前表示,,從 B100 開始未來所有產(chǎn)品的散熱技術(shù)都將由風(fēng)冷轉(zhuǎn)為液冷。英偉達(dá) H200 GPU 的 TDP 為 700W,,保守估計(jì) B100 的 TDP 接近千瓦,,傳統(tǒng)風(fēng)冷不能滿足芯片工作過程中對于散熱需求,散熱技術(shù)將全面向液冷革新,。