3 月 19 日消息,,華碩今日宣布,,在英偉達(dá) GTC 2024 上展示其基于 MGX 的數(shù)據(jù)中心解決方案。
華碩表示,,為了滿足生成式 AI 不斷增長(zhǎng)的需求,,華碩使用了來(lái)自英偉達(dá)的最新技術(shù) —— 包括 B200,、GB200 Grace Blackwell 和 H200 NVL,以提供優(yōu)化的 AI 服務(wù)器解決方案,。
基于英偉達(dá) MGX 的華碩服務(wù)器解決方案,,專為 AI 需求定制
華碩本次發(fā)布了 ESC NM1-E1 與 ESC NM2-E1 2U 服務(wù)器,基于英偉達(dá) MGX 模塊化架構(gòu),,采用英偉達(dá) GH200 Grace Hopper 超級(jí)芯片,。英偉達(dá) GH200 包括支持 SVE2 的 Arm Neoverse V9 CPU 核心,并由 NVLink-C2C 技術(shù)互聯(lián),。結(jié)合英偉達(dá) BlueField-3 DPU 和 ConnectX-7 網(wǎng)絡(luò)適配器,,該服務(wù)器數(shù)據(jù)吞吐能力達(dá) 400Gb / s。
▲ 英偉達(dá) MGX 架構(gòu)
液冷解決方案
▲ 左:ESC N8-E11,,右:RS720QN-E11-RS24U
華碩 D2C(direct-to-chip)冷卻方案支持快速部署,,降低數(shù)據(jù)中心的 PUE(Power Usage Effectiveness)比率。本次展示的 ESC N8-E11 和 RS720QN-E11-RS24U 服務(wù)器支持多樣化的冷卻解決方案,。此外,,華碩服務(wù)器支持與標(biāo)準(zhǔn)機(jī)架服務(wù)器設(shè)計(jì)兼容的換熱器,無(wú)需更換所有機(jī)架 —— 只需更換后門(mén)即可啟用機(jī)架內(nèi)的液冷,。
AI 軟件解決方案
▲ 華碩 ESC4000A-E12
華碩將在 GTC 展會(huì)上使用 ESC4000A-E12 服務(wù)器,,演示無(wú)代碼 AI 平臺(tái)與集成軟件棧,加速企業(yè)在 LLM 預(yù)訓(xùn)練,、微調(diào)和推理上的 AI 開(kāi)發(fā)速度,支持 7B,、33B 甚至到超過(guò) 180B 參數(shù)的大模型,。華碩表示其定制軟件可以通過(guò)通過(guò)優(yōu)化 GPU 資源的分配,確保 AI 應(yīng)用程序和工作負(fù)載可以在不浪費(fèi)資源的情況下運(yùn)行,,從而提高效率和投資回報(bào)率(ROI),。
查詢?nèi)A碩官網(wǎng)獲悉,ESC4000A-E12 服務(wù)器使用 AMD EPYC 9004 處理器,,支持四塊雙槽 GPU,,采用液冷散熱解決方案,提供 8 根 PCIe 5.0 插槽。