浪潮全新發(fā)布5款AI服務(wù)器,,全面支持全新NVIDIA? Ampere架構(gòu)。全新服務(wù)器可支持8到16顆NVIDIA A100 Tensor Core GPU,能夠提供高達(dá)每秒4000萬億次的AI計(jì)算性能, 以及高達(dá)600GB/S 的GPU間P2P帶寬,。
San Jose, California,,-5月14日,,全球領(lǐng)先的AI計(jì)算基礎(chǔ)架構(gòu)廠商浪潮宣布全面升級其AI服務(wù)器,,全面支持全新NVIDIA A100 Tensor Core GPU,。,。
浪潮此次發(fā)布的5款A(yù)I服務(wù)器將應(yīng)對多種人工智能計(jì)算場景,可支持8到16顆最新NVIDIA A100 Tensor Core GPU,。A100 GPU中的第三代Tensor Core核心速度更快,、靈活性更高,同時也更易于使用,使這些服務(wù)器的最高性能可達(dá)每秒4000萬億次,,同時通過新一代NVIDIA NVSwitch技術(shù)實(shí)現(xiàn)GPU間P2P通信性能翻倍提升最高達(dá)600GB/S,。更強(qiáng)計(jì)算性能與更高的GPU間互聯(lián)帶寬可帶來更高的AI計(jì)算效率,支撐用戶進(jìn)行更大數(shù)據(jù)規(guī)模,、更復(fù)雜模型的AI訓(xùn)練,。此外,NVIDIA A100 GPU擁有40GB的HBM2內(nèi)存,,內(nèi)存帶寬提高70%,,達(dá)到1.6TB/sec,可以承載更大的深度學(xué)習(xí)模型訓(xùn)練,。
浪潮此次發(fā)布的5款A(yù)I服務(wù)器都將為多種應(yīng)用場景提供硬件設(shè)計(jì),,包括:
1. NF5488M5-D可以在4U空間容納8顆A100 GPU,并支持兩顆當(dāng)前最主流的通用CPU,,可以為用戶提供領(lǐng)先的AI計(jì)算技術(shù)和成熟的生態(tài)支持,。
2. NF5488A5支持8顆第三代NVlink互聯(lián)的A100 GPU和2顆PCI-E Gen4 CPU,為用戶提供高帶寬的數(shù)據(jù)通信,。
3. NF5488M6將為大規(guī)模HPC和AI計(jì)算用戶提供極致優(yōu)化設(shè)計(jì)的系統(tǒng),,將集成支持NVSwitch高速互聯(lián)的8顆A100 GPU和2顆下一代主流通用CPU。
4. NF5688M6將為AI用戶提供極致的擴(kuò)展性能,,支持8顆A100 GPU并同時可容納超過10個PCIe Gen4設(shè)備,,并實(shí)現(xiàn)GPU計(jì)算、NVMe存儲和NVIDIA Mellanox InfiniBand網(wǎng)絡(luò)的1:1:1均衡配比,。
5.NF5888M6能夠在單機(jī)內(nèi)通過NVSwitch實(shí)現(xiàn)16顆 A100 GPU高速互聯(lián),,單機(jī)性能高達(dá)INT8精度下4000萬億次每秒,為追求極致性能的客戶提供最強(qiáng)大的AI超級服務(wù)器,。
浪潮還同時宣布,,其領(lǐng)先的AI計(jì)算資源平臺AIStation和自動機(jī)器學(xué)習(xí)平臺AutoML Suite也將同步支持最新的A100 GPU。AutoML提供靈活的AI計(jì)算系統(tǒng)資源調(diào)度和強(qiáng)大的AI模型算法開發(fā)支持,。
此外,,浪潮還計(jì)劃將全新EGX A100添加到其邊緣服務(wù)器產(chǎn)品組合中,在邊緣提供更強(qiáng)的安全性和前所未有的性能,。EGX A100聚合加速器結(jié)合了Mellanox SmartNIC和由全新NVIDIA Ampere架構(gòu)賦能的GPU,,因此企業(yè)可以更安全地在邊緣運(yùn)行AI。
浪潮集團(tuán)AI&HPC總經(jīng)理劉軍表示:“浪潮在第一時間全面推出基于NVIDIA Ampere架構(gòu)的全線AI服務(wù)器產(chǎn)品,,為全球AI客戶提供專為應(yīng)用場景極致創(chuàng)新優(yōu)化設(shè)計(jì)的新一代AI計(jì)算平臺,,進(jìn)一步增強(qiáng)浪潮在業(yè)界最豐富的AI服務(wù)器產(chǎn)品陣列,可以更好地應(yīng)對當(dāng)前海量數(shù)據(jù)爆發(fā)與復(fù)雜模型所帶來的巨大的計(jì)算挑戰(zhàn),。這也是業(yè)內(nèi)最強(qiáng)大的AI算力機(jī)組,,將有力地推動智算中心建設(shè)和產(chǎn)業(yè)AI化落地,。”
NVIDIA加速計(jì)算產(chǎn)品管理總監(jiān)Paresh Kharya表示,,“NVIDIA A100 Tensor Core GPU能夠?yàn)橛脩粼贏I,、數(shù)據(jù)分析和HPC等各個領(lǐng)域都提供無與倫比的加速。以NVIDIA A100 GPU為動力的浪潮AI服務(wù)器將幫助全球用戶消除計(jì)算瓶頸,,顯著降低成本,、能耗和對數(shù)據(jù)中心的空間需求?!崩顺笔侨蝾I(lǐng)先的AI服務(wù)器廠商,,擁有豐富的AI產(chǎn)品陣列,并和AI客戶緊密合作幫助在語音,、語義,、圖像、視頻,、搜索等各方面取得數(shù)量級的AI應(yīng)用性能提升,。據(jù)IDC數(shù)據(jù)報(bào)告顯示,浪潮AI服務(wù)器在中國AI基礎(chǔ)架構(gòu)設(shè)施領(lǐng)域已連續(xù)三年保持50%以上市場份額,。