英偉達(dá)攜手聯(lián)發(fā)科推出個(gè)人AI超級(jí)電腦NVIDIA Project Digits
2025-01-08
來(lái)源:芯智訊
1月7日,英偉達(dá)創(chuàng)始人暨CEO黃仁勛在CES 2025主題演講中正式推出了名為“NVIDIA Project Digits”的個(gè)人AI超級(jí)電腦,將為全球AI研究員,、數(shù)據(jù)科學(xué)家和學(xué)生提供NVIDIA Grace Blackwell平臺(tái)的強(qiáng)大功能,。
黃仁勛表示,Project Digits 采全新NVIDIA GB10 Grace Blackwell Superchip,,為原型設(shè)計(jì),、微調(diào)和運(yùn)行大型AI模型提供數(shù)千億次AI運(yùn)算性能,。借助Project Digits,,使用者可用自己桌面系統(tǒng)開(kāi)發(fā)模型推理,,無(wú)縫部署加速云端或數(shù)據(jù)中心基礎(chǔ)構(gòu)架上。
黃仁勛認(rèn)為,,人工智能將成為每個(gè)產(chǎn)業(yè),、每個(gè)應(yīng)用程序的主流,通過(guò)Project Digits,,Grace Blackwell Superchip 與數(shù)百萬(wàn)開(kāi)發(fā)者合作,,每個(gè)數(shù)據(jù)科學(xué)家、人工智能研究員和學(xué)生桌上放一臺(tái)人工智能超級(jí)計(jì)算機(jī),,就能參與并塑造人工智能時(shí)代,。
據(jù)介紹,Project Digits所搭載的GB10 Grace Blackwell超級(jí)芯片,,可提供高達(dá)1petaflop高能效AI性能,。這款芯片是由英偉達(dá)與Arm構(gòu)架系統(tǒng)芯片設(shè)計(jì)的市場(chǎng)領(lǐng)導(dǎo)者聯(lián)發(fā)科聯(lián)合設(shè)計(jì),配備了英偉達(dá)最新一代CUDA核心和第五代Tensor核心,,并通過(guò)NVLink-C2C芯片間互連到高能效的NVIDIA Grace CPU。該Grace CPU包括20個(gè)基于Arm架構(gòu)建構(gòu)的高能源效率核心,,這是由英偉達(dá)與Arm構(gòu)架系統(tǒng)芯片設(shè)計(jì)的市場(chǎng)領(lǐng)導(dǎo)者聯(lián)發(fā)科聯(lián)合設(shè)計(jì),,提供了GB10芯片的一流的性能、能效和連接性,。
GB10 Grace Blackwell超級(jí)芯片讓Project Digits僅使用標(biāo)準(zhǔn)電源插座即可提供強(qiáng)大的性能,,每個(gè)Project Digits均配備128GB統(tǒng)一的內(nèi)存和高達(dá)4TB的NVMe儲(chǔ)存裝置。
借助Project Digits超級(jí)計(jì)算機(jī),,開(kāi)發(fā)人員可以運(yùn)行多達(dá)2,000億參數(shù)的大型語(yǔ)言模型,,以增強(qiáng)人工智能創(chuàng)新。此外,,使用Nvidia ConnectX網(wǎng)絡(luò),,兩臺(tái)Project Digits AI超級(jí)電腦可以連接起來(lái)運(yùn)行多達(dá)4,050億個(gè)參數(shù)的模型。
黃仁勛強(qiáng)調(diào),,借助Grace Blackwell構(gòu)架,,企業(yè)和研究人員可以運(yùn)行采用Linux的NVIDIA DGX操作系統(tǒng)進(jìn)行原型設(shè)計(jì)、微調(diào)和測(cè)試模型,,然后將它們無(wú)縫部署在NVIDIA DGX Cloud,、加速云實(shí)例或數(shù)據(jù)中心基礎(chǔ)設(shè)施上。這使得開(kāi)發(fā)人員能夠在Project Digits上建立AI原型,然后使用相同的Grace Blackwell構(gòu)架和Nvidia AI Enterprise軟件平臺(tái)在云端或數(shù)據(jù)中心基礎(chǔ)構(gòu)架上進(jìn)行擴(kuò)展,。
另外,,Project Digits 使用者可以存取用于實(shí)驗(yàn)和原型設(shè)計(jì)的廣泛NVIDIA AI軟件數(shù)據(jù),包括NVIDIA NGC目錄和NVIDIA開(kāi)發(fā)人員入口網(wǎng)站中提供的軟件開(kāi)發(fā)套件,、編排工具,、框架和模型。開(kāi)發(fā)人員還可以使用NVIDIA NeMo框架微調(diào)模型以及NVIDIA Rapids加速數(shù)據(jù)科學(xué),,并運(yùn)行PyTorch,、Python和Jupyter等筆記型電腦常見(jiàn)框架。
黃仁勛表示:“AI時(shí)代已然到來(lái),。聯(lián)發(fā)科業(yè)界先進(jìn)的CPU性能,、能效與NVIDIA加速運(yùn)算技術(shù)的組合將驅(qū)動(dòng)下一波創(chuàng)新浪潮,包括與聯(lián)發(fā)科聯(lián)合設(shè)計(jì)新GB10超級(jí)芯片的Project DIGITS,,讓我們強(qiáng)勁的Grace Blackwell平臺(tái)更容易獲取和使用,,讓開(kāi)發(fā)者、研究人員和學(xué)生都能利用它來(lái)解決這個(gè)時(shí)代更為迫切的問(wèn)題,?!?/p>
聯(lián)發(fā)科副董事長(zhǎng)暨執(zhí)行長(zhǎng)蔡力行表示:“我們與英偉達(dá)在GB10超級(jí)芯片上的合作,與聯(lián)發(fā)科希望把科技帶給每個(gè)人的愿景不謀而合,。我們期待與NVIDIA一起開(kāi)啟超級(jí)運(yùn)算的創(chuàng)新時(shí)代,,讓AI無(wú)所不在?!?/p>
Project Digits將于2025年5月由英偉達(dá)和合作伙伴發(fā)售,,建議售價(jià)為3,000美元起。