AI很好,但如何才能深入應(yīng)用于不同行業(yè),?AI落地,當(dāng)前仍然面臨著最后一公里的難題,。業(yè)界普遍認(rèn)為:數(shù)據(jù)結(jié)合難,、業(yè)務(wù)價(jià)值不佳、數(shù)據(jù)科學(xué)人才稀缺,、算力成本負(fù)擔(dān)重,,是企業(yè)落地AI最常見的四大阻力,。縮短最后一公里,、實(shí)現(xiàn)更大量的合作,,核心其實(shí)是降低門檻、提高效率,。
打個(gè)比方,,假設(shè)企業(yè)用AI的最終目標(biāo)是做一個(gè)大蛋糕,他需要從種小麥開始嗎,?當(dāng)然不是,。讓企業(yè)找到現(xiàn)成的源頭,獲取面粉,、黃油,、雞蛋、模具這些現(xiàn)成材料,,才是更省事省力的選擇,。
英偉達(dá)正在攜手生態(tài)伙伴為企業(yè)提供這些“現(xiàn)成的材料”。英偉達(dá)剛剛發(fā)起的全球首個(gè)NVIDIA認(rèn)證系統(tǒng),,意在通過(guò)堅(jiān)實(shí)的技術(shù)基礎(chǔ)和廣泛的生態(tài)合作,,進(jìn)一步推進(jìn)AI在各行各業(yè)的泛化能力。
AI基礎(chǔ)設(shè)施需要一場(chǎng)變革
根據(jù)Gartner數(shù)據(jù),,目前37%的企業(yè)機(jī)構(gòu)在生產(chǎn)中使用了AI,,預(yù)計(jì)到2024年這一比例將翻倍至75%。AI是這個(gè)時(shí)代最強(qiáng)大的技術(shù),,但是,,它需要新一代經(jīng)過(guò)調(diào)整和測(cè)試的計(jì)算機(jī)來(lái)推動(dòng)其發(fā)展,也就是說(shuō),,來(lái)自于基礎(chǔ)設(shè)施的變革迫在眉睫,。
英偉達(dá)NGC產(chǎn)品管理總監(jiān)Adel El-Hallak告訴與非網(wǎng),AI基礎(chǔ)設(shè)施的變革主要來(lái)自于三大顛覆力:爆發(fā)的數(shù)據(jù)量,、更大更復(fù)雜的AI模型,、以及業(yè)界對(duì)于更好的產(chǎn)品和服務(wù)的追求。
一方面,,企業(yè)試圖從不斷增加的數(shù)據(jù)中,,總結(jié)出隱藏的戰(zhàn)略洞察。例如,,沃爾瑪每小時(shí)要處理超過(guò)2.5PB的數(shù)據(jù),,阿里巴巴正在利用AI洞察數(shù)據(jù)、優(yōu)化搜索排名和產(chǎn)品推薦。另一方面,,短短5年內(nèi),,篩選這些數(shù)據(jù)的AI模型規(guī)模增長(zhǎng)了近3萬(wàn)倍,使用這些數(shù)據(jù)的模型和工作負(fù)載的多樣性也在不斷擴(kuò)大,。
日益增加的數(shù)據(jù)量,、不斷擴(kuò)大的AI數(shù)據(jù)篩選模型,導(dǎo)致數(shù)據(jù)中心和網(wǎng)絡(luò)邊緣的網(wǎng)絡(luò)流量呈指數(shù)級(jí)增長(zhǎng),。企業(yè)如何才能獲得更好的產(chǎn)品和服務(wù),?一個(gè)安全、可靠,、高速并且能夠有效擴(kuò)展的基礎(chǔ)設(shè)施是關(guān)鍵,。
解鎖大量應(yīng)用的關(guān)鍵
Adel El-Hallak以計(jì)算機(jī)視覺圍繞圖像分類、目標(biāo)檢測(cè)等應(yīng)用的興起談到,,AI模型解鎖了各種各樣的不同用例,,提供了更好的產(chǎn)品和服務(wù),但模型也變得越來(lái)越復(fù)雜和龐大,。不過(guò),,這是一個(gè)良性循環(huán),當(dāng)我們?cè)谑褂眠@些產(chǎn)品和服務(wù)的同時(shí),,也正在生成數(shù)據(jù),,利用這些數(shù)據(jù)對(duì)模型進(jìn)行再訓(xùn)練,,能夠進(jìn)一步改進(jìn)現(xiàn)有產(chǎn)品和服務(wù),。
不論是從端側(cè)到數(shù)據(jù)中心,還是從智能網(wǎng)絡(luò)接入的海量應(yīng)用,,AI基礎(chǔ)設(shè)施的四大支柱始終是:功能,、性能、可擴(kuò)展性,、安全性,。基本功能是最根本的要素,;性能特征取決于具體用例,,是系統(tǒng)的重要指標(biāo);可擴(kuò)展性決定了系統(tǒng)應(yīng)對(duì)不同場(chǎng)景的伸縮能力,;安全的數(shù)據(jù)是優(yōu)勢(shì),,必須確保從數(shù)據(jù)、平臺(tái)到應(yīng)用層的所有安全,。
為了讓其AI技術(shù)廣泛落地使用,,服務(wù)器OEM成為英偉達(dá)一個(gè)很大的突破口。或者說(shuō),,服務(wù)器OEM生態(tài)系統(tǒng)的參與讓英偉達(dá)更加興奮,。
從早期集中在訓(xùn)練場(chǎng)景,發(fā)展到在推理場(chǎng)景的大規(guī)模應(yīng)用階段,,AI最終將成為一種基礎(chǔ)能力,。在這個(gè)過(guò)程中,服務(wù)器始終是重要環(huán)節(jié),。一方面,,AI 算法需要大量的數(shù)據(jù)和算力來(lái)完成任務(wù),依靠云服務(wù)來(lái)執(zhí)行計(jì)算,;另一方面,,在提供智能云體驗(yàn)上,由 AI 驅(qū)動(dòng)的解決方案能幫助企業(yè)在 AI 時(shí)代快速占領(lǐng)制高點(diǎn),。
據(jù)Adel El-Hallak介紹,,NVIDIA認(rèn)證系統(tǒng)提供能夠企業(yè)部署AI所需的性能、可編程性和安全吞吐量,。這些系統(tǒng)既結(jié)合了基于NVIDIA Ampere架構(gòu)的GPU算力,,還有安全、高速的NVIDIA Mellanox網(wǎng)絡(luò),。此外,,還有包括英偉達(dá)CUDA和NGC Catalog的整個(gè)軟件堆棧的支持。
NGC被認(rèn)為是這一認(rèn)證系統(tǒng)背后真正的寶藏,。Adel El-Hallak解釋,,當(dāng)一個(gè)企業(yè)購(gòu)買了NVIDIA認(rèn)證系統(tǒng)后,NGC目錄能夠?yàn)樗麄兘怄i各種各樣的應(yīng)用程序,。
NGC目錄是適用于深度學(xué)習(xí),、機(jī)器學(xué)習(xí)和高性能計(jì)算的GPU優(yōu)化型軟件中心,包括針對(duì)醫(yī)療健康的Clara,、針對(duì)機(jī)器人的Isaac等,,這些軟件套件可以幫助企業(yè)快速進(jìn)入某個(gè)垂直細(xì)分市場(chǎng)。此外,,它還包含幫助企業(yè)在推薦系統(tǒng)Merlin和智能視頻分析Metropolis等新興用例中起步的框架,。通過(guò)NVIDIA認(rèn)證系統(tǒng),企業(yè)能夠使用這些強(qiáng)大的算力硬件和適用范圍廣泛的軟件,。
如何通過(guò)NVIDIA測(cè)試認(rèn)證,?
具體而言,NVIDIA認(rèn)證系統(tǒng)必須通過(guò)四方面測(cè)試:深度學(xué)習(xí)訓(xùn)練和推理,、機(jī)器學(xué)習(xí)算法,、智能視頻分析、網(wǎng)絡(luò)和存儲(chǔ)卸載。
為了通過(guò)認(rèn)證,,服務(wù)器系統(tǒng)必須接受廣泛的工作負(fù)載測(cè)試,,涵蓋從需要多個(gè)計(jì)算節(jié)點(diǎn)的工作到只需要使用單個(gè)GPU部分性能的任務(wù)等。這些測(cè)試也都是基于現(xiàn)實(shí)世界中的用例,,使用的是NGC目錄中常用的AI框架和容器,。
英偉達(dá)這項(xiàng)開創(chuàng)先河的認(rèn)證計(jì)劃宣布的同時(shí),全球首批加速服務(wù)器通過(guò)也通過(guò)了這一認(rèn)證測(cè)試:戴爾科技,、技嘉,、慧與、浪潮和超微的認(rèn)證服務(wù)器均于1月27日開始供貨,。首批使用NVIDIA A100 Tensor Core GPU的系統(tǒng)包括:
戴爾EMC PowerEdge R7525和R740機(jī)架服務(wù)器
技嘉R281-G30,、R282-Z96、G242-Z11,、G482-Z54,、G492-Z51系統(tǒng)
慧與 Apollo 6500 Gen10系統(tǒng)和慧與 ProLiant DL380 Gen10服務(wù)器
浪潮 NF5488A5
超微A+服務(wù)器AS-4124GS-TNR和AS-2124GQ-NART
這些產(chǎn)品都帶有NVIDIA認(rèn)證系統(tǒng)標(biāo)識(shí),可以處理機(jī)器學(xué)習(xí),、數(shù)據(jù)分析等領(lǐng)域最棘手的任務(wù),。
寫在最后
AI在產(chǎn)業(yè)端落地仍缺乏足夠的規(guī)范和標(biāo)準(zhǔn),而只有一個(gè)產(chǎn)業(yè)被科學(xué)化,、工程化之后,,才有望實(shí)現(xiàn)規(guī)模化落地,。英偉達(dá)推出認(rèn)證系統(tǒng),,正是希望舉生態(tài)之力,推動(dòng)AI的廣泛落地,,而背后的深層動(dòng)力,,則是希望在普遍落地的產(chǎn)業(yè)端,,繼續(xù)在云端市場(chǎng)的輝煌,。
在AI深度化、廣度化的應(yīng)用過(guò)程中,,不止一家企業(yè)說(shuō)“落地難”,,一是規(guī)模化普及時(shí)數(shù)據(jù)科學(xué)人才的短缺,,二是多維行業(yè)數(shù)據(jù),、多維融合的困難。更何況,,現(xiàn)在還有絕大部分場(chǎng)景需求還未釋放出來(lái),,人才短缺是主要根源。英偉達(dá)此舉,在構(gòu)筑起更為龐大的生態(tài)系統(tǒng)時(shí),,對(duì)迫切需要平臺(tái)支持,、讓AI應(yīng)用更便捷的企業(yè)來(lái)說(shuō),倒也確實(shí)是很大的推動(dòng)力,。