《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 模擬設(shè)計(jì) > 業(yè)界動態(tài) > 北電數(shù)智前進(jìn)·AI異構(gòu)計(jì)算平臺 為大模型提供算力最優(yōu)解

北電數(shù)智前進(jìn)·AI異構(gòu)計(jì)算平臺 為大模型提供算力最優(yōu)解

2024-12-10
來源:科技快報

現(xiàn)如今,以大模型為代表的生成式人工智能技術(shù)正如一股強(qiáng)勁的東風(fēng),,吹動著新質(zhì)生產(chǎn)力的帆船破浪前行,。這股技術(shù)浪潮不僅重塑了各行各業(yè)的面貌,也對算力供給提出了前所未有的挑戰(zhàn)與需求,。實(shí)現(xiàn)“國產(chǎn)算力自主可控”,,確保信息安全和經(jīng)濟(jì)持續(xù)健康發(fā)展,已成為當(dāng)下亟待解決的關(guān)鍵課題,。

北電數(shù)智“前進(jìn)·AI異構(gòu)計(jì)算平臺”支持對英偉達(dá)集群及多款國產(chǎn)芯片的廣泛納管,幫助用戶實(shí)現(xiàn)對不同品牌和類型AI加速卡的統(tǒng)一管理,,以確保各類AI芯片的無縫集成和優(yōu)化利用,。廣泛的納管能力也讓用戶能夠根據(jù)具體需求,靈活地調(diào)整資源配置,,優(yōu)化算力供給滿足各類訓(xùn)練推理任務(wù),。

“前進(jìn)·AI異構(gòu)計(jì)算平臺”具有卓越的算力調(diào)度能力,可為不同場景提供多樣化的調(diào)度策略,,以精準(zhǔn)匹配各類計(jì)算任務(wù)的不同需求,。“潮汐調(diào)度”是該平臺的一大特色亮點(diǎn),,其可根據(jù)計(jì)算任務(wù)的特性和資源需求的變化動態(tài)地分配和回收計(jì)算資源,,尤其適用于渲染應(yīng)用等場景,以最大化資源的利用率并減少執(zhí)行時間,;此外,,“前進(jìn)·AI異構(gòu)計(jì)算平臺”提供的“訓(xùn)推混布”策略可幫助大模型使用方實(shí)現(xiàn)同一算力集群既支持在線推理服務(wù)部署任務(wù),又支持離線訓(xùn)練任務(wù),,從而顯著提高算力資源的利用率,,減少資源浪費(fèi),大幅降低運(yùn)營成本,。

3.png

作為全國首個在生產(chǎn)環(huán)境下可實(shí)現(xiàn)規(guī)?;瘻y試的全棧迭代驗(yàn)證平臺,北電數(shù)智基于“前進(jìn)·AI異構(gòu)計(jì)算平臺”打造的國產(chǎn)算力PoC平臺落地北京數(shù)字經(jīng)濟(jì)算力中心。目前,,國產(chǎn)算力PoC平臺已完成十余款芯片的評測支持和二十多款主流模型的適配,。為更好推進(jìn)國產(chǎn)芯片對模型的支持力度,北電數(shù)智自主構(gòu)建了完備的融合算子庫,,算子能自動調(diào)優(yōu),,在分鐘級時間內(nèi)可完成對各種平臺的算子適配和優(yōu)化,可將延遲水平降低3倍以上,。

針對具體行業(yè),,北電數(shù)智也正面向影視、金融,、政務(wù),、工業(yè)等多個垂類場景開展測試驗(yàn)證服務(wù),為不同行業(yè)的垂類模型落地樹立標(biāo)桿案例,,持續(xù)探尋國產(chǎn)算力和行業(yè),、模型、應(yīng)用的最佳適配組合,,推動模型落地,。

4.png

未來,「前進(jìn)·AI異構(gòu)計(jì)算平臺」能繼續(xù)發(fā)揮其獨(dú)特的優(yōu)勢和作用,,推動國產(chǎn)算力從“可用”向“好用”邁進(jìn),。同時,北電數(shù)智也將繼續(xù)加大研發(fā)投入,、加強(qiáng)人才培養(yǎng),、構(gòu)建創(chuàng)新生態(tài),為國產(chǎn)算力的自主可控和人工智能技術(shù)的持續(xù)健康發(fā)展貢獻(xiàn)更多的智慧和力量,。


Magazine.Subscription.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn),。轉(zhuǎn)載的所有的文章,、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者,。如涉及作品內(nèi)容、版權(quán)和其它問題,,請及時通過電子郵件或電話通知我們,,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失,。聯(lián)系電話:010-82306118,;郵箱:[email protected],。