《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動(dòng)態(tài) > 云天勵(lì)飛正式發(fā)布深目AI模盒

云天勵(lì)飛正式發(fā)布深目AI模盒

把大模型“裝”進(jìn)小盒子 
2024-03-29
來源:經(jīng)濟(jì)參考網(wǎng)

3月28日,云天勵(lì)飛(688343.SH)舉辦AI大模型產(chǎn)品發(fā)布會(huì),,正式發(fā)布“深目”AI模盒,。據(jù)介紹,,該產(chǎn)品能夠做到“3個(gè)90%”——覆蓋場景超過90%、算法精度超過90%,使用成本降低90%,解決大模型在場景落地“最后一公里”的問題,,幫助更多中小企業(yè)客戶輕松使用大模型。

1.png

從ChatGPT到Sora,,從文生文,、文生圖像到文生視頻,大模型發(fā)展日新月異,,持續(xù)給行業(yè)帶來驚喜,,不僅國內(nèi)掀起“百模大戰(zhàn)”,國外科技巨頭也在大模型上相互“較勁”,。

發(fā)布會(huì)上,,云天勵(lì)飛董事長兼CEO陳寧認(rèn)為,,未來3年,,全球80%的企業(yè)都將使用大模型,。但是,要訓(xùn)練專屬大模型,,不僅需要大算力,、大數(shù)據(jù),還需要大量頂尖人才,。大模型一次訓(xùn)練成本在千萬元級,,主流的訓(xùn)推一體機(jī)價(jià)格普遍在百萬元,絕大多數(shù)企業(yè)都無法承擔(dān)這樣高昂的成本,。

值得關(guān)注的是,,為了能夠讓大模型“平民化”,云天勵(lì)飛推出了“深目”AI模盒,。這款產(chǎn)品售價(jià)在千元級,,用單手就能托起,搭載了云天勵(lì)飛的自研大模型邊緣訓(xùn)推芯片DeepEdge10 Max以及自研多模態(tài)大模型“云天天書”,,具備算法邊緣側(cè)在線學(xué)習(xí)能力,,可實(shí)現(xiàn)算法場景覆蓋超過90%、算法精度超過90%,,使用成本降低90%,,讓用戶都能夠根據(jù)自身場景需求,利用大模型能力,,訓(xùn)練出可實(shí)戰(zhàn)應(yīng)用的算法,。

“能夠?qū)崿F(xiàn)3個(gè)90%,離不開云天勵(lì)飛的核心能力——算法芯片化,?!标悓幷f。據(jù)介紹,,“深目”AI模盒的算力基礎(chǔ),,來源于去年云天勵(lì)飛推出的14nm Chiplet大模型訓(xùn)推芯片DeepEdge10 Max。該芯片采用自主可控的國產(chǎn)工藝,,內(nèi)含國產(chǎn)RISC-V核,,支持大模型訓(xùn)練推理部署。依托自研芯片DeepEdge10 Max創(chuàng)新的D2D chiplet架構(gòu)打造的X5000推理卡,,已適配并可承載10億級SAM,、百億級Llama2等大模型運(yùn)算,可廣泛應(yīng)用于AIoT邊緣視頻,、移動(dòng)機(jī)器人等場景,。

此外,為了共同探索更多大模型低成本,、高效率落地應(yīng)用路徑,,云天勵(lì)飛與鵬城實(shí)驗(yàn)室,、之江實(shí)驗(yàn)室、上海交通大學(xué)城市治理研究院等多家單位共同成立“深目2.0”生態(tài)聯(lián)盟,,共同探索更多大模型落地應(yīng)用路徑,。


雜志訂閱.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點(diǎn),。轉(zhuǎn)載的所有的文章、圖片,、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容,、版權(quán)和其它問題,,請及時(shí)通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,,避免給雙方造成不必要的經(jīng)濟(jì)損失,。聯(lián)系電話:010-82306118;郵箱:[email protected],。