《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 人工智能 > 業(yè)界動(dòng)態(tài) > 鄔江興院士:90%以上主流大模型不可信

鄔江興院士:90%以上主流大模型不可信

實(shí)用前景堪憂
2024-05-21
來(lái)源:快科技
關(guān)鍵詞: 大模型 AI系統(tǒng)

5月20日消息,,自從ChatGPT爆火以來(lái),,全球誕生了無(wú)數(shù)的大模型,,光國(guó)內(nèi)就有上百種,,但實(shí)用性卻并不如意,。

在今天下午的2024搜狐科技年度論壇上,,中國(guó)工程院院士,、國(guó)家數(shù)字交換系統(tǒng)工程技術(shù)研究中心主任,、復(fù)旦大學(xué)大數(shù)據(jù)研究院院長(zhǎng)鄔江興指出,他們團(tuán)隊(duì)對(duì)當(dāng)前最流行的10種大模型進(jìn)行安全分析發(fā)現(xiàn),,90%以上的主流大模型是不可信的,。

鄔江興表示,深度學(xué)習(xí)模型存在“三不可”基因缺陷,。

分別是:

第一,,不可解釋性。

從數(shù)據(jù)提供AI模型訓(xùn)練到知識(shí)規(guī)律,,到獲得應(yīng)用推理階段,,工作原理到現(xiàn)在不明確,問(wèn)題發(fā)現(xiàn)定位非常困難,,AI系統(tǒng)中的安全問(wèn)題比破解密碼還要難,。

第二,不可判識(shí)性,。

因?yàn)锳I對(duì)序列性強(qiáng)依賴(lài),,不具備對(duì)內(nèi)容的判識(shí)能力,所以數(shù)據(jù)存在質(zhì)量差異,,來(lái)源差異,,就可能導(dǎo)致訓(xùn)練出的結(jié)果有差異。

第三,,不可推論性,。

AI的推理是從已知數(shù)據(jù)中獲得規(guī)律性,難以勝任對(duì)中長(zhǎng)期未來(lái)事物變遷的預(yù)測(cè)和推理,,只是把現(xiàn)有的東西歸納起來(lái),,看起來(lái)它聰明無(wú)比,但僅僅是比我看得多,,并沒(méi)有產(chǎn)生什么新的認(rèn)知,。


Magazine.Subscription.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章,、圖片,、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者,。如涉及作品內(nèi)容,、版權(quán)和其它問(wèn)題,請(qǐng)及時(shí)通過(guò)電子郵件或電話通知我們,,以便迅速采取適當(dāng)措施,,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:[email protected],。