5月20日消息，自從ChatGPT爆火以來,，全球誕生了無數(shù)的大模型,，光國內(nèi)就有上百種,，但實用性卻并不如意。

在今天下午的2024搜狐科技年度論壇上,，中國工程院院士,、國家數(shù)字交換系統(tǒng)工程技術研究中心主任、復旦大學大數(shù)據(jù)研究院院長鄔江興指出,，他們團隊對當前最流行的10種大模型進行安全分析發(fā)現(xiàn),，90%以上的主流大模型是不可信的。

鄔江興表示,，深度學習模型存在“三不可”基因缺陷,。

分別是：

第一，不可解釋性,。

從數(shù)據(jù)提供AI模型訓練到知識規(guī)律,，到獲得應用推理階段，工作原理到現(xiàn)在不明確,，問題發(fā)現(xiàn)定位非常困難,，AI系統(tǒng)中的安全問題比破解密碼還要難。

第二,，不可判識性,。

因為AI對序列性強依賴，不具備對內(nèi)容的判識能力,，所以數(shù)據(jù)存在質量差異,，來源差異，就可能導致訓練出的結果有差異,。

第三，不可推論性,。

AI的推理是從已知數(shù)據(jù)中獲得規(guī)律性,，難以勝任對中長期未來事物變遷的預測和推理，只是把現(xiàn)有的東西歸納起來,，看起來它聰明無比,，但僅僅是比我看得多，并沒有產(chǎn)生什么新的認知,。