《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > 代碼大模型安全規(guī)范正式定稿

代碼大模型安全規(guī)范正式定稿

中國信通院啟動首輪評估
2024-06-21
來源:IT之家

6 月 20 日消息,近年來,,代碼大模型已成為企業(yè)研發(fā)人員輔助編程必備助手,,能夠生成、翻譯,、補(bǔ)全代碼,,幫助定位和修復(fù)錯誤。然而,,代碼大模型背后隱藏的風(fēng)險挑戰(zhàn)還有待討論,。

中國信息通信研究院(以下簡稱“中國信通院”)依托中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(AIIA),聯(lián)合業(yè)內(nèi)近 30 家單位共同編制了《代碼大模型安全風(fēng)險防范能力要求及評估方法》規(guī)范(簡稱“規(guī)范”),,聚焦代碼大模型的安全能力,,從基礎(chǔ)功能出發(fā),評估代碼大模型的基礎(chǔ)能力和安全風(fēng)險防范能力,。

2024 年 6 月 18 日,,規(guī)范第三次研討會成功舉辦,對規(guī)范內(nèi)容做出進(jìn)一步的完善和修訂,,現(xiàn)已完成定稿,。

附部分參編單位如下(排名不分先后):

· 中國信息通信研究院

· 北京百度網(wǎng)訊科技有限公司

· 科大訊飛股份有限公司

· 螞蟻科技集團(tuán)股份有限公司

· 中國郵儲銀行

· 中國民生銀行

· 中債金科信息技術(shù)有限公司

· 交通銀行

· 華夏銀行

· 龍盈智達(dá)(北京)科技有限公司

· 北京市商湯科技開發(fā)有限公司

· 阿里云計算有限公司

· 北京大學(xué)

· 小米移動軟件有限公司

· 維沃移動通信有限公司

· 海信視像科技股份有限公司

· 浪潮軟件科技有限公司

· 北京云起無垠科技有限公司

· 浙江大學(xué)濱江研究院

· 廣東拓思軟件科學(xué)園有限公司

· 浙江御安信息技術(shù)有限公司

· 萬商天勤(上海)律師事務(wù)所

· 深圳開源互聯(lián)網(wǎng)安全技術(shù)有限公司

據(jù)介紹,規(guī)范的制定旨在全面評估代碼大模型在安全風(fēng)險防范方面的能力,,通過分析和測試,,確保模型在各個關(guān)鍵環(huán)節(jié)的安全性能,。

本規(guī)范的評估不僅包括代碼大模型的核心功能,也涵蓋了與之相關(guān)的多個細(xì)分領(lǐng)域,,如數(shù)據(jù)集,、算法、模型,、網(wǎng)絡(luò)以及服務(wù)等,。

0.png

▲ 代碼大模型安全風(fēng)險防范能力評估框架

根據(jù)評估結(jié)果,規(guī)范將確定代碼大模型的安全能力級別,,為模型的進(jìn)一步優(yōu)化和安全加固提供指導(dǎo),,同時也為用戶從安全性角度提供選型依據(jù)。

目前,,中國信通院正式啟動首輪代碼大模型安全風(fēng)險防范能力試評估工作,,報名將于 8 月底截止,預(yù)計年底發(fā)布評估結(jié)果,。


Magazine.Subscription.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn),。轉(zhuǎn)載的所有的文章,、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者,。如涉及作品內(nèi)容、版權(quán)和其它問題,,請及時通過電子郵件或電話通知我們,,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失,。聯(lián)系電話:010-82306118,;郵箱:[email protected]