《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > 網(wǎng)安標(biāo)委發(fā)布《人工智能安全治理框架(1.0版)》

網(wǎng)安標(biāo)委發(fā)布《人工智能安全治理框架(1.0版)》

2024-09-10
來源:C114通信網(wǎng)

9月9日,,全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會制定的《人工智能安全治理框架(1.0版)》對外公開發(fā)布,。

0.png

人工智能安全治理原則指出,秉持共同,、綜合,、合作、可持續(xù)的安全觀,,堅(jiān)持發(fā)展和安全并重,,以促進(jìn)人工智能創(chuàng)新發(fā)展為第一要務(wù),以有效防范化解人工智能安全風(fēng)險為出發(fā)點(diǎn)和落腳點(diǎn),,構(gòu)建各方共同參與,、技管結(jié)合、分工協(xié)作的治理機(jī)制,,壓實(shí)相關(guān)主體安全責(zé)任,,打造全過程全要素治理鏈條,培育安全,、可靠,、公平、透明的人工智能技術(shù)研發(fā)和應(yīng)用生態(tài),,推動人工智能健康發(fā)展和規(guī)范應(yīng)用,,切實(shí)維護(hù)國家主權(quán)、安全和發(fā)展利益,,保障公民,、法人和其他組織的合法權(quán)益,確保人工智能技術(shù)造福于人類。

基于風(fēng)險管理理念,,本框架針對不同類型的人工智能安全風(fēng)險,,從技術(shù)、管理兩方面提出防范應(yīng)對措施,。同時,,目前人工智能研發(fā)應(yīng)用仍在快速發(fā)展,安全風(fēng)險的表現(xiàn)形式,、影響程度,、認(rèn)識感知亦隨之變化,防范應(yīng)對措施也將相應(yīng)動態(tài)調(diào)整更新,,需要各方共同對治理框架持續(xù)優(yōu)化完善,。

1)安全風(fēng)險方面。通過分析人工智能技術(shù)特性,,以及在不同行業(yè)領(lǐng)域應(yīng)用場景,,梳理人工智能技術(shù)本身,,及其在應(yīng)用過程中面臨的各種安全風(fēng)險隱患,。

2)技術(shù)應(yīng)對措施方面。針對模型算法,、訓(xùn)練數(shù)據(jù),、算力設(shè)施、產(chǎn)品服務(wù),、應(yīng)用場景,,提出通過安全軟件開發(fā)、數(shù)據(jù)質(zhì)量提升,、安全建設(shè)運(yùn)維,、測評監(jiān)測加固等技術(shù)手段提升人工智能產(chǎn)品及應(yīng)用的安全性、公平性,、可靠性,、魯棒性的措施。

3)綜合治理措施方面,。明確技術(shù)研發(fā)機(jī)構(gòu),、服務(wù)提供者、用戶,、政府部門,、行業(yè)協(xié)會、社會組織等各方發(fā)現(xiàn),、防范,、應(yīng)對人工智能安全風(fēng)險的措施手段,推動各方協(xié)同共治。

4)安全開發(fā)應(yīng)用指引方面,。明確模型算法研發(fā)者,、服務(wù)提供者、重點(diǎn)領(lǐng)域用戶和社會公眾用戶,,開發(fā)應(yīng)用人工智能技術(shù)的若干安全指導(dǎo)規(guī)范,。

對人工智能安全風(fēng)險分類,主要涉及兩大類:

1)內(nèi)生安全風(fēng)險

包括模型算法安全風(fēng)險,、數(shù)據(jù)安全風(fēng)險,、系統(tǒng)安全風(fēng)險;

2)應(yīng)用安全風(fēng)險

包括網(wǎng)絡(luò)域安全風(fēng)險,、現(xiàn)實(shí)域安全風(fēng)險,、認(rèn)知域安全風(fēng)險、倫理域安全風(fēng)險,。

綜合治理措施方面提出了以下重點(diǎn):

1)實(shí)施人工智能應(yīng)用分類分級管理,。根據(jù)功能、性能,、應(yīng)用場景等,,對人工智能系統(tǒng)分類分級,建立風(fēng)險等級測試評估體系,。加強(qiáng)人工智能最終用途管理,,對特定人群及場景下使用人工智能技術(shù)提出相關(guān)要求,防止人工智能系統(tǒng)被濫用,。對算力,、推理能力達(dá)到一定閾值或應(yīng)用在特定行業(yè)領(lǐng)域的人工智能系統(tǒng)進(jìn)行登記備案,要求其具備在設(shè)計(jì),、研發(fā),、測試、部署,、使用,、維護(hù)等全生命周期的安全防護(hù)能力。

2)建立人工智能服務(wù)可追溯管理制度,。對面向公眾服務(wù)的人工智能系統(tǒng),,通過數(shù)字證書技術(shù)對其進(jìn)行標(biāo)識管理。制定出臺人工智能生成合成內(nèi)容標(biāo)識標(biāo)準(zhǔn)規(guī)范,,明確顯式,、隱式等標(biāo)識要求,全面覆蓋制作源頭,、傳播路徑,、分發(fā)渠道等關(guān)鍵環(huán)節(jié),便于用戶識別判斷信息來源及真實(shí)性。

3)完善人工智能數(shù)據(jù)安全和個人信息保護(hù)規(guī)范,。針對人工智能技術(shù)及應(yīng)用特點(diǎn),,明確人工智能訓(xùn)練、標(biāo)注,、使用,、輸出等各環(huán)節(jié)的數(shù)據(jù)安全和個人信息保護(hù)要求。

4)構(gòu)建負(fù)責(zé)任的人工智能研發(fā)應(yīng)用體系,。研究提出“以人為本,、智能向善”在人工智能研發(fā)應(yīng)用中的具體操作指南和最佳實(shí)踐,持續(xù)推進(jìn)人工智能設(shè)計(jì),、研發(fā),、應(yīng)用的價值觀、倫理觀對齊,。探索適應(yīng)人工智能時代的版權(quán)保護(hù)和開發(fā)利用制度,,持續(xù)推進(jìn)高質(zhì)量基礎(chǔ)語料庫和數(shù)據(jù)集建設(shè),為人工智能安全發(fā)展提供優(yōu)質(zhì)營養(yǎng)供給,。制定人工智能倫理審查準(zhǔn)則,、規(guī)范和指南,完善倫理審查制度,。

5)強(qiáng)化人工智能供應(yīng)鏈安全保障,。推動共享人工智能知識成果,,開源人工智能技術(shù),,共同研發(fā)人工智能芯片、框架,、軟件,,引導(dǎo)產(chǎn)業(yè)界建立開放生態(tài),增強(qiáng)供應(yīng)鏈來源多樣性,,保障人工智能供應(yīng)鏈安全性穩(wěn)定性,。

6)推進(jìn)人工智能可解釋性研究。從機(jī)器學(xué)習(xí)理論,、訓(xùn)練方法,、人機(jī)交互等方面組織研究人工智能決策透明度、可信度,、糾錯機(jī)制等問題,,不斷提高人工智能可解釋性和可預(yù)測性,避免人工智能系統(tǒng)意外決策產(chǎn)生惡意行為,。

7)人工智能安全風(fēng)險威脅信息共享和應(yīng)急處置機(jī)制,。持續(xù)跟蹤分析人工智能技術(shù)、軟硬件產(chǎn)品、服務(wù)等方面存在的安全漏洞,、缺陷,、風(fēng)險威脅、安全事件等動向,,協(xié)調(diào)有關(guān)研發(fā)者,、服務(wù)提供者建立風(fēng)險威脅信息通報(bào)和共享機(jī)制。構(gòu)建人工智能安全事件應(yīng)急處置機(jī)制,,制定應(yīng)急預(yù)案,,開展應(yīng)急演練,及時快速有效處置人工智能安全威脅和事件,。

8)加大人工智能安全人才培養(yǎng)力度,。推動人工智能安全教育與人工智能學(xué)科同步發(fā)展,依托學(xué)校,、科研機(jī)構(gòu)等加強(qiáng)人工智能安全設(shè)計(jì),、開發(fā)、治理人才的培養(yǎng),,支持培養(yǎng)人工智能安全前沿基礎(chǔ)領(lǐng)域頂尖人才,,壯大無人駕駛、智能醫(yī)療,、類腦智能,、腦機(jī)接口等領(lǐng)域安全人才隊(duì)伍。

9)建立健全人工智能安全宣傳教育,、行業(yè)自律,、社會監(jiān)督機(jī)制。面向政府,、企業(yè),、社會公用事業(yè)單位加強(qiáng)人工智能安全規(guī)范應(yīng)用的教育培訓(xùn)。加強(qiáng)人工智能安全風(fēng)險及防范應(yīng)對知識的宣傳,,全面提高全社會人工智能安全意識,。指導(dǎo)支持網(wǎng)絡(luò)安全、人工智能領(lǐng)域行業(yè)協(xié)會加強(qiáng)行業(yè)自律,,制定提出高于監(jiān)管要求,、具有引領(lǐng)示范作用的人工智能安全自律公約,引導(dǎo)督促人工智能技術(shù)研發(fā)機(jī)構(gòu),、服務(wù)提供者持續(xù)提升安全能力水平,;面向公眾建立人工智能安全風(fēng)險隱患投訴舉報(bào)受理機(jī)制,形成有效的人工智能安全社會監(jiān)督氛圍,。

10)促進(jìn)人工智能安全治理國際交流合作,。積極與各國就人工智能開展合作交流,,支持在聯(lián)合國框架下成立國際人工智能治理機(jī)構(gòu),協(xié)調(diào)人工智能發(fā)展,、安全與治理重大問題,。推進(jìn)APEC、G20,、金磚國家等多邊機(jī)制下的人工智能安全治理合作,,加強(qiáng)與共建“一帶一路”國家、“全球南方”國家合作,,研究成立人工智能安全治理聯(lián)盟,,增強(qiáng)發(fā)展中國家在全球人工智能治理中的代表性和發(fā)言權(quán)。鼓勵人工智能企業(yè),、機(jī)構(gòu)開展跨國交流合作,,分享最佳操作實(shí)踐,共同制定人工智能安全國際標(biāo)準(zhǔn),。


Magazine.Subscription.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn),。轉(zhuǎn)載的所有的文章,、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者,。如涉及作品內(nèi)容、版權(quán)和其它問題,,請及時通過電子郵件或電話通知我們,,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失,。聯(lián)系電話:010-82306118,;郵箱:[email protected],。