2017年7月,，國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》,，對我國未來人工智能工作提出了明確要求?！兑?guī)劃》指出“加強(qiáng)人工智能標(biāo)準(zhǔn)框架體系研究，逐步建立并完善人工智能基礎(chǔ)共性,、互聯(lián)互通,、行業(yè)應(yīng)用、網(wǎng)絡(luò)安全,、隱私保護(hù)等技術(shù)標(biāo)準(zhǔn)”,。人工智能安全標(biāo)準(zhǔn)是人工智能標(biāo)準(zhǔn)體系中一類重要標(biāo)準(zhǔn)，因此需加強(qiáng)安全標(biāo)準(zhǔn)化工作,，保障人工智能產(chǎn)業(yè)安全健康發(fā)展,。

　　人工智能安全風(fēng)險(xiǎn)分析

　　國家安全影響。人工智能在國防領(lǐng)域,、涉密系統(tǒng)、關(guān)鍵信息基礎(chǔ)設(shè)施中的應(yīng)用,，可能對國家安全產(chǎn)生影響,。根據(jù)美國近期發(fā)布的《人工智能與國家安全》報(bào)告，未來的人工智能技術(shù)有可能與核武器,、飛機(jī),、計(jì)算機(jī)和生物技術(shù)一樣，成為給國家安全帶來深刻變化的顛覆性技術(shù),。

　　社會安全風(fēng)險(xiǎn),。人工智能可使機(jī)器實(shí)現(xiàn)自動化、智能化操作,，這將對某些類型工作和行業(yè)帶來潛在影響,，導(dǎo)致工作薪水降低、中低技術(shù)要求的職業(yè)消失,，從而影響社會安全,。2014年皮尤研究中心做了一項(xiàng)關(guān)于人工智能與就業(yè)的調(diào)查研究，認(rèn)為自動化的普及已經(jīng)很大程度影響到了藍(lán)領(lǐng)的就業(yè),，而以人工智能為首的下一輪科技創(chuàng)新很可能會顛覆白領(lǐng)的勞動市場,。

　　人身安全風(fēng)險(xiǎn)。隨著人工智能與物聯(lián)網(wǎng)的深入結(jié)合,，智能產(chǎn)品日益應(yīng)用到人們的家居,、醫(yī)療、交通等工作生活中,，一旦這些智能產(chǎn)品（如智能醫(yī)療設(shè)備,、無人汽車等）遭受網(wǎng)絡(luò)攻擊，可能危害人身安全,。2016年,，針對心臟病設(shè)備等智能醫(yī)療產(chǎn)品存在嚴(yán)重安全漏洞等問題，美國食品藥品監(jiān)督管理局（FDA）頒布了《售后醫(yī)療設(shè)備網(wǎng)絡(luò)安全管理》,，并成立了一個(gè)小組協(xié)助監(jiān)管人工智能醫(yī)療產(chǎn)品,。

　　網(wǎng)絡(luò)安全風(fēng)險(xiǎn),。人工智能算法、系統(tǒng)和應(yīng)用可能遭受惡意網(wǎng)絡(luò)攻擊,，例如通過實(shí)施一些干擾技術(shù),，計(jì)算機(jī)在進(jìn)行深度學(xué)習(xí)時(shí)容易被欺騙；利用數(shù)據(jù)欺詐等手段遠(yuǎn)程控制無人汽車,，讓汽車偏航甚至逼停汽車造成事故,；APT攻擊利用人工智能技術(shù)實(shí)現(xiàn)高度自動化，并在黑市廣泛出售等,。

　　隱私保護(hù)風(fēng)險(xiǎn),。人工智能驅(qū)動的應(yīng)用需要建立起豐富的數(shù)據(jù)集，數(shù)據(jù)收集使用時(shí)可能面臨數(shù)據(jù)安全和隱私保護(hù)問題,。以無人駕駛為例,，自動駕駛車輛網(wǎng)絡(luò)的有效運(yùn)轉(zhuǎn)需要依賴大量位置數(shù)據(jù)及其他個(gè)人數(shù)據(jù)，這種大規(guī)模的數(shù)據(jù)實(shí)踐可能帶來諸多層面的數(shù)據(jù)安全和隱私保護(hù)風(fēng)險(xiǎn),。

　　法律倫理挑戰(zhàn),。人工智能的目標(biāo)是使機(jī)器像人類一樣去理性思考和行動，但隨著人工智能的應(yīng)用推廣和智能化程度提高,，會面臨現(xiàn)有法律,、社會規(guī)范和道德倫理的挑戰(zhàn)，如何確定人工智能產(chǎn)品或系統(tǒng)的法律主體,、權(quán)利,、義務(wù)和責(zé)任，及如何確保研究人員開發(fā)出與現(xiàn)有法律,、社會規(guī)范和道德倫理一致或相符的算法和架構(gòu)等方面都面臨挑戰(zhàn),。

　　人工智能安全標(biāo)準(zhǔn)現(xiàn)狀

　　人工智能安全標(biāo)準(zhǔn)，是與人工智能安全,、倫理,、隱私保護(hù)等相關(guān)的標(biāo)準(zhǔn)規(guī)范。從廣義來說,，人工智能安全標(biāo)準(zhǔn)涉及人工智能本身,、平臺、技術(shù),、產(chǎn)品和應(yīng)用相關(guān)的安全標(biāo)準(zhǔn),。國內(nèi)外對人工智能標(biāo)準(zhǔn)化工作也越來越重視。2017年10月,，國際標(biāo)準(zhǔn)化組織ISO/IEC JTC1在俄羅斯召開會議,，決定JTC1新成立人工智能的分委員會SC42，負(fù)責(zé)人工智能標(biāo)準(zhǔn)化工作，SC42將建立基礎(chǔ)標(biāo)準(zhǔn)（Foundational Standards）,、計(jì)算方法（Computational Methods）,、可信賴（Trustworthiness）、社會關(guān)注（Societal Concerns）4個(gè)工作組,，并將ISO/IEC JTC1 WG9（大數(shù)據(jù)工作組）放到人工智能SC42,。

　　人工智能基礎(chǔ)安全標(biāo)準(zhǔn)

　　20世紀(jì)90年代，ISO/IEC JTC1發(fā)布了ISO/IEC 2382-28：1996《信息技術(shù)詞匯第28部分：人工智能基本概念與專家系統(tǒng)》,、《信息技術(shù)詞匯第29部分：人工智能語音識別與合成》,，ISO/IEC 2382-31：1997《信息技術(shù)詞匯第31部分：人工智能機(jī)器學(xué)習(xí)》，ISO/IEC 2382-34：1999《信息技術(shù)詞匯第34部分：人工智能神經(jīng)網(wǎng)絡(luò)》等4項(xiàng)標(biāo)準(zhǔn),。目前,，上述詞匯標(biāo)準(zhǔn)已經(jīng)廢止，相關(guān)術(shù)語收錄在2015年發(fā)布的ISO/IEC 2382:2015《信息技術(shù)詞匯》中,。

　　IEEE標(biāo)準(zhǔn)協(xié)會正在努力確保人工智能技術(shù)的設(shè)計(jì)者,，在其工作中優(yōu)先考慮道德。2017年3月,，IEEE在《IEEE機(jī)器人與自動化》雜志發(fā)表了名為“旨在推進(jìn)人工智能和自治系統(tǒng)的倫理設(shè)計(jì)的IEEE全球倡議書”，倡議通過基于倫理的設(shè)計(jì)原則和標(biāo)準(zhǔn)幫助人們避免對人工智能技術(shù)的恐懼和盲目崇拜,，從而推動人工智能技術(shù)的創(chuàng)新,。2017年底，IEEE將發(fā)布《以倫理為基準(zhǔn)的設(shè)計(jì)：人工智能及自主系統(tǒng)中將人類福祉擺在優(yōu)先地位的愿景（第二版）》報(bào)告,，新版本收集了250多名在全球從事人工智能,、法律和倫理、哲學(xué),、政策相關(guān)工作的專家,，對人工智能及自主系統(tǒng)領(lǐng)域的問題見解及建議。

　　目前,，IEEE工作組正在開發(fā)IEEE P7000系列中涉及道德規(guī)范的7項(xiàng)倫理標(biāo)準(zhǔn),，分別對系統(tǒng)設(shè)計(jì)中倫理問題、自治系統(tǒng)透明度,、系統(tǒng)/軟件收集個(gè)人信息的倫理問題,、消除算法負(fù)偏差、兒童和學(xué)生數(shù)據(jù)安全,、人工智能代理等方面進(jìn)行規(guī)范,，包括：IEEE P7000《在系統(tǒng)設(shè)計(jì)中處理倫理問題的模型過程》、IEEE P7001《自治系統(tǒng)的透明度》,、IEEE P7002《數(shù)據(jù)隱私處理》,、IEEE P7003《算法偏差注意事項(xiàng)》、IEEE P7004《兒童和學(xué)生數(shù)據(jù)治理標(biāo)準(zhǔn)》、IEEE P7005《透明雇主數(shù)據(jù)治理標(biāo)準(zhǔn)》,、IEEE P7006《個(gè)人數(shù)據(jù)人工智能代理標(biāo)準(zhǔn)》,、IEEE P7007《道德驅(qū)動的機(jī)器人和自動化系統(tǒng)的本體標(biāo)準(zhǔn)》、IEEE P7008《機(jī)器人,、智能和自治系統(tǒng)的倫理驅(qū)動推進(jìn)標(biāo)準(zhǔn)》,、IEEE P7009《自治和半自治系統(tǒng)的故障安全設(shè)計(jì)標(biāo)準(zhǔn)》和IEEE P7010《道德人工智能與自主系統(tǒng)的健康度量標(biāo)準(zhǔn)》。

　　人工智能應(yīng)用安全標(biāo)準(zhǔn)

　　目前,，全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會（TC260）已在生物特征識別,、汽車電子、智能制造等部分人工智能技術(shù),、產(chǎn)品或應(yīng)用安全方面開展了一些標(biāo)準(zhǔn)化工作,。在生物特征識別安全方面，TC260已發(fā)布GB/T 20979-2007《信息安全技術(shù) 虹膜識別系統(tǒng)技術(shù)要求》標(biāo)準(zhǔn),，正在研制《基于可信環(huán)境的生物特征識別身份鑒別協(xié)議》《指紋識別系統(tǒng)技術(shù)要求》《網(wǎng)絡(luò)人臉識別認(rèn)證系統(tǒng)安全技術(shù)要求》等標(biāo)準(zhǔn),；在自動駕駛安全方面，2017年TC260立項(xiàng)《信息安全技術(shù) 汽車電子系統(tǒng)網(wǎng)絡(luò)安全指南》標(biāo)準(zhǔn)項(xiàng)目,，這是我國在汽車電子領(lǐng)域第一個(gè)網(wǎng)絡(luò)安全國家標(biāo)準(zhǔn),；在智能制造安全方面，TC260正在研制《工業(yè)控制網(wǎng)絡(luò)監(jiān)測安全技術(shù)要求及測試評價(jià)方法》《工業(yè)控制網(wǎng)絡(luò)安全隔離與信息交換系統(tǒng)安全技術(shù)要求》《工業(yè)控制系統(tǒng)產(chǎn)品信息安全通用評估準(zhǔn)則》《工業(yè)控制系統(tǒng)風(fēng)險(xiǎn)評估實(shí)施指南》等工控安全標(biāo)準(zhǔn),。

　　國際和國外標(biāo)準(zhǔn)化組織在生物特征識別,、自動駕駛等領(lǐng)域也開展了許多安全標(biāo)準(zhǔn)工作。以自動駕駛領(lǐng)域?yàn)槔?012年歐洲電信標(biāo)準(zhǔn)化協(xié)會（ETSI）發(fā)布ETSI TS 102941《智能交通系統(tǒng)可信和隱私管理》,；2014年美國國家標(biāo)準(zhǔn)技術(shù)研究院（NIST）發(fā)布《車聯(lián)網(wǎng)網(wǎng)絡(luò)攻擊防護(hù)安全框架》,；2016年美國汽車工程師學(xué)會（SAE）發(fā)布SAE J3061《信息物理汽車系統(tǒng)網(wǎng)絡(luò)安全指南》；ISO/TC22（道路車輛技術(shù)委員會）正在研制ISO/TR 15497《道路車輛——車用軟件開發(fā)指南》等標(biāo)準(zhǔn),。

　　人工智能安全支撐標(biāo)準(zhǔn)

　　由于人工智能通常以大數(shù)據(jù)為基礎(chǔ),，并且會面臨大量隱私保護(hù)的需求，因此大數(shù)據(jù)安全,、隱私保護(hù)方面的標(biāo)準(zhǔn)可作為人工智能安全標(biāo)準(zhǔn)的重要支撐,。ISO/IEC JTC1 SC27和TC260均開展了隱私保護(hù)、大數(shù)據(jù)安全等標(biāo)準(zhǔn)研究,，如ISO/IEC 29100《隱私框架》,、ISO/IEC 29134《隱私影響評估指南》、ISO/IEC 29151《個(gè)人標(biāo)識信息保護(hù)實(shí)用規(guī)則》,、ISO/IEC 20547-4《信息技術(shù)—大數(shù)據(jù)參考架構(gòu)—第4部分：安全和隱私架構(gòu)》等國際標(biāo)準(zhǔn),，以及TC260即將發(fā)布的《信息安全技術(shù) 個(gè)人信息安全規(guī)范》《信息安全技術(shù) 大數(shù)據(jù)服務(wù)安全能力要求》等國內(nèi)標(biāo)準(zhǔn)。

　　人工智能安全標(biāo)準(zhǔn)化工作建議

　　當(dāng)前,，人工智能技術(shù)和產(chǎn)業(yè)正在蓬勃發(fā)展,，國內(nèi)在人工智能的網(wǎng)絡(luò)安全應(yīng)用,、智慧城市安全、生物特征識別安全,、汽車電子安全等方面已有初步的產(chǎn)業(yè)實(shí)踐,。同時(shí)，人工智能可能面臨國家安全,、社會安全,、人身安全、網(wǎng)絡(luò)安全,、數(shù)據(jù)安全的風(fēng)險(xiǎn)及法律倫理方面的挑戰(zhàn),。因此，需要加強(qiáng)人工智能安全標(biāo)準(zhǔn)化工作,，為我國人工智能產(chǎn)業(yè)的健康發(fā)展保駕護(hù)航,。針對國內(nèi)人工智能安全標(biāo)準(zhǔn)現(xiàn)狀，根據(jù)《新一代人工智能發(fā)展規(guī)劃》對人工智能標(biāo)準(zhǔn)和安全的要求,，提出以下建議,。

　　統(tǒng)籌規(guī)劃人工智能安全標(biāo)準(zhǔn)體系

　　為確保人工智能安全標(biāo)準(zhǔn)研制工作有序推進(jìn)，建議統(tǒng)籌規(guī)劃人工智能安全標(biāo)準(zhǔn)化工作,，通過調(diào)研國內(nèi)人工智能產(chǎn)業(yè)發(fā)展現(xiàn)狀和國外標(biāo)準(zhǔn)化現(xiàn)狀,，分析國內(nèi)人工智能安全標(biāo)準(zhǔn)化需求，優(yōu)先開展人工智能安全標(biāo)準(zhǔn)體系研究,。建議標(biāo)準(zhǔn)體系能覆蓋人工智能的基礎(chǔ),、平臺、技術(shù),、產(chǎn)品、應(yīng)用等多個(gè)對象的安全需求,，能明確與大數(shù)據(jù)安全,、個(gè)人信息保護(hù)、云計(jì)算安全,、物聯(lián)網(wǎng)安全等相關(guān)標(biāo)準(zhǔn)的關(guān)系,。在標(biāo)準(zhǔn)體系研究的基礎(chǔ)上，加快啟動人工智能安全標(biāo)準(zhǔn)化工作,，充分吸收人工智能技術(shù),、服務(wù)、產(chǎn)品,、安全,、運(yùn)營等相關(guān)領(lǐng)域的企業(yè)、科研院所,、高等院校,、行業(yè)協(xié)會或產(chǎn)業(yè)聯(lián)盟參與研制標(biāo)準(zhǔn),。

　　加強(qiáng)人工智能安全基礎(chǔ)標(biāo)準(zhǔn)研究

　　目前，我國人工智能安全標(biāo)準(zhǔn)主要集中在應(yīng)用安全領(lǐng)域,，缺乏人工智能自身安全或基礎(chǔ)共性的安全標(biāo)準(zhǔn),。建議加強(qiáng)人工智能基礎(chǔ)安全標(biāo)準(zhǔn)研究，根據(jù)《新一代人工智能發(fā)展規(guī)劃》對人工智能安全提出的監(jiān)測預(yù)警,、風(fēng)險(xiǎn)評估,、安全問責(zé)、研發(fā)設(shè)計(jì)人員安全準(zhǔn)則等要求,，針對人工智能安全的參考架構(gòu),、安全風(fēng)險(xiǎn)、倫理設(shè)計(jì),、安全評估等方面開展標(biāo)準(zhǔn)研究,，并規(guī)范人工智能算法、產(chǎn)品和系統(tǒng)的安全要求和測評方法,。

　　深化人工智能應(yīng)用安全標(biāo)準(zhǔn)工作

　　雖然TC260在生物特征識別,、汽車電子安全、智能制造安全,、大數(shù)據(jù)安全等領(lǐng)域已經(jīng)開展了一些標(biāo)準(zhǔn)研究,，但現(xiàn)有這些標(biāo)準(zhǔn)大多是規(guī)范相關(guān)領(lǐng)域產(chǎn)品或系統(tǒng)的自動化行為，離智能化行為安全還有差距,。因此,，建議進(jìn)一步深化人工智能應(yīng)用安全標(biāo)準(zhǔn)工作，針對已有標(biāo)準(zhǔn)完善智能安全要求,，并繼續(xù)開展網(wǎng)絡(luò)安全領(lǐng)域的人工智能應(yīng)用安全,、智能機(jī)器人安全、自動駕駛安全,、智能家居安全,、智能交通安全、智能物流安全,、智慧城市安全等領(lǐng)域的標(biāo)準(zhǔn)研究,。