9月25日，國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布了《新一代人工智能倫理規(guī)范》（以下簡(jiǎn)稱(chēng)《倫理規(guī)范》）,，旨在將倫理道德融入人工智能全生命周期,，為從事人工智能相關(guān)活動(dòng)的自然人,、法人和其他相關(guān)機(jī)構(gòu)等提供倫理指引。

　　《倫理規(guī)范》經(jīng)過(guò)專(zhuān)題調(diào)研,、集中起草,、意見(jiàn)征詢(xún)等環(huán)節(jié)，充分考慮當(dāng)前社會(huì)各界有關(guān)隱私,、偏見(jiàn),、歧視、公平等倫理關(guān)切,，包括總則,、特定活動(dòng)倫理規(guī)范和組織實(shí)施等內(nèi)容?！秱惱硪?guī)范》提出了增進(jìn)人類(lèi)福祉,、促進(jìn)公平公正、保護(hù)隱私安全,、確?？煽乜尚拧?qiáng)化責(zé)任擔(dān)當(dāng),、提升倫理素養(yǎng)等6項(xiàng)基本倫理要求,。同時(shí)，提出人工智能管理,、研發(fā),、供應(yīng)、使用等特定活動(dòng)的18項(xiàng)具體倫理要求?！秱惱硪?guī)范》全文如下：

　　新一代人工智能倫理規(guī)范為深入貫徹《新一代人工智能發(fā)展規(guī)劃》,，細(xì)化落實(shí)《新一代人工智能治理原則》，增強(qiáng)全社會(huì)的人工智能倫理意識(shí)與行為自覺(jué),，積極引導(dǎo)負(fù)責(zé)任的人工智能研發(fā)與應(yīng)用活動(dòng),，促進(jìn)人工智能健康發(fā)展，制定本規(guī)范,。

　　第一章 總則

　　第一條 本規(guī)范旨在將倫理道德融入人工智能全生命周期,，促進(jìn)公平、公正,、和諧,、安全，避免偏見(jiàn),、歧視,、隱私和信息泄露等問(wèn)題。

　　第二條 本規(guī)范適用于從事人工智能管理,、研發(fā),、供應(yīng)、使用等相關(guān)活動(dòng)的自然人,、法人和其他相關(guān)機(jī)構(gòu)等,。（一）管理活動(dòng)主要指人工智能相關(guān)的戰(zhàn)略規(guī)劃、政策法規(guī)和技術(shù)標(biāo)準(zhǔn)制定實(shí)施,，資源配置以及監(jiān)督審查等,。（二）研發(fā)活動(dòng)主要指人工智能相關(guān)的科學(xué)研究、技術(shù)開(kāi)發(fā),、產(chǎn)品研制等,。（三）供應(yīng)活動(dòng)主要指人工智能產(chǎn)品與服務(wù)相關(guān)的生產(chǎn)、運(yùn)營(yíng),、銷(xiāo)售等,。（四）使用活動(dòng)主要指人工智能產(chǎn)品與服務(wù)相關(guān)的采購(gòu)、消費(fèi),、操作等,。

　　第三條 人工智能各類(lèi)活動(dòng)應(yīng)遵循以下基本倫理規(guī)范。（一）增進(jìn)人類(lèi)福祉,。堅(jiān)持以人為本,，遵循人類(lèi)共同價(jià)值觀，尊重人權(quán)和人類(lèi)根本利益訴求,，遵守國(guó)家或地區(qū)倫理道德。堅(jiān)持公共利益優(yōu)先，促進(jìn)人機(jī)和諧友好,，改善民生,，增強(qiáng)獲得感幸福感，推動(dòng)經(jīng)濟(jì),、社會(huì)及生態(tài)可持續(xù)發(fā)展,，共建人類(lèi)命運(yùn)共同體。（二）促進(jìn)公平公正,。堅(jiān)持普惠性和包容性,，切實(shí)保護(hù)各相關(guān)主體合法權(quán)益，推動(dòng)全社會(huì)公平共享人工智能帶來(lái)的益處,，促進(jìn)社會(huì)公平正義和機(jī)會(huì)均等,。在提供人工智能產(chǎn)品和服務(wù)時(shí)，應(yīng)充分尊重和幫助弱勢(shì)群體,、特殊群體,，并根據(jù)需要提供相應(yīng)替代方案。（三）保護(hù)隱私安全,。充分尊重個(gè)人信息知情,、同意等權(quán)利，依照合法,、正當(dāng),、必要和誠(chéng)信原則處理個(gè)人信息，保障個(gè)人隱私與數(shù)據(jù)安全,，不得損害個(gè)人合法數(shù)據(jù)權(quán)益,，不得以竊取、篡改,、泄露等方式非法收集利用個(gè)人信息,，不得侵害個(gè)人隱私權(quán)。（四）確?？煽乜尚?。保障人類(lèi)擁有充分自主決策權(quán)，有權(quán)選擇是否接受人工智能提供的服務(wù),，有權(quán)隨時(shí)退出與人工智能的交互,，有權(quán)隨時(shí)中止人工智能系統(tǒng)的運(yùn)行，確保人工智能始終處于人類(lèi)控制之下,。（五）強(qiáng)化責(zé)任擔(dān)當(dāng),。堅(jiān)持人類(lèi)是最終責(zé)任主體，明確利益相關(guān)者的責(zé)任,，全面增強(qiáng)責(zé)任意識(shí),，在人工智能全生命周期各環(huán)節(jié)自省自律,，建立人工智能問(wèn)責(zé)機(jī)制，不回避責(zé)任審查,，不逃避應(yīng)負(fù)責(zé)任,。（六）提升倫理素養(yǎng)。積極學(xué)習(xí)和普及人工智能倫理知識(shí),，客觀認(rèn)識(shí)倫理問(wèn)題,，不低估不夸大倫理風(fēng)險(xiǎn)。主動(dòng)開(kāi)展或參與人工智能倫理問(wèn)題討論,，深入推動(dòng)人工智能倫理治理實(shí)踐,，提升應(yīng)對(duì)能力。

　　第四條 人工智能特定活動(dòng)應(yīng)遵守的倫理規(guī)范包括管理規(guī)范,、研發(fā)規(guī)范,、供應(yīng)規(guī)范和使用規(guī)范。

　　第二章 管理規(guī)范

　　第五條 推動(dòng)敏捷治理,。尊重人工智能發(fā)展規(guī)律,，充分認(rèn)識(shí)人工智能的潛力與局限，持續(xù)優(yōu)化治理機(jī)制和方式,，在戰(zhàn)略決策,、制度建設(shè)、資源配置過(guò)程中,，不脫離實(shí)際,、不急功近利，有序推動(dòng)人工智能健康和可持續(xù)發(fā)展,。

　　第六條 積極實(shí)踐示范,。遵守人工智能相關(guān)法規(guī)、政策和標(biāo)準(zhǔn),，主動(dòng)將人工智能倫理道德融入管理全過(guò)程,，率先成為人工智能倫理治理的實(shí)踐者和推動(dòng)者，及時(shí)總結(jié)推廣人工智能治理經(jīng)驗(yàn),，積極回應(yīng)社會(huì)對(duì)人工智能的倫理關(guān)切,。

　　第七條 正確行權(quán)用權(quán)。明確人工智能相關(guān)管理活動(dòng)的職責(zé)和權(quán)力邊界,，規(guī)范權(quán)力運(yùn)行條件和程序,。充分尊重并保障相關(guān)主體的隱私、自由,、尊嚴(yán),、安全等權(quán)利及其他合法權(quán)益，禁止權(quán)力不當(dāng)行使對(duì)自然人,、法人和其他組織合法權(quán)益造成侵害,。

　　第八條 加強(qiáng)風(fēng)險(xiǎn)防范,。增強(qiáng)底線思維和風(fēng)險(xiǎn)意識(shí)，加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判,，及時(shí)開(kāi)展系統(tǒng)的風(fēng)險(xiǎn)監(jiān)測(cè)和評(píng)估,，建立有效的風(fēng)險(xiǎn)預(yù)警機(jī)制,，提升人工智能倫理風(fēng)險(xiǎn)管控和處置能力,。

　　第九條 促進(jìn)包容開(kāi)放。充分重視人工智能各利益相關(guān)主體的權(quán)益與訴求,，鼓勵(lì)應(yīng)用多樣化的人工智能技術(shù)解決經(jīng)濟(jì)社會(huì)發(fā)展實(shí)際問(wèn)題,，鼓勵(lì)跨學(xué)科、跨領(lǐng)域,、跨地區(qū),、跨國(guó)界的交流與合作，推動(dòng)形成具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范,。

　　第三章 研發(fā)規(guī)范

　　第十條 強(qiáng)化自律意識(shí),。加強(qiáng)人工智能研發(fā)相關(guān)活動(dòng)的自我約束，主動(dòng)將人工智能倫理道德融入技術(shù)研發(fā)各環(huán)節(jié),，自覺(jué)開(kāi)展自我審查,，加強(qiáng)自我管理，不從事違背倫理道德的人工智能研發(fā),。

　　第十一條 提升數(shù)據(jù)質(zhì)量,。在數(shù)據(jù)收集、存儲(chǔ),、使用,、加工、傳輸,、提供,、公開(kāi)等環(huán)節(jié)，嚴(yán)格遵守?cái)?shù)據(jù)相關(guān)法律,、標(biāo)準(zhǔn)與規(guī)范,，提升數(shù)據(jù)的完整性、及時(shí)性,、一致性,、規(guī)范性和準(zhǔn)確性等。

　　第十二條 增強(qiáng)安全透明,。在算法設(shè)計(jì),、實(shí)現(xiàn)、應(yīng)用等環(huán)節(jié),，提升透明性,、可解釋性,、可理解性、可靠性,、可控性,，增強(qiáng)人工智能系統(tǒng)的韌性、自適應(yīng)性和抗干擾能力,，逐步實(shí)現(xiàn)可驗(yàn)證,、可審核、可監(jiān)督,、可追溯,、可預(yù)測(cè)、可信賴(lài),。

　　第十三條 避免偏見(jiàn)歧視,。在數(shù)據(jù)采集和算法開(kāi)發(fā)中，加強(qiáng)倫理審查,，充分考慮差異化訴求,，避免可能存在的數(shù)據(jù)與算法偏見(jiàn)，努力實(shí)現(xiàn)人工智能系統(tǒng)的普惠性,、公平性和非歧視性,。

　　第四章 供應(yīng)規(guī)范

　　第十四條 尊重市場(chǎng)規(guī)則。嚴(yán)格遵守市場(chǎng)準(zhǔn)入,、競(jìng)爭(zhēng),、交易等活動(dòng)的各種規(guī)章制度，積極維護(hù)市場(chǎng)秩序,，營(yíng)造有利于人工智能發(fā)展的市場(chǎng)環(huán)境,，不得以數(shù)據(jù)壟斷、平臺(tái)壟斷等破壞市場(chǎng)有序競(jìng)爭(zhēng),，禁止以任何手段侵犯其他主體的知識(shí)產(chǎn)權(quán),。

　　第十五條 加強(qiáng)質(zhì)量管控。強(qiáng)化人工智能產(chǎn)品與服務(wù)的質(zhì)量監(jiān)測(cè)和使用評(píng)估,，避免因設(shè)計(jì)和產(chǎn)品缺陷等問(wèn)題導(dǎo)致的人身安全,、財(cái)產(chǎn)安全、用戶(hù)隱私等侵害,，不得經(jīng)營(yíng),、銷(xiāo)售或提供不符合質(zhì)量標(biāo)準(zhǔn)的產(chǎn)品與服務(wù)。

　　第十六條 保障用戶(hù)權(quán)益,。在產(chǎn)品與服務(wù)中使用人工智能技術(shù)應(yīng)明確告知用戶(hù),，應(yīng)標(biāo)識(shí)人工智能產(chǎn)品與服務(wù)的功能與局限，保障用戶(hù)知情,、同意等權(quán)利,。為用戶(hù)選擇使用或退出人工智能模式提供簡(jiǎn)便易懂的解決方案,，不得為用戶(hù)平等使用人工智能設(shè)置障礙。

　　第十七條 強(qiáng)化應(yīng)急保障,。研究制定應(yīng)急機(jī)制和損失補(bǔ)償方案或措施,，及時(shí)監(jiān)測(cè)人工智能系統(tǒng)，及時(shí)響應(yīng)和處理用戶(hù)的反饋信息,，及時(shí)防范系統(tǒng)性故障,，隨時(shí)準(zhǔn)備協(xié)助相關(guān)主體依法依規(guī)對(duì)人工智能系統(tǒng)進(jìn)行干預(yù)，減少損失,，規(guī)避風(fēng)險(xiǎn),。

　　第五章 使用規(guī)范

　　第十八條 提倡善意使用,。加強(qiáng)人工智能產(chǎn)品與服務(wù)使用前的論證和評(píng)估,，充分了解人工智能產(chǎn)品與服務(wù)帶來(lái)的益處，充分考慮各利益相關(guān)主體的合法權(quán)益,，更好促進(jìn)經(jīng)濟(jì)繁榮,、社會(huì)進(jìn)步和可持續(xù)發(fā)展。

　　第十九條 避免誤用濫用,。充分了解人工智能產(chǎn)品與服務(wù)的適用范圍和負(fù)面影響,，切實(shí)尊重相關(guān)主體不使用人工智能產(chǎn)品或服務(wù)的權(quán)利，避免不當(dāng)使用和濫用人工智能產(chǎn)品與服務(wù),，避免非故意造成對(duì)他人合法權(quán)益的損害,。

　　第二十條 禁止違規(guī)惡用。禁止使用不符合法律法規(guī),、倫理道德和標(biāo)準(zhǔn)規(guī)范的人工智能產(chǎn)品與服務(wù),，禁止使用人工智能產(chǎn)品與服務(wù)從事不法活動(dòng)，嚴(yán)禁危害國(guó)家安全,、公共安全和生產(chǎn)安全,，嚴(yán)禁損害社會(huì)公共利益等。

　　第二十一條 及時(shí)主動(dòng)反饋,。積極參與人工智能倫理治理實(shí)踐,，對(duì)使用人工智能產(chǎn)品與服務(wù)過(guò)程中發(fā)現(xiàn)的技術(shù)安全漏洞、政策法規(guī)真空,、監(jiān)管滯后等問(wèn)題,，應(yīng)及時(shí)向相關(guān)主體反饋，并協(xié)助解決,。

　　第二十二條 提高使用能力,。積極學(xué)習(xí)人工智能相關(guān)知識(shí)，主動(dòng)掌握人工智能產(chǎn)品與服務(wù)的運(yùn)營(yíng),、維護(hù),、應(yīng)急處置等各使用環(huán)節(jié)所需技能,，確保人工智能產(chǎn)品與服務(wù)安全使用和高效利用。

　　第六章 組織實(shí)施

　　第二十三條 本規(guī)范由國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布,，并負(fù)責(zé)解釋和指導(dǎo)實(shí)施,。

　　第二十四條 各級(jí)管理部門(mén)、企業(yè),、高校,、科研院所、協(xié)會(huì)學(xué)會(huì)和其他相關(guān)機(jī)構(gòu)可依據(jù)本規(guī)范,，結(jié)合實(shí)際需求,，制訂更為具體的倫理規(guī)范和相關(guān)措施。

　　第二十五條 本規(guī)范自公布之日起施行,，并根據(jù)經(jīng)濟(jì)社會(huì)發(fā)展需求和人工智能發(fā)展情況適時(shí)修訂,。

　　國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)

　　2021年9月25日