931年,，愛因斯坦在與加州理工大學(xué)的學(xué)生們交流時(shí),，充滿深情地說：關(guān)心人的本身,，應(yīng)當(dāng)始終成為一切技術(shù)奮斗的主要目標(biāo)，以保證我們的科學(xué)思想的成果能夠造福于人類,，而不至于成為禍害。

　　人工智能是第四次工業(yè)革命的標(biāo)志性技術(shù),，近年來(lái)智能化正在深刻改變我們的生產(chǎn),、生活方式，智能時(shí)代的大門已經(jīng)緩緩開啟,。然而,，人工智能在給我們帶來(lái)更多驚喜的同時(shí)，也帶來(lái)了公共安全風(fēng)險(xiǎn),、隱私侵權(quán),、數(shù)字鴻溝、責(zé)任困境,、倫理失范等許多新挑戰(zhàn),。

　　因此，人工智能治理這一概念應(yīng)運(yùn)而生,。如何引導(dǎo)技術(shù)“負(fù)責(zé)任”地發(fā)展已成為全世界的共同訴求,。

　　近日，在2021人工智能合作與治理國(guó)際論壇上,，與會(huì)專家圍繞“推動(dòng)構(gòu)建平衡包容的人工智能治理體系”開展討論,，探尋讓人工智能安全、可靠,、負(fù)責(zé)的造福全人類之路——

　　科技并不是存在于真空之中

　　毋庸置疑,，我們正在進(jìn)入“人機(jī)物”三元融合,，萬(wàn)物互聯(lián)的智能時(shí)代。

　　最近一段時(shí)間,，受到全社會(huì)熱議的“困在算法里的外賣小哥”,、網(wǎng)絡(luò)游戲沉迷、掌握用戶數(shù)據(jù)和高級(jí)算法優(yōu)勢(shì)形成壟斷性超級(jí)平臺(tái),、信息繭房導(dǎo)致群體極化和網(wǎng)絡(luò)暴力等問題,，都在警示著我們——對(duì)于人工智能，如果利用得當(dāng),，將大有裨益,；但是，科技并不是存在于真空之中,，也有可能使得現(xiàn)有問題進(jìn)一步加劇,。

　　聯(lián)合國(guó)開發(fā)計(jì)劃署駐華代表白雅婷舉例說，人工智能的客觀性僅在于其算法,，而這些算法由人來(lái)編寫,，因此人類的偏見可能會(huì)被編入人工智能當(dāng)中，從而延續(xù)偏見和歧視,；另外,，人工智能系統(tǒng)的有效性基于數(shù)據(jù)，這可能會(huì)成為濫用數(shù)據(jù)和侵犯?jìng)€(gè)人隱私的動(dòng)機(jī),。如果沒有恰當(dāng)?shù)闹卫?，這些技術(shù)的有害之處將對(duì)于人的生活構(gòu)成有害的影響。

　　同時(shí),，從總體來(lái)看,，在人工智能的發(fā)展中，目前發(fā)展中國(guó)家話語(yǔ)權(quán)較少,；在國(guó)家內(nèi)部,，發(fā)揮人工智能潛能，只需要少數(shù)人獲得的先進(jìn)技能和專業(yè)知識(shí),，如果這種不平衡持續(xù)下去,，會(huì)出現(xiàn)掉隊(duì)的數(shù)字弱勢(shì)群體，數(shù)字鴻溝將持續(xù)擴(kuò)大,。

　　在清華大學(xué)公共管理學(xué)院教授,、清華大學(xué)智庫(kù)中心主任蘇竣看來(lái)，在這場(chǎng)人工智能掀起的人類社會(huì)劇變中,，我們需要科學(xué)的方法來(lái)研究和應(yīng)對(duì)科學(xué)技術(shù)帶來(lái)的種種風(fēng)險(xiǎn),、問題和挑戰(zhàn)。不但要關(guān)注技術(shù)本身，更要關(guān)注技術(shù)對(duì)社會(huì)的影響,，需要做長(zhǎng)周期,、多學(xué)科、寬領(lǐng)域的觀察,、研究，通過實(shí)踐的積累,，通過實(shí)驗(yàn)去深刻理解人類社會(huì)轉(zhuǎn)型的過程機(jī)理,，全方位回應(yīng)來(lái)自學(xué)術(shù)界，以及每個(gè)普通的人的關(guān)切,。

　　“因此,，政策制定者必須具備前瞻性的思維，不能僅解決當(dāng)下的問題,，還必須要預(yù)見未來(lái)的挑戰(zhàn),。”白雅婷指出,。

　　治理標(biāo)準(zhǔn)的統(tǒng)一并不容易

　　對(duì)于人工智能治理的路徑,，專家們已有共識(shí)。

　　中科院院士,、清華大學(xué)校長(zhǎng)邱勇指出,，人工智能治理必須協(xié)同多元主體，經(jīng)過多維目標(biāo),，融合多元價(jià)值,，加強(qiáng)全球合作與對(duì)話，構(gòu)建平衡,、包容的人工智能治理體系,。

　　然而，這些原則的具體落地并不是那么簡(jiǎn)單,。據(jù)統(tǒng)計(jì),，目前全世界已有160多套組織、國(guó)家等建立的人工智能道德和治理原則,，但缺少將這些獨(dú)立的倡議結(jié)合起來(lái)的框架和標(biāo)準(zhǔn),；且在數(shù)據(jù)、算法,、算力,、場(chǎng)景等方面面臨許多挑戰(zhàn)。

　　11月24日,，聯(lián)合國(guó)教科文組織在法國(guó)巴黎發(fā)布了《人工智能倫理建議書》,，這是全球首個(gè)針對(duì)人工智能倫理制定的規(guī)范框架。

　　據(jù)世界工程組織聯(lián)合會(huì)主席、中國(guó)新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長(zhǎng)龔克介紹,，這個(gè)建議書的制定付出了艱辛的過程,。

　　早在2020年年初，建議書就在網(wǎng)上公開征求意見,。在當(dāng)時(shí)意見基礎(chǔ)上,，在全球遴選了24人組成特殊專家組，其中考慮了性別平衡,、區(qū)域平衡,、學(xué)科平衡等；通過專家組多輪討論和修改后,，第一輪修改草稿在線征求意見,，收到了來(lái)自90多個(gè)國(guó)家的5000多條意見；在此基礎(chǔ)上繼續(xù)修改,，并在全球6個(gè)地區(qū)（涉及亞太,、歐洲、非洲等）,，與涉及102個(gè)成員國(guó)代表開展在線協(xié)商,；定稿后再由聯(lián)合國(guó)教科文組織總干事發(fā)送給193個(gè)成員國(guó)征求意見，最終才正式通過,。

　　龔克認(rèn)為,，“這體現(xiàn)了多利益攸關(guān)方開放參與規(guī)定制定過程，不僅為人工智能治理體系建立提供了重要基石,，本身協(xié)商過程也建立了多邊典范,。”

　　事實(shí)上,，當(dāng)前我國(guó)已躋身人工智能水平的第一梯隊(duì),，也肩負(fù)著參與國(guó)際治理規(guī)則制定的職責(zé)。

　　科技部副部長(zhǎng)李萌表示,，我國(guó)已成立了由15個(gè)部門構(gòu)成的人工智能規(guī)劃推進(jìn)辦公室,，辦公室設(shè)立新一代人工智能治理專業(yè)委員會(huì)，發(fā)布了相關(guān)治理原則和倫理規(guī)范,；同時(shí)開展了長(zhǎng)周期,、跨學(xué)科的人工智能綜合影響社會(huì)實(shí)驗(yàn)，部署了城市,、農(nóng)村,、教育、醫(yī)療,、能源,、環(huán)境等30多個(gè)領(lǐng)域的場(chǎng)景實(shí)驗(yàn)研究,；并依托領(lǐng)軍企業(yè)布局了一批開放創(chuàng)新平臺(tái)，依托地方建立了17個(gè)創(chuàng)新發(fā)展實(shí)驗(yàn)區(qū),。

　　作為我國(guó)新一代人工智能治理專業(yè)委員會(huì)主任,、清華大學(xué)人工智能國(guó)際治理研究院院長(zhǎng)薛瀾指出，當(dāng)前人工智能治理已從理念探討走到了實(shí)踐探索的前沿,。近年來(lái),，專委會(huì)正致力于構(gòu)建有效的治理框架和相關(guān)規(guī)則。

　　按照目前的研究成果,，思路是構(gòu)建“政府,、企業(yè)、公眾,、大學(xué)與科研機(jī)構(gòu)、媒體,、非營(yíng)利組織,、國(guó)際組織”等多主體參與，以“底線思維,、人本思維,、發(fā)展思維、全球思維”為價(jià)值導(dǎo)向,，以“算法,、數(shù)據(jù)、算力,、外部環(huán)境,、場(chǎng)景”為治理對(duì)象，應(yīng)用“宏觀-中觀-微觀”多維治理工具的人工智能綜合治理框架體系,，通過“形成價(jià)值共識(shí),、多主體分工協(xié)作、治理理念迭代優(yōu)化”等治理機(jī)制推動(dòng)人工智能健康發(fā)展,，促進(jìn)人類福祉提升,。

　　為人工智能發(fā)展劃定“紅線”

　　人們?cè)絹?lái)越認(rèn)識(shí)到：人工智能不是萬(wàn)能藥，它的好壞取決于使用人工智能的人及數(shù)據(jù)基礎(chǔ),、治理標(biāo)準(zhǔn)等,；而治理正是確保大船行穩(wěn)致遠(yuǎn)的航向標(biāo)。

　　為此,，向著“平衡包容”的目標(biāo),，各方都在努力前行，為人工智能發(fā)展畫定“紅線”,。

　　龔克提出,，目前不僅要發(fā)展人工智能的相關(guān)應(yīng)用技術(shù),、開發(fā)更加有效的算法，還需要發(fā)展一批支撐治理的技術(shù),，如監(jiān)督性技術(shù),，用于保護(hù)公平性以及隱私等。比如從社會(huì)中采集的數(shù)據(jù),，其實(shí)帶有一定偏見,，這不是社會(huì)的錯(cuò)，是現(xiàn)實(shí)社會(huì)固有的,。但如果沒有適當(dāng)技術(shù)對(duì)數(shù)據(jù)進(jìn)行“減偏”,，公平無(wú)歧視原則可能就無(wú)法落地。因此,，要著力強(qiáng)調(diào)發(fā)展一批監(jiān)管性支撐技術(shù),。

　　李萌認(rèn)為，人工智能技術(shù)應(yīng)該將普遍適用與分類推進(jìn)相結(jié)合,，根據(jù)不同群體需求提出差異化選擇,，切實(shí)保護(hù)各相關(guān)主體合法權(quán)益，提高弱勢(shì)群體的適應(yīng)性,，努力消除數(shù)字鴻溝,；同時(shí)也要尊重和幫助弱勢(shì)群體提供必要的替代方案，避免忽視,、偏見,、歧視。

　　邱勇提到了教育的意義,，他指出,，大學(xué)作為人類科技文明的重要策源地，不僅要在人工智能基礎(chǔ)理論與技術(shù)前沿努力突破創(chuàng)新,，也要進(jìn)行科技向善的文化理念,，塑造良善的人工智能價(jià)值倫理。

　　卡內(nèi)基理事會(huì)資深研究員,、清華大學(xué)人工智能國(guó)際治理研究院學(xué)術(shù)委員溫德爾·瓦拉赫（Wendell Wallach）強(qiáng)調(diào)了新的國(guó)際合作方式的重要性,。他認(rèn)為，人工智能國(guó)際治理機(jī)制應(yīng)該具有敏捷性,、適應(yīng)性,、預(yù)見性、響應(yīng)性和包容性,，中美兩國(guó)需要共同參與制定人工智能國(guó)際治理方案,，將使其更具有可行性。同時(shí),，每個(gè)國(guó)家要處理好對(duì)國(guó)家安全和國(guó)際合作雙重需求之間的關(guān)系,，接受國(guó)際標(biāo)準(zhǔn)的同時(shí),，積極開展旨在應(yīng)對(duì)新挑戰(zhàn)的前瞻性對(duì)話。

　　不過專家們也提出,，人工智能治理的目的不是限制其發(fā)展,，而是要為了實(shí)現(xiàn)向善、造福人類的健康發(fā)展,。

　　李萌指出,，目前社會(huì)對(duì)人工智能的社會(huì)風(fēng)險(xiǎn)、倫理風(fēng)險(xiǎn)和法律風(fēng)險(xiǎn)的認(rèn)識(shí),，有一些是基于理性的推演預(yù)判,，也有一些是基于主觀判斷的臆想。他認(rèn)為,，應(yīng)該秉持積極而負(fù)責(zé)任的態(tài)度,，努力實(shí)現(xiàn)人工智能創(chuàng)新發(fā)展與有效規(guī)制之間的協(xié)調(diào)，技術(shù)邊界拓展與應(yīng)用范圍限制之間的平衡,，避免陷入倫理陷阱而阻礙前沿技術(shù)的研究與應(yīng)用,。