人工智能科學(xué)與技術(shù)的發(fā)展日新月異，它直接作用于社會(huì),，也將以最直接的方式接收到社會(huì)的反饋,。它在推動(dòng)科技、經(jīng)濟(jì),、社會(huì)的發(fā)展中起到的持續(xù)性積極作用毋庸置疑,，然而如果在其發(fā)展過(guò)程中沒(méi)有對(duì)社會(huì)潛在影響和可持續(xù)性進(jìn)行充分考慮，可能會(huì)造成預(yù)期之外的負(fù)面影響,。因此,，對(duì)人工智能倫理的考量應(yīng)貫穿于人工智能產(chǎn)品與服務(wù)的整個(gè)生命周期。

需秉承以人為本及可持續(xù)發(fā)展的理念

符合人類倫理與價(jià)值觀的人工智能應(yīng)秉承以人為本及可持續(xù)發(fā)展的理念,，尊重隱私,，促進(jìn)公平公正，不引入種族,、文化等偏見,，人工智能技術(shù)的發(fā)展應(yīng)做到透明與可解釋、安全可控,、可驗(yàn)證,、可追責(zé)，為推動(dòng)技術(shù)普惠各行各業(yè),、各個(gè)國(guó)家與地區(qū),，應(yīng)避免惡意競(jìng)爭(zhēng)，促進(jìn)開放合作與包容共享,。

倡導(dǎo)和諧發(fā)展應(yīng)當(dāng)是新一代人工智能倫理與治理的主旋律,。一方面為實(shí)現(xiàn)通過(guò)人工智能增進(jìn)人類共同福祉這一目標(biāo)，采用的途徑并不唯一,，應(yīng)當(dāng)始終秉承與實(shí)踐和而不同,、和合向善的發(fā)展理念。另一方面應(yīng)推動(dòng)人類與技術(shù)的和諧共生,，避免技術(shù)的誤用,、濫用、惡用對(duì)人類權(quán)益的傷害,，總體愿景應(yīng)是發(fā)展對(duì)人類與生態(tài)有益的人工智能,。

無(wú)論采取哪種技術(shù)途徑實(shí)現(xiàn)新一代人工智能，都無(wú)法杜絕在發(fā)展過(guò)程中可能帶來(lái)的潛在技術(shù)與社會(huì)風(fēng)險(xiǎn)及對(duì)現(xiàn)代科技倫理的潛在沖擊,。技術(shù)發(fā)展的途徑與方式的多樣性使得其所帶來(lái)的風(fēng)險(xiǎn)也具有不確定性,，因此應(yīng)當(dāng)在探索新一代人工智能,，特別是不同類型的高等智能的過(guò)程中，建立對(duì)其技術(shù)與社會(huì)風(fēng)險(xiǎn)的持續(xù)戰(zhàn)略性前瞻研究,，以避免,、降低潛在風(fēng)險(xiǎn)帶來(lái)的負(fù)面影響。

在對(duì)未來(lái)人工智能的潛在風(fēng)險(xiǎn)及應(yīng)對(duì)策略的研究方面,，應(yīng)最大限度地共享對(duì)隱患的認(rèn)識(shí)及危機(jī)處理方案與經(jīng)驗(yàn),。只有建立全球共享、群策群力的機(jī)制并采取行動(dòng),，才能保證安全,，避免顛覆性技術(shù)可能帶來(lái)的災(zāi)難性風(fēng)險(xiǎn)。

多方協(xié)作實(shí)現(xiàn)發(fā)展與治理雙輪驅(qū)動(dòng)

作為我國(guó)新一代人工智能戰(zhàn)略的牽頭單位,，2019年3月,，科技部組建了國(guó)家新一代人工智能治理專業(yè)委員會(huì)。同年6月,，該委員會(huì)發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，這是我國(guó)新一代人工智能戰(zhàn)略對(duì)發(fā)展與治理關(guān)系的原則性闡述,，也是中國(guó)新一代人工智能治理的重要基礎(chǔ),。

為了確保中國(guó)新一代人工智能向?qū)ι鐣?huì)有益的方向發(fā)展，新一代人工智能應(yīng)采取發(fā)展與治理雙輪驅(qū)動(dòng)的戰(zhàn)略,。治理的目的并不是阻礙發(fā)展,，而是保持發(fā)展的穩(wěn)健。

敏捷治理應(yīng)成為中國(guó)人工智能治理重要特征之一,。這里敏捷治理可以被解讀為有兩方面的含義：一方面是人工智能治理隨人工智能技術(shù)的進(jìn)展進(jìn)行自適應(yīng),，使得治理工作能夠更適應(yīng)發(fā)展的特點(diǎn)；另一方面是相關(guān)治理工作動(dòng)作迅速,。

與新一代人工智能發(fā)展一脈相承,，作為中國(guó)人工智能發(fā)展的重要方面，人工智能治理在中國(guó)也應(yīng)通過(guò)多部門聯(lián)動(dòng)深度協(xié)作的方式進(jìn)行,。政府部門,、科研機(jī)構(gòu)、企業(yè)等創(chuàng)新單元在人工智能治理工作中應(yīng)各自承擔(dān)相應(yīng)的責(zé)任并深度協(xié)作,，真正從技術(shù)和社會(huì)等不同視角實(shí)現(xiàn)新一代人工智能的敏捷治理,。

建立人工智能治理公共服務(wù)體系防患于未然

未來(lái)，一方面需要政府相關(guān)部門,、科研機(jī)構(gòu),、產(chǎn)業(yè)對(duì)人工智能可能存在的風(fēng)險(xiǎn)、安全與倫理隱患加以足夠的重視,，并對(duì)人工智能倫理與治理進(jìn)行戰(zhàn)略性的關(guān)注與投入,，加強(qiáng)自律自治,。另一方面，對(duì)于國(guó)家和地方相關(guān)機(jī)構(gòu)而言,，應(yīng)當(dāng)推動(dòng)人工智能治理相關(guān)高端智庫(kù),、執(zhí)行機(jī)構(gòu)、協(xié)作網(wǎng)絡(luò)的建立,，并鼓勵(lì)公眾參與討論,，及時(shí)了解公眾對(duì)技術(shù)參與變革社會(huì)的思考。

需要指出,，新一代人工智能治理工作的重點(diǎn)應(yīng)當(dāng)是防患于未然,，而不僅僅是事后的警戒、責(zé)令整改與懲治,。發(fā)展與治理的雙輪驅(qū)動(dòng)需要將人工智能倫理與治理工作推動(dòng)為兼服務(wù)與監(jiān)管于一身的公共體系,。應(yīng)鼓勵(lì)政府相關(guān)部門、科研機(jī)構(gòu),、企業(yè)及其他創(chuàng)新單元,，乃至公眾共建新一代人工智能倫理與治理公共體系。應(yīng)在政府和相關(guān)機(jī)構(gòu)的指導(dǎo)下,，鼓勵(lì)新一代人工智能倫理與治理公共服務(wù)平臺(tái)的建設(shè)并面向政府,、科研機(jī)構(gòu)、企業(yè),、公眾提供服務(wù),，從而負(fù)責(zé)任地推動(dòng)并確保新一代人工智能的穩(wěn)健發(fā)展。

（作者系中科院自動(dòng)化研究所研究員,、北京智源人工智能研究院人工智能倫理與安全中心主任 曾 毅）