圖片來源@視覺中國

　　文｜學(xué)術(shù)頭條

　　歐盟委員會 (European Commission) 近日發(fā)布《人工智能白皮書》,，計劃制定一套人工智能的新法規(guī),，以保護公民免受濫用人工智能技術(shù)的傷害。

　　同時,，歐盟表示新法規(guī)將側(cè)重于透明度和監(jiān)督，以區(qū)別該地區(qū)與美國和中國的做法。有趣的是,，歐美委員會將目前 AI 發(fā)展的現(xiàn)狀比作「蠻荒的西部」，并表示將重點關(guān)注「高風(fēng)險」案例,。

　　AI 現(xiàn)狀：蠻荒的西部,？

　　如今，人臉識別已經(jīng)成為一些執(zhí)法機關(guān)追蹤嫌犯時最強有力的武器,；還有些醫(yī)療機構(gòu)正通過分析人的臉部特征,，來診斷某些罕見遺傳疾病……但它對公民隱私權(quán)構(gòu)成的威脅，也前所未有,。

　　相較指紋等其他生物特征,，人臉識別的最大不同就在于，它能遠距離發(fā)生作用,，而無需直接接觸,。這意味著，政府,、公司等機構(gòu)和個人可能未經(jīng)當(dāng)事人同意,、甚至完全不知情的情況下讀取并搜集其數(shù)據(jù)，進而非法使用,。

　　事實上,，人臉不僅僅能表明身份，讓人覺得美或丑,，還泄露許多其他信息,。有研究表明，通過大數(shù)據(jù)和算法,，有相當(dāng)大概率能通過人臉特征來測算一個人的智力水平,、性取向，甚至政治傾向……

　　因此,，一旦這種技術(shù)被不恰當(dāng)?shù)厥褂?，就有可能產(chǎn)生嚴(yán)重后果——例如，保險公司或可更精確判定一個人的健康狀況,，從而制定出包賺不賠的保單價格,；雇主可能會雇傭或拒絕一些特定的雇員，以滿足其偏見,；一些政府則可能更加主動有效地對某些特定人群進行追蹤,、監(jiān)控甚至迫害；在人種多元的國家，臉部特征數(shù)據(jù)的運算結(jié)果還可能造成對某些族群人士的不公正認知……

　　還有人認為,，人臉識別會反過來影響人們的現(xiàn)實交往和信任關(guān)系,。如果都知道自己的臉部特征會對自己將在社會上遭遇怎樣的對待產(chǎn)生重大影響時，人們就會被訓(xùn)練成「表演大師」,。長此以往,，整個社會將陷入巨大的信任危機之中。

　　再比如,，近幾年來,，基于 AI 技術(shù)的 Deepfake 視頻在網(wǎng)絡(luò)上有泛濫之勢，該技術(shù)能夠生成逼真的假視頻或音頻片段,，很多時候足以亂真,。這些逼真的視頻讓人們發(fā)出「技術(shù)無所不能」的贊嘆，同時,，也引發(fā)了更多的人對技術(shù)濫用和不可控的擔(dān)憂,，甚至是恐懼。

　　Deepfake 的出現(xiàn)實現(xiàn)了「以假亂真」的合成技術(shù)

　　與惡搞娛樂和公益相比,，Deepfake 更多地顯示了技術(shù)的「陰暗獠牙」,。利用 Deepfake 偽造的演講視頻已經(jīng)對馬來西亞和加蓬的政治丑聞產(chǎn)生影響。

　　據(jù) Deepfake 檢測軟件的 Deeptrace Labs 的一份報告稱,，目前在線的 Deepfake 視頻中有96％是非自愿拍攝的「換頭」色情片,，片中人的臉往往被換成了女性名人的臉。這已經(jīng)超出了惡搞的范疇,，觸及違法的邊緣,。

　　禁用人臉識別？

　　根據(jù)歐盟發(fā)布的白皮書內(nèi)容,，在未來的五年中,，歐盟委員會將專注于數(shù)字化的三個關(guān)鍵目標(biāo)：為人民服務(wù)的技術(shù)；公平競爭的經(jīng)濟,；開放,、民主和可持續(xù)的社會，白皮書還提出一系列人工智能研發(fā)和監(jiān)管的政策措施,，并提出建立「可信賴的人工智能框架」,。

　　近年來，歐洲一直在尋求在技術(shù)政策方面強調(diào)公平和倫理,。

　　歐洲內(nèi)部市場和服務(wù)專員蒂森·布雷頓（Thierry Breton）表示,，新法規(guī)將與《一般數(shù)據(jù)保護條例》(General Data Protection Regulation) 相媲美。這部影響深遠的數(shù)據(jù)隱私法于2018年生效,，也被稱為史上最嚴(yán)數(shù)據(jù)保護法,，對侵犯網(wǎng)民隱私的違法企業(yè),，罰金最高可達2000萬歐元（約合1.5億元人民幣）或者其全球營業(yè)額的4%，以高者為準(zhǔn),。法規(guī)出臺不久,，F(xiàn)acebook 和谷歌等美國企業(yè)也都成為 GDPR 法案下的第一批被告,。

　　根據(jù)新規(guī),，歐盟將建議禁止在公共場所使用面部識別技術(shù)，并且提到這些系統(tǒng)的運行將需要人的監(jiān)督和審計,。作為建議的一部分,，歐盟還希望成員國任命相關(guān)部門監(jiān)督人工智能政策規(guī)則的執(zhí)行情況。

　　當(dāng)然,，這些規(guī)定嚇壞了硅谷的公司,。即使 GDPR 這樣的法規(guī)只針對歐洲，也往往具有全球影響,。布雷頓表示:「與 GDPR 一樣,，我們有自己的規(guī)則，我們將在這里執(zhí)行,。他們將確保我們在歐洲珍視的個人和基本權(quán)利得到尊重,。」

　　歐洲是世界上最大的工業(yè)大陸,，盡管人工智能等轉(zhuǎn)型技術(shù)被稱為關(guān)鍵技術(shù),，但人們普遍認為歐洲落后于美國，美國的發(fā)展由財力雄厚的科技巨頭主導(dǎo)?，F(xiàn)在,，通過歐盟引入有關(guān)人工智能和面部識別等技術(shù)數(shù)據(jù)收集透明度的規(guī)則，將領(lǐng)先邁出重要一步,。

　　歐盟科技主管瑪格麗特維斯特格 ( Margrethe Vestager ) 在之前的新聞發(fā)布會上指出,，該規(guī)則將涵蓋自動駕駛汽車和生物識別 ID 等用途。歐盟以外想要在歐洲部署其技術(shù)的公司,，可能需要采取具體步驟,，例如使用歐洲數(shù)據(jù)集重新訓(xùn)練面部識別功能。歐盟希望積累在制造業(yè),，交通運輸,，能源和醫(yī)療保健等領(lǐng)域收集的數(shù)據(jù)，以保護公眾利益,，并加速歐洲自己的初創(chuàng)公司,。

　　同時，歐盟將提議每年花費近220億美元用于構(gòu)建可以用作 AI 開發(fā)基礎(chǔ)的新數(shù)據(jù)生態(tài)系統(tǒng),。該計劃假設(shè)歐洲擁有大量的政府和工業(yè)數(shù)據(jù),，并且希望提供監(jiān)管和財務(wù)激勵措施以匯總這些數(shù)據(jù),，然后這些數(shù)據(jù)將提供給同意遵守歐盟法規(guī)的 AI 開發(fā)人員。

　　谷歌：支持政府監(jiān)管,，但制定規(guī)則應(yīng)謹(jǐn)慎

　　谷歌 CEO Pichai 近日在布魯塞爾舉行的 Bruegel 智庫組織的一次會議上說：「我認為政府和監(jiān)管法規(guī)應(yīng)盡早解決此問題,，并出臺管理的框架規(guī)定，這是很重要的,?！?/p>

　　「現(xiàn)在這樣做可能會立竿見影，但也可能要等待一段時間才能見效,，屆時我們才能真正考慮如何使用它,。使用這種技術(shù)取決于政府制定的路線?！?/p>

　　Pichai 表示,，監(jiān)管機構(gòu)在起草規(guī)則時應(yīng)謹(jǐn)慎行事。歐盟委員會在該問題上發(fā)布的建議將在很大程度上決定人臉識別技術(shù)未來在歐洲的命運,。

　　微軟：不應(yīng)一刀切

　　相比之下,，微軟總裁 Brad Smith 對此表達了兩點不同的觀點，他認為,，面部識別技術(shù)在某些情況下是可以造福社會的,，比如非政府組織可以使用它來尋找失蹤的孩子。

　　Smith 說：「我真的不愿意討論讓人們禁用某項技術(shù),，人臉識別技術(shù)可以讓久別的家人團聚,。」

　　他還說,，如果能有一個合理的選擇,，讓我們能用「手術(shù)刀」，而不是「切肉刀」來解決這個問題,，那就不要一刀切都禁了,。

　　現(xiàn)在重要的是首先確定問題所在，然后制定規(guī)則,，確保該技術(shù)不會用于大規(guī)模監(jiān)視,。他認為，最終要讓一項技術(shù)變得更好的方法只有一種,，就是多用,，而不是禁用。

　　Faceboo：呼吁加強監(jiān)管

　　Facebook 首席執(zhí)行官馬克·扎克伯格（Mark Zuckerberg）近日還專門到訪布魯塞爾與 Vestager 會晤并討論擬議的法規(guī),。扎克伯格在《金融時報》周末發(fā)表的觀點文章中再次呼吁加強對 AI 和其他技術(shù)的監(jiān)管,，以幫助建立公眾信任。

　　「我們需要更多的監(jiān)督和問責(zé),，」扎克伯格寫道,?！溉藗冃枰杏X到，全球技術(shù)平臺是對某人的回應(yīng),，因此監(jiān)管應(yīng)該讓企業(yè)在犯錯時承擔(dān)責(zé)任,。」

　　據(jù)了解,，公眾有12周時間就這些規(guī)定發(fā)表評論,，歐盟委員會將在今年晚些時候正式提出立法。

　　前進還是倒退,？

　　白皮書標(biāo)志著一個新進程的開始,，這一進程可能引導(dǎo)針對人工智能系統(tǒng)及其企業(yè)的新立法?！高@將使大規(guī)模（對人工智能的）監(jiān)控合法化，」獨立研究員斯蒂芬妮·黑爾博士說,。

　　黑爾博士認為,，委員會應(yīng)暫停使用面部識別技術(shù)多年，以便就如何或是否可以合乎道德地使用這類系統(tǒng)征詢專家的意見,。

　　而實際上,，一些英國警察已經(jīng)在公共場合使用面部識別系統(tǒng)。英國警方使用人臉識別攝像頭監(jiān)控威爾士足球比賽的人群時,，一些球迷捂著臉抗議,。這項技術(shù)存在爭議的一個跡象是，甚至一個鄰近警察局的負責(zé)人也表示反對這項技術(shù),。

　　南威爾士警方在卡迪夫體育場外部署了裝有人臉識別的貨車,，作為長期試驗的一部分。在這個試驗項目中,，警方實時掃描球迷,，并拘留因過去行為不端而被列入黑名單的任何人。維權(quán)人士和球隊支持者在卡迪夫市和斯旺西城之間的比賽前舉行了抗議,，他們戴著口罩,、頭套或圍巾。

　　「這與風(fēng)險不相稱,，」威爾士足球支持者協(xié)會主席文斯·阿爾姆說,，該協(xié)會幫助組織了這次抗議活動?！盖蛎詡冇X得他們好像被選中當(dāng)做試驗品,。」

　　英國擁有世界上最高密度的監(jiān)控攝像頭之一,，幾十年來,，英國安全部門一直在公共場所使用攝像頭,，但是在2001年9月11日之后，英國還遭遇了國內(nèi)恐怖襲擊,。

　　倫敦大學(xué)學(xué)院 (University College London) 的邁克爾維爾 (Michael Veale) 表示,，這份白皮書是一個「錯失發(fā)展機會的計劃」?！杆^于專注于孤立的系統(tǒng),，而沒有考慮周圍的環(huán)境、商業(yè)模式,、它的用途,，以及推動人工智能的經(jīng)濟和政治體系?！?/p>

　　Veale 博士補充說,，包括 GDPR 在內(nèi)的現(xiàn)有法律為防止濫用面部識別提供了保護，但是他認為,，與其制定新的法律,，不如把重點放在執(zhí)行這些法律上。

　　他個人已經(jīng)向監(jiān)管機構(gòu)提交了針對科技公司的「幾起」投訴,，但他還沒有被告知任何由此導(dǎo)致的行動,。

　　數(shù)字權(quán)益組織 Access Now 的丹尼爾洛伊弗 (Daniel Leufer) 也在 twitter 上發(fā)帖稱，這份白皮書在面部識別和人工智能生物識別方面的內(nèi)容「令人失望」地薄弱,。

　　也有些人對目前在人臉識別方面缺乏具體的建議表示歡迎,。

　　法國格勒諾布爾阿爾卑斯大學(xué) (Grenoble Alpes) 的西奧多克里斯塔基斯 (Theodore Christakis) 是法國國家數(shù)字委員會 (French National Digital Council) 的成員。他在采訪中表示：「歐盟委員會需要更多時間來研究如此復(fù)雜的問題,，并在這一領(lǐng)域謹(jǐn)慎推進,，這似乎是合理的?！?/p>

　　AI 未來何去何從,？

　　根據(jù)一份新的政府報告，英國將不會設(shè)立專門的人工智能監(jiān)管機構(gòu),，但需要對公共部門的使用和道德規(guī)范給予更明確的說明,。

　　這份名為《人工智能與公共標(biāo)準(zhǔn):公共生活標(biāo)準(zhǔn)委員會》的報告稱，政府「在開放性上失敗了」,，人們對「人工智能黑箱」的擔(dān)憂在很大程度上是錯誤的,。

　　報告指出:「公共部門組織在使用人工智能方面不夠透明，而且很難發(fā)現(xiàn)政府目前在哪些領(lǐng)域使用了機器學(xué)習(xí),?！?/p>

　　該報告主張，「所有公營機構(gòu)在提供公共服務(wù)前,，應(yīng)發(fā)表聲明,，說明使用人工智能是否符合有關(guān)法例及規(guī)例,；不需要特定的人工智能監(jiān)管機構(gòu)，但應(yīng)成立監(jiān)管保證機構(gòu),，以確定監(jiān)管領(lǐng)域的空白,，并就與人工智能相關(guān)的問題向個別監(jiān)管機構(gòu)和政府提供建議」

　　IT 服務(wù)提供商 Insight 的技術(shù)策略師亞歷克斯·吉蘭 (Alex Guillen) 在報告發(fā)布后評論稱，「首先,，公共部門需要記住,，目前人工智能和機器學(xué)習(xí)等技術(shù)的最有效使用，是為了提高而不是取代人類,。幫助公共部門的工作人員做出更明智的決定,，以改善公共服務(wù)。然而,，無論人工智能如何應(yīng)用于公共部門,，它都需要被當(dāng)作雇員對待——并給予必要的培訓(xùn)和信息，以完成其工作,?！?/p>

　　Guillen 補充說，「與任何依賴數(shù)據(jù)的技術(shù)一樣,，垃圾輸入意味著垃圾輸出。從警務(wù)中的面部識別,，到幫助國民保健服務(wù) (NHS) 診斷和治療病人,，人工智能需要正確的數(shù)據(jù)和正確的治理，以避免造成比解決更多的問題,。否則,，任何執(zhí)行都會受到道德問題和數(shù)據(jù)偏見或歧視指控的困擾?！?/p>

　　在美國,，一些政界人士對人臉識別軟件的準(zhǔn)確性和越來越多的使用也表示擔(dān)憂。一些人臉識別技術(shù)錯誤地識別了女性和有色人種,，公民自由和隱私團體對如何收集這些項目的數(shù)據(jù)表示擔(dān)憂,。

　　但與歐盟的謹(jǐn)慎作風(fēng)不同，美國白宮在2020年1月7日提出10條人工智能監(jiān)管原則,，要求避免聯(lián)邦機構(gòu)對人工智能應(yīng)用的過度干預(yù),，強調(diào)監(jiān)管的靈活性。

　　其中,，靈活性原則指出,，大多數(shù)情況下，試圖規(guī)定死板的人工智能應(yīng)用規(guī)則是不切實際且無效的,，因為人工智能將以預(yù)期的速度發(fā)展,，機構(gòu)需要對新的信息和證據(jù)做出反應(yīng),。

　　熟悉此事的官員告訴《國防一號》(Defense One)，美國國防部 (Defense Department) 也將很快制定一套詳細的規(guī)則,，以管理如何開發(fā)和使用人工智能,。2019年10月，美國國防創(chuàng)新委員會 (DIB) 發(fā)布了一份規(guī)則草案,，名為「關(guān)于人工智能的道德使用的建議」,。

　　「國防部已經(jīng)進入采用人工智能原則的最后階段，這些原則將在美國軍方全面實施,?！刮褰谴髽锹?lián)合人工智能中心 (Joint Artificial Intelligence Center) 發(fā)言人阿羅·亞伯拉罕森中校 (Lt. Cmdr. Arlo Abrahamson) 說。

　　DIB 的指導(dǎo)方針和附帶的實現(xiàn)方針,，遠遠超出了谷歌,、Facebook 和微軟等科技巨頭發(fā)布的有關(guān)人工智能的簡短而基本上是膚淺的愿景聲明。一些人工智能和武器領(lǐng)域的倫理學(xué)家和學(xué)者對美國國防部采用人工智能的消息表示歡迎,，但他們補充稱,，這方面還有進一步的工作要做，人工智能在軍事上使用的風(fēng)險和擔(dān)憂仍將存在,。

　　參考資料：

　　歐盟擬在公共場所禁用人臉識別五年,，防止濫用. (n.d.). Retrieved February 24, 2020, from https://www.secrss.com/article/16692

　　EU plans new rules for AI but experts seek more detail. (2020, February 19). BBC News. https://www.bbc.com/news/technology-51559010

　　Pentagon to Adopt Detailed Principles for Using AI - Defense One. (n.d.). Retrieved February 24, 2020, from https://www.defenseone.com/technology/2020/02/pentagon-adopt-detailed-principles-using-ai/163185/?oref=d-channelriver

　　UK govt 'failing on openness' around public sector AI – but specific regulator not the answer—AI News. (n.d.). Retrieved February 24, 2020, from https://artificialintelligence-news.com/2020/02/11/uk-govt-failing-on-openness-around-public-sector-ai-but-specific-regulator-not-the-answer/