據(jù)路透社報(bào)道,,亞馬遜已經(jīng)延長(zhǎng)了對(duì)自家人臉識(shí)別軟件用于執(zhí)法的禁令,,”直到另行通知“ ,。
該禁令之前設(shè)定為期一年,,原定于六月到期,。亞馬遜沒(méi)有立即回應(yīng)為何延長(zhǎng)這一禁令,。
早在 2018 年,,亞馬遜員工就曾力促亞馬遜縮減這一項(xiàng)目的規(guī)?!麄冋J(rèn)為,有記載的人臉識(shí)別種族偏見(jiàn),,可能加劇當(dāng)?shù)鼐綄?duì)少數(shù)族裔的暴力行為,。
亞馬遜一直為該項(xiàng)目辯護(hù),直到去年6月,,當(dāng)時(shí)抗議活動(dòng)的壓力越來(lái)越大,,亞馬遜這才宣布,面向警方客戶(hù)的服務(wù)暫停一年,。
Rekognition屬于AWS所提供的一項(xiàng)服務(wù),,其實(shí)許多亞馬遜在云計(jì)算領(lǐng)域的競(jìng)爭(zhēng)對(duì)手都具有類(lèi)似的技術(shù)。就在亞馬遜做出承諾的第二天,微軟也宣布了類(lèi)似聲明,,稱(chēng)將不會(huì)向當(dāng)?shù)鼐匠鍪燮涿娌孔R(shí)別服務(wù),。
而IBM在同一周內(nèi)也表示,將停止開(kāi)發(fā)或研究面部識(shí)別技術(shù),;谷歌則表示不會(huì)向任何人提供面部識(shí)別技術(shù)的商用,。
去年夏天,關(guān)于人臉識(shí)別技術(shù)的道德性問(wèn)題甚囂塵上,。麻省理工學(xué)院媒體實(shí)驗(yàn)室的研究員Joy Buolamwini和微軟研究院的Timnit Gebru,,都致力于揭示人臉識(shí)別技術(shù)在種族偏見(jiàn)方面的偏見(jiàn)。兩人做了不少基礎(chǔ)性工作,,其中有一篇共同撰寫(xiě)的論文被廣泛引用,。
該論文指出,包括IBM和Microsoft在內(nèi)的主要科技公司,,他們的人臉識(shí)別系統(tǒng),,用于識(shí)別膚色較黑的人的錯(cuò)誤率,比識(shí)別膚色較白的人要高幾十個(gè)百分點(diǎn),。根據(jù)《紐約時(shí)報(bào)》的一份報(bào)告,,問(wèn)題部分在于用于訓(xùn)練系統(tǒng)的數(shù)據(jù)集,其中絕大多數(shù)可能是男性和白人,。
在2019年的另一項(xiàng)研究中,,Buolamwini和另一位學(xué)者分析了Rekognition,發(fā)現(xiàn)亞馬遜的系統(tǒng)也存在重大問(wèn)題,,無(wú)法識(shí)別膚色較黑的人的性別,,以及誤以膚色較黑的婦女為男性。研究發(fā)現(xiàn),,該系統(tǒng)在分析膚色較淺的人的圖像時(shí)的錯(cuò)誤率幾乎為零,。
在之前首次宣布禁用于執(zhí)法時(shí),亞馬遜曾表示,,希望國(guó)會(huì)利用這段服務(wù)暫停的時(shí)間,,來(lái)調(diào)整人臉識(shí)別技術(shù)的法律法規(guī)。
當(dāng)時(shí)亞馬遜在聲明中曾表示,,”我們主張政府制定更嚴(yán)格的法規(guī)來(lái)管理人臉識(shí)別技術(shù)使用的道德問(wèn)題,,期望這一為期一年的暫停,可以使國(guó)會(huì)有足夠的時(shí)間出臺(tái)適當(dāng)?shù)囊?guī)則,,并且我們隨時(shí)準(zhǔn)備根據(jù)要求提供幫助,。“
但到目前為止,,還沒(méi)有聯(lián)邦立法解決警方與人臉識(shí)別技術(shù)的矛盾,,但是許多州或地方政府已經(jīng)通過(guò)了相關(guān)規(guī)定,,決定減少這一技術(shù)的使用。
2019年5月,,舊金山成為美國(guó)第一個(gè)禁止政府使用人臉識(shí)別的城市,,奧克蘭緊隨其后;俄勒岡州和緬因州波特蘭的城市也通過(guò)立法,。
去年12月,,馬薩諸塞州有過(guò)一項(xiàng)類(lèi)似的禁令草案,但當(dāng)時(shí)并未獲得通過(guò),,不過(guò)最近通過(guò)了一項(xiàng)修改后的法案,,對(duì)警方使用人臉識(shí)別一事增加了一些限制。
去年7月,,紐約州立法機(jī)構(gòu)剛剛通過(guò)了一項(xiàng)法令,,禁止在學(xué)校中使用人臉識(shí)別和其他生物特征識(shí)別技術(shù),直至 2022 年,。
另外,就在上個(gè)月,,歐盟也發(fā)布了一項(xiàng)監(jiān)管人工智能使用的提案:《關(guān)于”歐洲議會(huì)和理事會(huì)條例:制定人工智能的統(tǒng)一規(guī)則(人工智能法案)并修訂某些聯(lián)盟立法“的提案》,。
該提案規(guī)定了企業(yè)和政府應(yīng)如何使用人工智能技術(shù),長(zhǎng)達(dá)108頁(yè),,對(duì)人工智能在一系列活動(dòng)中的使用都進(jìn)行了限制,,其中就包括限制警方在公共場(chǎng)合使用人臉識(shí)別軟件。
這些領(lǐng)域因其可能對(duì)人們的安全或基本權(quán)利造成威脅,,而被歐盟視為”高風(fēng)險(xiǎn)“領(lǐng)域,。不過(guò),出于國(guó)家安全和其他目的的應(yīng)用,,可能會(huì)有一些豁免權(quán),。根據(jù)該提案要求,歐盟將有可能對(duì)違規(guī)最嚴(yán)重的公司處以相當(dāng)于其全球年銷(xiāo)售額6%的罰款,。