《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 人工智能 > 業(yè)界動(dòng)態(tài) > 人臉識(shí)別頻踩道德紅線,?

人臉識(shí)別頻踩道德紅線,?

2021-05-19
來(lái)源:是說(shuō)芯語(yǔ)
關(guān)鍵詞: 人臉識(shí)別 禁令

  據(jù)路透社報(bào)道,,亞馬遜已經(jīng)延長(zhǎng)了對(duì)自家人臉識(shí)別軟件用于執(zhí)法的禁令,,”直到另行通知“ ,。

  該禁令之前設(shè)定為期一年,,原定于六月到期,。亞馬遜沒(méi)有立即回應(yīng)為何延長(zhǎng)這一禁令,。

  早在 2018 年,,亞馬遜員工就曾力促亞馬遜縮減這一項(xiàng)目的規(guī)?!麄冋J(rèn)為,有記載的人臉識(shí)別種族偏見(jiàn),,可能加劇當(dāng)?shù)鼐綄?duì)少數(shù)族裔的暴力行為,。

  亞馬遜一直為該項(xiàng)目辯護(hù),直到去年6月,,當(dāng)時(shí)抗議活動(dòng)的壓力越來(lái)越大,,亞馬遜這才宣布,面向警方客戶(hù)的服務(wù)暫停一年,。

  Rekognition屬于AWS所提供的一項(xiàng)服務(wù),,其實(shí)許多亞馬遜在云計(jì)算領(lǐng)域的競(jìng)爭(zhēng)對(duì)手都具有類(lèi)似的技術(shù)。就在亞馬遜做出承諾的第二天,微軟也宣布了類(lèi)似聲明,,稱(chēng)將不會(huì)向當(dāng)?shù)鼐匠鍪燮涿娌孔R(shí)別服務(wù),。

  而IBM在同一周內(nèi)也表示,將停止開(kāi)發(fā)或研究面部識(shí)別技術(shù),;谷歌則表示不會(huì)向任何人提供面部識(shí)別技術(shù)的商用,。

  去年夏天,關(guān)于人臉識(shí)別技術(shù)的道德性問(wèn)題甚囂塵上,。麻省理工學(xué)院媒體實(shí)驗(yàn)室的研究員Joy Buolamwini和微軟研究院的Timnit Gebru,,都致力于揭示人臉識(shí)別技術(shù)在種族偏見(jiàn)方面的偏見(jiàn)。兩人做了不少基礎(chǔ)性工作,,其中有一篇共同撰寫(xiě)的論文被廣泛引用,。

  該論文指出,包括IBM和Microsoft在內(nèi)的主要科技公司,,他們的人臉識(shí)別系統(tǒng),,用于識(shí)別膚色較黑的人的錯(cuò)誤率,比識(shí)別膚色較白的人要高幾十個(gè)百分點(diǎn),。根據(jù)《紐約時(shí)報(bào)》的一份報(bào)告,,問(wèn)題部分在于用于訓(xùn)練系統(tǒng)的數(shù)據(jù)集,其中絕大多數(shù)可能是男性和白人,。

  在2019年的另一項(xiàng)研究中,,Buolamwini和另一位學(xué)者分析了Rekognition,發(fā)現(xiàn)亞馬遜的系統(tǒng)也存在重大問(wèn)題,,無(wú)法識(shí)別膚色較黑的人的性別,,以及誤以膚色較黑的婦女為男性。研究發(fā)現(xiàn),,該系統(tǒng)在分析膚色較淺的人的圖像時(shí)的錯(cuò)誤率幾乎為零,。

  在之前首次宣布禁用于執(zhí)法時(shí),亞馬遜曾表示,,希望國(guó)會(huì)利用這段服務(wù)暫停的時(shí)間,,來(lái)調(diào)整人臉識(shí)別技術(shù)的法律法規(guī)。

  當(dāng)時(shí)亞馬遜在聲明中曾表示,,”我們主張政府制定更嚴(yán)格的法規(guī)來(lái)管理人臉識(shí)別技術(shù)使用的道德問(wèn)題,,期望這一為期一年的暫停,可以使國(guó)會(huì)有足夠的時(shí)間出臺(tái)適當(dāng)?shù)囊?guī)則,,并且我們隨時(shí)準(zhǔn)備根據(jù)要求提供幫助,。“

  但到目前為止,,還沒(méi)有聯(lián)邦立法解決警方與人臉識(shí)別技術(shù)的矛盾,,但是許多州或地方政府已經(jīng)通過(guò)了相關(guān)規(guī)定,,決定減少這一技術(shù)的使用。

  2019年5月,,舊金山成為美國(guó)第一個(gè)禁止政府使用人臉識(shí)別的城市,,奧克蘭緊隨其后;俄勒岡州和緬因州波特蘭的城市也通過(guò)立法,。

  去年12月,,馬薩諸塞州有過(guò)一項(xiàng)類(lèi)似的禁令草案,但當(dāng)時(shí)并未獲得通過(guò),,不過(guò)最近通過(guò)了一項(xiàng)修改后的法案,,對(duì)警方使用人臉識(shí)別一事增加了一些限制。

  去年7月,,紐約州立法機(jī)構(gòu)剛剛通過(guò)了一項(xiàng)法令,,禁止在學(xué)校中使用人臉識(shí)別和其他生物特征識(shí)別技術(shù),直至 2022 年,。

  另外,就在上個(gè)月,,歐盟也發(fā)布了一項(xiàng)監(jiān)管人工智能使用的提案:《關(guān)于”歐洲議會(huì)和理事會(huì)條例:制定人工智能的統(tǒng)一規(guī)則(人工智能法案)并修訂某些聯(lián)盟立法“的提案》,。

  該提案規(guī)定了企業(yè)和政府應(yīng)如何使用人工智能技術(shù),長(zhǎng)達(dá)108頁(yè),,對(duì)人工智能在一系列活動(dòng)中的使用都進(jìn)行了限制,,其中就包括限制警方在公共場(chǎng)合使用人臉識(shí)別軟件。

  這些領(lǐng)域因其可能對(duì)人們的安全或基本權(quán)利造成威脅,,而被歐盟視為”高風(fēng)險(xiǎn)“領(lǐng)域,。不過(guò),出于國(guó)家安全和其他目的的應(yīng)用,,可能會(huì)有一些豁免權(quán),。根據(jù)該提案要求,歐盟將有可能對(duì)違規(guī)最嚴(yán)重的公司處以相當(dāng)于其全球年銷(xiāo)售額6%的罰款,。

 


微信圖片_20210517164139.jpg


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn),。轉(zhuǎn)載的所有的文章,、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有,。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者,。如涉及作品內(nèi)容、版權(quán)和其它問(wèn)題,,請(qǐng)及時(shí)通過(guò)電子郵件或電話通知我們,,以便迅速采取適當(dāng)措施,,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118,;郵箱:aet@chinaaet.com,。