你的臉會告訴別人什么信息呢?人臉識別技術(shù)可以識別出你的年齡,、性別以及情緒?,F(xiàn)在,,有兩名科學(xué)家稱你的臉甚至還可以告訴人們你有沒有犯罪,。他們聲稱已經(jīng)開發(fā)出一種系統(tǒng),這種系統(tǒng)可以從幾千張從未見過的人臉中識別出誰是罪犯,。
但另一些研究人員對該系統(tǒng)的功能進行了批判,,他們認為這可能會使人臉識別技術(shù)在應(yīng)用過程中產(chǎn)生道德問題。
研究的參與者,來自加拿大哈密爾頓麥克馬斯特大學(xué)的Xiaolin Wu說道,,這個問題過于主觀了,,他和他的同事,來自中國上海交通大學(xué)的Xi Zhang已經(jīng)準備開始反駁那些反對者的觀點,。Wu說:“我們對這個結(jié)果感到很吃驚,。”
研究人員充分開發(fā)機器的學(xué)習(xí)能力,,要求面部識別軟件判斷身份信息系統(tǒng)中的照片的主人是否是罪犯,,最后得到一個正確的反饋。機器在這個過程中將學(xué)會如何分辨,,要求最終結(jié)果的準確率到達90%,。
然而其他的面部識別專家對他們的開發(fā)方法提出了質(zhì)疑。其中有一個問題:罪犯的圖像來自于中國身份證照片的數(shù)據(jù)庫,,而無犯罪人員的照片則來自于中國公民在網(wǎng)絡(luò)上發(fā)布的照片,,這就意味著這套系統(tǒng)識別的是照片的不同來源而不是人臉。
Wu和Zhang試圖將照片標(biāo)準化,,例如調(diào)整它們的大小和亮度,。但來自麻省理工學(xué)院的Jonathan Frankle認為這還不夠,他說:“圖片來源不同是這套系統(tǒng)的根本缺陷,?!?/p>
來自谷歌的研究人員Francois Chollet稱,,這個問題不足以引起爭議,,但整個程序需要好好的開發(fā)。他說:“這不是道德問題影響技術(shù)的辯題,?!?/p>
來自英國法爾茅斯大學(xué)的Mike Cook說,這種研究似乎讓機器學(xué)習(xí)變成“21世紀骨相學(xué)”——通過人的頭骨推斷出一個人的特征,??此乒挠嬎銠C程序給出了不準確或者有爭議的結(jié)果。
相同的偏差
事實上,,這些系統(tǒng)都不客觀,,往往和人類一樣帶有偏見。Cook說:“它們是用我們相信的結(jié)果而制造出來的工具,?!?/p>
這并不是說電腦無法準確完成人臉識別,它們有時完成的比人類還出色,。人臉識別軟件已經(jīng)可以輕松的識別出人鼻子的形狀并且判斷出他是否在笑,。來自紐約羅切斯特大學(xué)的研究人員稱,他們已經(jīng)開發(fā)出一種算法能夠識別出中國人臉、韓國人臉和日本人臉,,準確率達到75%,。
聽起來似乎挺科學(xué),但應(yīng)用在實際情況中時常常會出現(xiàn)道德問題,。識別出人的種族,,這雖然可以有其他更好的用處,但可能被用來進行人種歧視,。
去年微軟開發(fā)了一款軟件,,通過照片來判斷人的年齡。他們本來的目的是想開發(fā)出一款有趣的應(yīng)用,,但之后一些英國報紙試圖用這款軟件將本該給予兒童的優(yōu)惠給了成年人,,這迫使微軟不得不做出解釋:這款軟件無法對年齡做出準確的評估。
在遇到比鼻子形狀和年齡更加復(fù)雜和抽象的問題時,,了解技術(shù)的極限便成了十分重要的事,。來自普林斯頓大學(xué)的Alexander Todorov說,你無法從一個人的照片中了解他的個性和行為習(xí)慣,,但卻超級容易看出一個人因為缺乏睡眠蒼白的臉色和下垂的眼袋,,他說這可以用來防止人們在從事一些需要注意力高度集中的任務(wù)例如操作危險的機器,但用它來推測人的外貌和個性,,這是錯誤的,。
研究人員常常無法控制他們的研究成果如何被人們使用。像Wu和Zhang一樣將自己的成果公開后這就意味著任何人都可以檢測它的正確性,。Frankle說:“讓我感到更可怕的事情是,,如果一家私人公司開發(fā)出了這樣一套系統(tǒng),并將它賣給了警察局,,那么誰也不知道將會發(fā)生什么,。”
今年早些時候,,F(xiàn)rankle和他的同事發(fā)現(xiàn),,美國警察部門使用的面部識別軟件的準確率還算高。但隨著隨著該技術(shù)的使用范圍更加廣泛,,權(quán)衡其是否符合道德規(guī)范就更加緊迫了,。
Chollet說,計算機科學(xué)在人們的生活在扮演著越來越重要的角色,,但卻沒有相應(yīng)的道德標(biāo)準來規(guī)范它,,這是我們必須要解決的事。