過(guò)去只有三種方法可以脫離腎移植等待名單,。第一是從自己的朋友和家人中找到一個(gè)健康的人,，完美匹配接受者的血液和組織類(lèi)型,，并且擁有他或她愿意放棄的備用腎。
本文引用地址: http://www.21ic.com/news/med/201809/823594.htm
第二是等待一個(gè)陌生人意外死亡,，這個(gè)陌生人是一個(gè)合適的身體匹配,，碰巧在他們的駕照上勾選了器官捐獻(xiàn)。
第三是死亡,。
但是后來(lái)醫(yī)生們想到：擁有足夠多的腎臟病人和足夠多健康自愿的捐贈(zèng)者,，他們可以形成一個(gè)足夠大的捐獻(xiàn)池來(lái)促進(jìn)比過(guò)去一對(duì)一系統(tǒng)更多的匹配。只要病人能找到捐贈(zèng)者——任何捐贈(zèng)者,，即使是不匹配病人本身——他們也可以得到一個(gè)匹配的腎臟,。
起初，這要求醫(yī)生花幾個(gè)小時(shí)仔細(xì)研究病人和潛在捐贈(zèng)者列表中的血型和組織變化細(xì)節(jié),。然后,，計(jì)算機(jī)科學(xué)家和經(jīng)濟(jì)學(xué)家參與了進(jìn)來(lái)。他們構(gòu)建的算法比人腦更優(yōu)雅地執(zhí)行這些復(fù)雜的匹配?，F(xiàn)在,，多虧了人工智能，一個(gè)人勇敢邁出一步,，將腎臟捐贈(zèng)給所愛(ài)之人——或者一個(gè)完全陌生的人——可以開(kāi)啟一條拯救數(shù)十條生命的鏈條,。
配對(duì)腎臟捐獻(xiàn)是人工智能的偉大成功案例之一。這并不能消除工作,，也不能抹去醫(yī)療保健中的人情味,。它應(yīng)對(duì)一個(gè)非常復(fù)雜的問(wèn)題，解決起來(lái)比人類(lèi)更快,，錯(cuò)誤也更少,，結(jié)果拯救了更多的生命。自從2000年第一對(duì)腎臟交換手術(shù)開(kāi)始以來(lái),，近6000人接受了通過(guò)算法識(shí)別的配對(duì)交換的腎臟移植,。今天，大約八分之一從活體捐獻(xiàn)者那里接受腎臟的移植接受者,，通過(guò)配對(duì)交換與該人配對(duì),。
與此同時(shí)，配對(duì)腎臟交換也是人工智能局限性的一個(gè)完美例子,。計(jì)算機(jī)只能做人類(lèi)能教它的事情,，而我們無(wú)法教我們不懂的東西。自從醫(yī)學(xué)學(xué)會(huì)如何用捐贈(zèng)腎臟替代衰竭腎臟以來(lái)的幾十年里,，我們?nèi)栽谂鉀Q如何分配珍貴的少量腎臟的問(wèn)題,，這種分配方式讓每個(gè)人都感到公平和滿意，并且不會(huì)導(dǎo)致不希望的,、意想不到的后果,。人工智能可以識(shí)別出在生物學(xué)上彼此適合的潛在捐贈(zèng)者和接受者;將來(lái)，它甚至可以權(quán)衡決定誰(shuí)先接受移植的道德因素。但是首先,，我們?nèi)祟?lèi)必須就這些應(yīng)該是什么達(dá)成一致,。
腎臟充當(dāng)身體的過(guò)濾器。對(duì)于腎功能衰竭的人來(lái)說(shuō),，透析基本上是從外部復(fù)制器官的功能,，將病人未經(jīng)過(guò)濾的血液排出幾個(gè)小時(shí)，然后再泵回體內(nèi),。20世紀(jì)中葉透析的發(fā)明使一種曾經(jīng)是死刑的疾病變成了一種慢性但可控制的疾病,。
第一個(gè)門(mén)診透析中心——西雅圖人工腎中心，于1962年1月開(kāi)業(yè),。由于每個(gè)病人每周都需要在機(jī)器上進(jìn)行兩次12小時(shí)的治療,，所以該中心在頭兩年，只能接受大約2000名當(dāng)時(shí)有資格接受透析治療的美國(guó)晚期腎病患者中的10名,。
為了將利潤(rùn)掌握在自己的手中,，該中心組織了一個(gè)由七名公民組成的獨(dú)立委員會(huì)。第一個(gè)接受和政策委員會(huì)——或后來(lái)被媒體稱(chēng)之為“上帝委員會(huì)”——由一名律師,、牧師,、銀行家、家庭主婦,、州政府官員,、勞工領(lǐng)袖和外科醫(yī)生組成。醫(yī)生為他們做了一些決定：45歲以上的病人沒(méi)有資格,，兒童也沒(méi)有資格,，因?yàn)獒t(yī)生擔(dān)心這個(gè)手術(shù)可能會(huì)給他們帶來(lái)精神創(chuàng)傷,。除此之外,，委員會(huì)可以自行選擇大約四分之一符合條件的申請(qǐng)患者。
根據(jù)1962年《Life》雜志的一篇文章,，該匿名委員會(huì)成員會(huì)考慮申請(qǐng)人的年齡和性別,，以及是否已婚還是有孩子。他們會(huì)考慮申請(qǐng)者的情緒穩(wěn)定,。他們會(huì)看申請(qǐng)者賺了多少錢(qián),，以及他們存了多少錢(qián);他們的教育水平、工作,、過(guò)去的行為和未來(lái)潛力,。他們決定，既然開(kāi)發(fā)這項(xiàng)技術(shù)的研究是在華盛頓州資助的機(jī)構(gòu)進(jìn)行的,，那么只有華盛頓居民會(huì)被考慮,，因?yàn)橹Ц吨委熧M(fèi)用的是該州的稅收。
這篇文章稱(chēng)委員會(huì)成員作為“思想高尚、善良的公民”面臨著幾乎不可能完成的任務(wù),。他們也是人類(lèi),，而作為人類(lèi)，總會(huì)受到有意識(shí)和無(wú)意識(shí)偏見(jiàn)的影響,。他們是根據(jù)醫(yī)生寫(xiě)的病歷做出決定的,，而醫(yī)生會(huì)有意識(shí)和無(wú)意識(shí)的偏見(jiàn)。
該委員會(huì)的七名成員是美國(guó)太平洋西北地區(qū)中上層階級(jí)的一部分,，他們的討論(至少是那些公開(kāi)發(fā)表的)暗示了對(duì)那些似乎分享他們的地位和價(jià)值觀的病人的好感,。《Life》雜志中從來(lái)沒(méi)有提到種族,，但是很難想象,，在一個(gè)仍然嚴(yán)重隔離的社會(huì)里(僅舉一個(gè)例子，當(dāng)時(shí)98%的華盛頓州員工是白人),，有色人種并不在這些代表的考慮之中,。
他們的討論預(yù)示了一個(gè)問(wèn)題，在原始的腎臟治療機(jī)被更先進(jìn)的技術(shù)超越之前,，這個(gè)問(wèn)題將會(huì)持續(xù)很久,。即使一群人一致承諾盡可能做最好的事情，但對(duì)于大多數(shù)人來(lái)說(shuō),，到底什么才算是最好的東西?
當(dāng)上帝委員會(huì)發(fā)布痛苦的決定時(shí),，其他地方也在進(jìn)行治療腎病患者的類(lèi)似工作。
醫(yī)生于1954年在波士頓的Birgham and Women's Hospital進(jìn)行了第一次成功的腎移植手術(shù),，通過(guò)外科手術(shù)從一名23歲的男子身上取出一個(gè)器官,，移植到了他的雙胞胎兄弟身上，這位接受者又存活了八年,。
到了20世紀(jì)60年代初,，血液和組織分型的發(fā)展使得醫(yī)生更容易識(shí)別捐贈(zèng)者和接受者之間的成功匹配，免疫抑制劑藥物的改進(jìn)大大降低了移植排斥率,。今天,，一個(gè)已故捐贈(zèng)者的腎臟在接受者體內(nèi)會(huì)持續(xù)工作8到12年，而來(lái)自活體捐獻(xiàn)者的腎臟平均壽命為12到20年,。
1972年,，美國(guó)總統(tǒng)理查德·尼克松簽署了立法，擴(kuò)大醫(yī)療保險(xiǎn)范圍,，將所有腎衰竭患者的透析包括在內(nèi),。透析并沒(méi)有治愈他們，但是它讓更多的人在等待和希望腎移植的時(shí)候存活了更長(zhǎng)時(shí)間,。從那以后,，美國(guó)需要腎臟移植的人數(shù)增長(zhǎng)速度遠(yuǎn)遠(yuǎn)快于可用的供腎數(shù)量,。
根據(jù)器官共享聯(lián)合網(wǎng)絡(luò)的信息，截至撰寫(xiě)本文時(shí),，美國(guó)有114554人在等待器官移植,。其中94980人——83%——正在等待腎臟移植。
1968年的《統(tǒng)一解剖捐贈(zèng)法》在美國(guó)建立了一個(gè)標(biāo)準(zhǔn)程序,，通過(guò)這個(gè)程序,，人們或他們的近親可以授權(quán)死后捐贈(zèng)他們的器官。但是,，即使美國(guó)每個(gè)人都是注冊(cè)器官捐獻(xiàn)者(目前的比例是54%),，也沒(méi)有足夠的腎臟來(lái)滿足需求。只有不到2%的人的死亡方式能夠使他們成為合適的器官捐獻(xiàn)者,。一個(gè)人死后器官仍然可以移植,，氧合血液必須持續(xù)泵送通過(guò)它們，直到依靠外科手術(shù)從體內(nèi)取出,。在采摘手術(shù)前,，已故捐贈(zèng)者通常被宣布腦死亡，并被連接在呼吸機(jī)上,。
幸運(yùn)的是,，由于大多數(shù)人生來(lái)就有兩個(gè)功能正常的腎臟，且只需要一個(gè)就能存活下來(lái),，所以活著的人可以捐獻(xiàn)腎臟,。由于活體捐獻(xiàn)者的腎臟壽命往往比已故的更長(zhǎng)，所以對(duì)于需要移植的人來(lái)說(shuō),，找到活體捐贈(zèng)者通常是理想的結(jié)果,。
雖然所有手術(shù)都有并發(fā)癥或死亡的風(fēng)險(xiǎn)，但絕大多數(shù)腎臟捐獻(xiàn)者在腹腔鏡手術(shù)后僅僅需要在醫(yī)院呆兩三天,，隨后是另外四到六周的恢復(fù)時(shí)間,。剩下的腎臟會(huì)發(fā)育以補(bǔ)償捐獻(xiàn)的腎臟，捐贈(zèng)者通常會(huì)繼續(xù)過(guò)著正常的生活,。
當(dāng)然,，向你的兄弟姐妹申請(qǐng)器官不是一件小事,。但是找到一個(gè)愿意捐贈(zèng)的人通常是這個(gè)過(guò)程中最簡(jiǎn)單的部分,，因?yàn)樵S多病人和他們的家人都會(huì)發(fā)現(xiàn)無(wú)法匹配器官。
佛羅里達(dá)商人Neil Emmott在2001年被診斷患有多囊腎疾病,，一種可能導(dǎo)致腎衰竭的遺傳疾病,。他的妻子Lisa Emmott說(shuō)，這個(gè)消息是“意想不到的和毀滅性的”,。在被診斷出時(shí),，Neil38歲，Lisa27歲，這對(duì)夫婦結(jié)婚還不到一年,。到2016年,，他們有了兩個(gè)年幼的女兒，Neil的病情惡化到了約翰霍普金斯大學(xué)的醫(yī)生建議他考慮移植選擇的地步,。
Lisa自愿立即捐贈(zèng),。她很健康，和他擁有相同的血型,，所以她認(rèn)為自己是一個(gè)可行的候選人,。但是器官捐獻(xiàn)不僅僅需要血液和組織匹配。對(duì)捐贈(zèng)者需要進(jìn)行徹底的篩選,，心理或社會(huì)經(jīng)濟(jì)問(wèn)題可能會(huì)使他們的捐贈(zèng)復(fù)雜化,。Lisa得知，她的腎動(dòng)脈形狀的一個(gè)良性異?！I動(dòng)脈是運(yùn)送血液進(jìn)出腎臟的靜脈——使她喪失了資格,。Neil的弟弟作為替補(bǔ)出場(chǎng)，但由于一些小的醫(yī)療問(wèn)題也被排除在外,。這家人感到很傷心,。
“需要器官是一個(gè)可怕的事情，”Emmott說(shuō),。這時(shí),，這個(gè)家庭決定尋求市場(chǎng)。
人體器官“市場(chǎng)”的想法令人毛骨悚然,。它們不是商品：美國(guó)法律明確禁止出售人體器官,。但是從經(jīng)濟(jì)角度來(lái)看，市場(chǎng)就是任何想要東西的人找到可以給他們東西的人的地方,。這個(gè)不僅僅依靠?jī)r(jià)格來(lái)分配資源的市場(chǎng)被稱(chēng)為匹配市場(chǎng),。約會(huì)池是匹配市場(chǎng)的一種類(lèi)型(假設(shè)沒(méi)有錢(qián)被用來(lái)交換友誼);想要腎臟的人和愿意捐獻(xiàn)腎臟的人也是如此。
當(dāng)市場(chǎng)很“厚”或有很多參與者時(shí),，市場(chǎng)工作得最好,。在腎移植的最初幾十年里，生病的人和他們的潛在捐獻(xiàn)者被限制在他們自己非常薄弱的市場(chǎng)中,。失敗的匹配往往被證明是對(duì)重病患者的死刑判決,。
但是如果市場(chǎng)可以變得更厚呢?
這個(gè)想法最初是在1986年德裔美國(guó)外科醫(yī)生Felix Rapaport的一篇論文中提出，他提出了一個(gè)理論,，即可以跨越兩個(gè)自愿的供受體對(duì)移植腎臟：患者A從供體B接受腎臟,，作為交換，供體A給患者B一個(gè)腎臟,。
1991年,，韓國(guó)首爾的醫(yī)生們?cè)谀I病專(zhuān)家Kiil Park的指導(dǎo)下,，在兩個(gè)供體-患者對(duì)之間進(jìn)行了第一對(duì)腎臟移植。四年后,，世界上第一個(gè)配對(duì)腎臟捐贈(zèng)項(xiàng)目在首爾延世大學(xué)醫(yī)學(xué)院開(kāi)啟,。潛在的捐贈(zèng)者和接受者被輸入數(shù)據(jù)庫(kù)，然后由醫(yī)生通過(guò)數(shù)小時(shí)的艱苦分析手動(dòng)配對(duì),。1999年,，瑞士成為下一個(gè)建立配對(duì)腎臟交換的國(guó)家，匹配了兩對(duì)已婚夫婦,，每對(duì)夫婦都有一個(gè)患有終末期腎病的配偶和一個(gè)愿意捐獻(xiàn)腎臟的配偶,。
2000年的一個(gè)晚上，在厭倦了向病人和他們的親人傳遞令人心碎的消息之后,，一位名叫Michael Rees的美國(guó)腎臟學(xué)家拖著幾箱文件回家,，花了幾個(gè)小時(shí)仔細(xì)檢查血液、抗體和組織數(shù)據(jù),，并比較患者列表,。這項(xiàng)工作在精神上很累人。最終,，他意識(shí)到自己沒(méi)有可行的匹配——但是,，如果捐獻(xiàn)池更大，可以做成配對(duì),。與他的父親Alan Rees一起合作(Alan是一名計(jì)算機(jī)科學(xué)家),，Michael Rees創(chuàng)建了一個(gè)簡(jiǎn)單的計(jì)算機(jī)程序，將捐贈(zèng)者和接受者配對(duì),，將人工智能引入匹配過(guò)程,。
大約在同一時(shí)間，哈佛大學(xué)經(jīng)濟(jì)學(xué)教授Alvin Roth,，也在修補(bǔ)腎臟匹配的解決方案,。Roth專(zhuān)注于市場(chǎng)設(shè)計(jì)，專(zhuān)注于如何調(diào)整市場(chǎng)以修復(fù)供需失衡,。他以前設(shè)計(jì)過(guò)算法來(lái)匹配新醫(yī)生和住院醫(yī)師項(xiàng)目,，以及紐約市小學(xué)學(xué)生和高中學(xué)校?，F(xiàn)在他把注意力轉(zhuǎn)向腎臟,。
Roth和他的同事Utku Unver、Tayfun Sonmez設(shè)計(jì)了一種算法,，用于審查和分析潛在捐贈(zèng)者和接受者的數(shù)據(jù)資料,。它確定了捐助者-接受者配對(duì)的“循環(huán)”和“鏈”，其中一個(gè)人選擇無(wú)私地將腎臟捐獻(xiàn)給任何需要腎臟的人,，從而在醫(yī)院或腎臟交換項(xiàng)目登記的潛在捐獻(xiàn)者和接受者中啟動(dòng)了一系列捐獻(xiàn),。例如：患者B從利他捐贈(zèng)者A那里得到一個(gè)腎臟，之后,，捐贈(zèng)者B感激地將腎臟捐贈(zèng)給病人C,。如果病人C有一個(gè)愿意捐贈(zèng)的人，那么這條鏈可以繼續(xù)延長(zhǎng),，且沒(méi)有真正的限制,。不同于循環(huán)，鏈可以無(wú)限期地向前移動(dòng),，而不必回去,，通過(guò)為原始捐贈(zèng)者的伙伴接受者找到腎臟來(lái)結(jié)束這個(gè)循環(huán)。
AI正在改變美國(guó)器官捐贈(zèng)
Roth,、Unver和Sonmez覺(jué)得他們?cè)谧鲆患笫隆?003年,，他們?cè)诰W(wǎng)上發(fā)布了一篇概述他們工作的論文，并發(fā)給了美國(guó)各地的腎臟學(xué)家,。根據(jù)哈佛外科醫(yī)生Frank Delmonico的反饋,，該團(tuán)隊(duì)調(diào)整了他們的算法，并發(fā)表了一篇新論文,，其概念幫助建立了新英格蘭腎臟交換項(xiàng)目,。該交換項(xiàng)目匹配了該地區(qū)14個(gè)腎移植中心的捐贈(zèng)者和接受者。
起初,，外科醫(yī)生堅(jiān)持在給定的循環(huán)或鏈中同時(shí)進(jìn)行所有手術(shù),，這樣任何捐贈(zèng)者都不會(huì)在最后一刻退縮。這限制了循環(huán)或鏈中的患者數(shù)量,，因?yàn)獒t(yī)院一次只能騰出這么多床位和這么多外科醫(yī)生,。經(jīng)濟(jì)學(xué)家和其他幾位醫(yī)生認(rèn)為，這是不必要的限制,。這不存在生物障礙：與心臟或肺不同,，心臟或肺必須在離開(kāi)捐獻(xiàn)者身體后4到6小時(shí)內(nèi)移植，而在找到新宿主之前,，腎臟可以安全保存24到36小時(shí),。至于捐助鏈中薄弱環(huán)節(jié)的可能性，經(jīng)濟(jì)學(xué)家認(rèn)為,，在一個(gè)以愿意將腎臟給任何人的捐贈(zèng)者開(kāi)始的鏈中,，如果捐贈(zèng)者退縮了，任何接受者都不會(huì)束手無(wú)策,，因?yàn)獒t(yī)生可以從注冊(cè)捐贈(zèng)者庫(kù)中找到替代品,。
建立第一個(gè)匹配算法的腎臟學(xué)家Rees，證明這是可以做到的,。在一名28歲的捐贈(zèng)者向一個(gè)需要幫助的陌生人提供了一個(gè)腎臟后,，Rees組織了一系列腎臟捐贈(zèng),，在八個(gè)月的時(shí)間里拯救了五個(gè)州10名患者的生命。
今天,，美國(guó)多家醫(yī)院都有自己的配對(duì)腎臟捐贈(zèng)項(xiàng)目,。此外還有三個(gè)更大的美國(guó)跨院腎臟交換項(xiàng)目：器官共享聯(lián)合網(wǎng)絡(luò)、國(guó)家腎臟登記處和配對(duì)腎臟捐贈(zèng)聯(lián)盟,。英國(guó),、加拿大和荷蘭設(shè)有國(guó)家交換項(xiàng)目，從印度到南非的醫(yī)院都有配對(duì)捐贈(zèng)發(fā)生,。研究人員還推斷,，肺和部分肝移植也可能進(jìn)行類(lèi)似的交換，盡管還沒(méi)有這種互換的系統(tǒng),。
2012年,，Roth因其在市場(chǎng)設(shè)計(jì)方面的工作獲得諾貝爾獎(jiǎng)。他帶Rees一起去參加了儀式,。到那時(shí),，美國(guó)有2000人接受了移植，這是他們幫助創(chuàng)建的系統(tǒng)結(jié)果,。此后又有成千上萬(wàn)的人得到了幫助,。
Neil Emmott最終成為2017年腎鏈中的八個(gè)人之一，該腎鏈?zhǔn)加趦晌患胰伺笥亚皝?lái)為他捐贈(zèng),。2018年8月13日,，阿拉巴馬州的一名婦女成為從2013年開(kāi)始在全國(guó)范圍捐贈(zèng)鏈中接受腎臟移植的第100人。
今天,，當(dāng)醫(yī)生正在尋找匹配腎臟捐贈(zèng)者和接受者時(shí),，人工智能研究人員構(gòu)建的算法搜索注冊(cè)腎臟病人及其合作捐贈(zèng)者的數(shù)據(jù)庫(kù)，并根據(jù)器官采購(gòu)和移植網(wǎng)絡(luò)委員會(huì)和器官共享聯(lián)合網(wǎng)絡(luò)制定的加權(quán)標(biāo)準(zhǔn)列表來(lái)識(shí)別匹配,。
這些算法同時(shí)評(píng)估所有可能在患者-供體庫(kù)中進(jìn)行的移植,。匹配主要基于生物適應(yīng)性，最難匹配的病人得到了優(yōu)先考慮,。這項(xiàng)技術(shù)衡量標(biāo)準(zhǔn)包括接受者在等待名單上的時(shí)間,，他或她的年齡(兒童優(yōu)先)，以及需要腎臟的人過(guò)去是否曾經(jīng)是活體器官捐獻(xiàn)者,。
這些算法幫助了成千上萬(wàn)拯救生命的手術(shù),。將來(lái)，人工智能不僅可以使用人類(lèi)決定的標(biāo)準(zhǔn)進(jìn)行匹配,，還可以積極參與這個(gè)判斷過(guò)程——理解人類(lèi)的決策和價(jià)值體系,，這樣它就可以做出自己的判斷，決定哪些腎臟應(yīng)該去哪里(這個(gè)決策將由人類(lèi)醫(yī)生審查)。在這一點(diǎn)上,，限制因素與其說(shuō)是技術(shù),，不如說(shuō)是使用技術(shù)的人。
第一個(gè)問(wèn)題是人類(lèi)對(duì)人工智能在器官分配中的作用的焦慮,。醫(yī)院和器官交換機(jī)構(gòu)甚至不愿意在匹配過(guò)程中使用“人工智能”一詞,。部分原因是研究人員稱(chēng)之為“人工智能效應(yīng)”的趨勢(shì),。正如牛津大學(xué)未來(lái)人類(lèi)研究所所長(zhǎng)Nick Bostrom所說(shuō),，“一旦某些東西變得足夠有用且足夠普遍，它就不再被貼上‘人工智能’的標(biāo)簽,?！?/p>
鑒于缺乏關(guān)于“人工智能”實(shí)際含義的公共教育，醫(yī)院和交換機(jī)構(gòu)對(duì)病人誤解算法在識(shí)別潛在匹配方面的作用持謹(jǐn)慎態(tài)度,，也許是害怕變戲法似的機(jī)器人冷冷地發(fā)布生死指令,。
目前，機(jī)器不能決定哪些腎臟去哪里,。人類(lèi)可以這樣做,。今天的算法比人類(lèi)更可靠，也更大規(guī)模地進(jìn)行數(shù)學(xué)運(yùn)算,，執(zhí)行人類(lèi)已經(jīng)做出的判斷,，但是它們并不了解為什么首先要進(jìn)行計(jì)算。
“AI沒(méi)有像我們一樣對(duì)世界有一個(gè)全面的了解,。它們不明白自己正在處理的數(shù)據(jù)是關(guān)于什么的,，”杜克大學(xué)計(jì)算機(jī)科學(xué)、倫理學(xué)和哲學(xué)教授Vincent Conitzer表示,?！八鼈儧](méi)有這個(gè)人正在受苦的概念。它們并不真正了解一個(gè)人是什么,。人類(lèi)必須在某個(gè)時(shí)候介入進(jìn)來(lái),。”
研究人員現(xiàn)在正在教機(jī)器從人類(lèi)的角度來(lái)理解這些道德困境,。今年,，Conitzer和杜克大學(xué)的同事Jana Schaich Borg、Walter Sinnott-Armstrong,、Rachel Freedman以及馬里蘭大學(xué)的John Dickerson,，一起發(fā)表了一篇論文，其中他們向研究對(duì)象展示了數(shù)百對(duì)假設(shè)的患者概況,，并詢(xún)問(wèn)每對(duì)中哪一個(gè)應(yīng)該得到一個(gè)可用的腎臟,。這些假設(shè)的患者檔案并沒(méi)有列出算法處理的血液和組織數(shù)據(jù)，而是列出了一些事情,，比如患者飲酒的頻率,，以及他們過(guò)去是否患過(guò)癌癥,。研究人員隨后將受試者的選擇反饋給一種算法，并學(xué)習(xí)如何根據(jù)這些模式選擇“正確的”腎臟接受者,。就像人類(lèi)受試者一樣,，人工智能偏愛(ài)更年輕、更健康的病人——這是一個(gè)機(jī)器根據(jù)對(duì)人類(lèi)價(jià)值觀的了解做出決策的例子,。
雖然可以教機(jī)器按照我們的價(jià)值體系進(jìn)行匹配,，但是我們并不總是明白自己的價(jià)值觀是什么，或者很難將其作為一個(gè)整體達(dá)成一致,。人們并不總是知道他們想要優(yōu)化什么,，即使當(dāng)他們認(rèn)為這樣做了，他們也常常不明白如何以不會(huì)導(dǎo)致意想不到的后果的方式去做,。
例如,，麻省理工學(xué)院的道德機(jī)器允許實(shí)驗(yàn)室網(wǎng)站的訪問(wèn)者玩他們必須選擇的游戲，在一個(gè)又一個(gè)假設(shè)的情況下,，無(wú)人駕駛汽車(chē)在面臨兩個(gè)可怕的選擇時(shí)應(yīng)該選擇殺死哪一組汽車(chē)乘客或行人,。在經(jīng)歷了一系列令人反胃的場(chǎng)景之后——是的，我寧愿汽車(chē)碾過(guò)一個(gè)孕婦,，而不是五個(gè)無(wú)家可歸的成年人;不,，如果這意味著殺死五名成年乘客，我不會(huì)為了躲避兩個(gè)孩子而突然轉(zhuǎn)向——這一游戲揭示了它在你的選擇中確定的模式,，以及你的反應(yīng)如何與其他玩家的反應(yīng)相比較,。
這些信息可以揭示出人意料的后果和令人不快的未被承認(rèn)的偏見(jiàn)。例如,，你可能會(huì)了解到,，你的決定不成比例地導(dǎo)致了比女性更多的男性死亡，或者你傾向于比游戲中的一般玩家更看重遵守交通規(guī)則,。
在腎臟問(wèn)題上,，就是采取表面上公平的原則，即腎臟應(yīng)該給予那些在接受腎臟后可能會(huì)有最多壽命的人,。在計(jì)算機(jī)能夠計(jì)算潛在接受者的壽命之前,，科學(xué)家必須為算法提供各種人群的預(yù)期壽命數(shù)據(jù)。但是這導(dǎo)致了一些問(wèn)題,。男人往往比女人早死,。美國(guó)黑人比任何其他種族的美國(guó)人死得更早。2015年,，一位65歲的美國(guó)白人婦女可能會(huì)再活20.5歲,，比同齡的黑人長(zhǎng)4年。雖然是從良好的意圖開(kāi)始，但最終卻導(dǎo)致了系統(tǒng)的種族和性別歧視,。
“在經(jīng)濟(jì)學(xué)中,，我們談?wù)摬豢赡苄远ɡ怼Ｓ行〇|西你可能想得到卻無(wú)法得到,，”Roth說(shuō),。“當(dāng)你分配稀缺資源時(shí),，你不能把腎給一個(gè)人而不把它給另一個(gè)人,。計(jì)算機(jī)不會(huì)從各個(gè)方面減輕人類(lèi)的負(fù)擔(dān)?！?/p>
人工智能沒(méi)有造成這些道德困境,。人類(lèi)委員會(huì)為分配腎臟的最公平方式而不斷苦惱;人類(lèi)司機(jī)仍然不得不在方向盤(pán)后面做出可怕的緊急決定,。機(jī)器可以在幾小時(shí)甚至幾分鐘內(nèi)模擬出人類(lèi)判斷的結(jié)果,，這些結(jié)果原本可能需要數(shù)年才能發(fā)現(xiàn)。從長(zhǎng)遠(yuǎn)來(lái)看,，這可能會(huì)有所幫助：如果一個(gè)計(jì)算機(jī)模型能夠證明特定的腎臟分配政策會(huì)對(duì)某些群體造成不相稱(chēng)的不利影響,，那么醫(yī)生可以在任何人實(shí)際受到傷害之前取消這項(xiàng)計(jì)劃。但并不是每個(gè)人都樂(lè)于讓機(jī)器參與生死抉擇,。
道德機(jī)器教給玩家一些西雅圖上帝委員會(huì)很久以前學(xué)到的東西：必須選擇拯救哪一條生命,，知道這個(gè)決定會(huì)導(dǎo)致別人的死亡或痛苦，感覺(jué)很可怕,。這部分是人工智能所無(wú)法幫助的,。人們可以找到組裝椅子的理想方法，然后將這個(gè)過(guò)程傳授給一臺(tái)能夠完美組裝成千上萬(wàn)把椅子的機(jī)器,。但卻沒(méi)有完美的方法來(lái)決定誰(shuí)生誰(shuí)死,。