大數(shù)據(jù)“殺熟”,，算法“歧視”,，平臺“畫像”……網(wǎng)絡(luò)互聯(lián)時(shí)代,，算法,，這個(gè)曾經(jīng)藏匿深處、遠(yuǎn)離大眾的互聯(lián)網(wǎng)專業(yè)詞匯,，如今越來越多地被提及,，越來越多地被關(guān)注。

算法以全新的挑戰(zhàn)形態(tài)對法律實(shí)踐產(chǎn)生沖擊,，如何回應(yīng)這些挑戰(zhàn),，如何用法律保護(hù)算法的計(jì)算正義，使其促進(jìn)共同善的同時(shí),，不對正義和公平造成沖擊,，本文作者認(rèn)為，傳統(tǒng)的回應(yīng)型規(guī)制視角并不可取,，而是應(yīng)該從計(jì)算正義角度重構(gòu)算法與法律的關(guān)系模式,。

人工智能帶來社會(huì)生活的智能化，隨著算法研發(fā)的發(fā)展和成熟,，生產(chǎn),、社會(huì)生活、商業(yè)經(jīng)營和公共決策等領(lǐng)域越來越多地利用算法來實(shí)現(xiàn)特定目標(biāo),。算法從幕后走到臺前,，成為法學(xué)研究的熱點(diǎn)。

01算法的廣泛應(yīng)用帶來諸多法律困境

算法技術(shù)的獨(dú)特性不僅體現(xiàn)在算法如何進(jìn)行計(jì)算和應(yīng)用,，而是對法律的價(jià)值世界造成沖擊,。算法所引發(fā)的不僅是技術(shù)不受約束或者行業(yè)難以監(jiān)管，而是在一個(gè)非?；A(chǔ)的層面上沖擊了法律這種制度形式：算法系統(tǒng)的黑箱問題,、算法運(yùn)行過程中的歧視、算法對偏見的數(shù)字化固化等等,。這些現(xiàn)象導(dǎo)致社會(huì)產(chǎn)生強(qiáng)烈擔(dān)憂,，更讓法律規(guī)制面臨棘手困境,。

社會(huì)生活的計(jì)算化和算法與法律的融合產(chǎn)生了三方面的難題，帶來了一定程度的社會(huì)危機(jī)和治理困境,。

第一類是監(jiān)管難題,。社會(huì)生活的計(jì)算化改變了傳統(tǒng)概念的內(nèi)涵和社會(huì)理解，算法對社會(huì)生活的“入侵”使得隱私,、自主,、平等等概念變得模糊不清。借助算法,，運(yùn)營商對個(gè)人數(shù)據(jù)的收集變得易如反掌,，通過算法監(jiān)測用戶的舉動(dòng)也成為技術(shù)常態(tài)；社交平臺收集用戶信息并進(jìn)行畫像,，定向推送廣告,；網(wǎng)絡(luò)服務(wù)提供者運(yùn)用數(shù)據(jù)進(jìn)行特定的數(shù)據(jù)分析或者實(shí)驗(yàn)。

第二類是價(jià)值難題,。從效用上看,，算法具有巨大的社會(huì)利益：在商業(yè)領(lǐng)域，算法可以快速精準(zhǔn)地判斷市場商業(yè)需求,；在公共領(lǐng)域,，算法也潛力無限。然而,，從價(jià)值角度來看,，算法引發(fā)一定程度的價(jià)值危機(jī)：一方面改變?nèi)说闹黧w性理解，賦予人的自由,、自主選擇和決策以新的內(nèi)涵,；另一方面在實(shí)踐中引發(fā)固化歧視、侵犯隱私的問題,，構(gòu)成對人之尊嚴(yán)的威脅,。

以算法黑箱問題為例，在商業(yè)領(lǐng)域,，消費(fèi)平臺會(huì)基于人們的購買記錄和消費(fèi)習(xí)慣而差別定價(jià),，這種操作的依據(jù)并不透明，消費(fèi)者也難以察覺,。算法黑箱的規(guī)制難點(diǎn)在于算法決策過程完全由機(jī)器根據(jù)特定函數(shù)進(jìn)行運(yùn)轉(zhuǎn),，人力無法干預(yù)，更無法解釋算法運(yùn)轉(zhuǎn)的內(nèi)在原理,。

然而,，人們需要對算法的價(jià)值難題保持清醒的認(rèn)識，算法本身是技術(shù)應(yīng)用程式,，其價(jià)值問題本質(zhì)上是算法設(shè)計(jì)者和使用者利用算法損害某些價(jià)值,。

第三類是歸責(zé)難題,。算法應(yīng)用必然伴隨著法律責(zé)任配置，以防范風(fēng)險(xiǎn)和實(shí)施救濟(jì),。隨著人工智能的廣泛應(yīng)用,，其侵權(quán)問題也成為理論難點(diǎn)。人工智能的風(fēng)險(xiǎn)之一是算法侵權(quán)的救濟(jì)途徑難以確定,。

一個(gè)典型的例子是自動(dòng)駕駛汽車致?lián)p的責(zé)任認(rèn)定問題,，汽車生產(chǎn)廠家、算法設(shè)計(jì)者和車主應(yīng)如何劃分責(zé)任,，是自動(dòng)駕駛汽車進(jìn)入市場前須解決的問題,。此外，算法歧視的救濟(jì)也是一個(gè)復(fù)雜問題,，特別是在公共決策中，如果一個(gè)人因?yàn)樾詣e或?qū)W歷而受到自動(dòng)化行政決策的不同待遇,，他能否向政府主張救濟(jì),？

算法以全新的挑戰(zhàn)形態(tài)對法律實(shí)踐產(chǎn)生沖擊。我們果真束手無策嗎,？當(dāng)前有大量的研究針對算法規(guī)制提出各種形式的建議,。但需要迫切回應(yīng)的基礎(chǔ)性問題是，算法和法律之間有什么關(guān)系,？算法所造成的法律挑戰(zhàn),，法律能夠有力地應(yīng)對嗎？從計(jì)算正義的角度切入這個(gè)問題,，可以挖掘出回應(yīng)這些難題的有效思路,。

02 算法的價(jià)值：共同善與計(jì)算正義

理解法律與算法之關(guān)系的關(guān)鍵在于從價(jià)值上厘清二者之間的關(guān)聯(lián)。

算法的內(nèi)涵有技術(shù)和社會(huì)兩重意義,。算法的技術(shù)意義并無太大爭議,，算法是一種計(jì)算方法，通過計(jì)算公式得出確定的結(jié)果,。算法的社會(huì)意義受制于科技發(fā)展水平和社會(huì)語境,，計(jì)算機(jī)的發(fā)明和網(wǎng)絡(luò)傳輸技術(shù)的提升使得大數(shù)據(jù)收集成為可能，在此基礎(chǔ)上,，算法通過對海量數(shù)據(jù)的深度學(xué)習(xí)可以實(shí)現(xiàn)自我更新和升級,，最后形成更為成熟的算法。

網(wǎng)絡(luò)服務(wù)主體開發(fā)利用特定算法（決策樹,、貝葉斯算法等）并服務(wù)于社會(huì)公眾,，比如信貸機(jī)構(gòu)、網(wǎng)約車,、社交和外賣平臺等,。除了商業(yè)外,，政府也可以發(fā)揮自動(dòng)決策的優(yōu)勢，運(yùn)用算法決定行政審批,，包括公共資源審核,、假釋評估等。

可以看出,，算法改變了社會(huì),，也創(chuàng)造了更多新的可能。但從價(jià)值角度來說,，算法的社會(huì)意義主要體現(xiàn)在算法能夠促進(jìn)共同善,，即對于社會(huì)共同體的每個(gè)個(gè)體都至關(guān)重要的那些善好，比如知識,、社會(huì)交往和實(shí)踐理性等等,。

社交媒體可以促進(jìn)社會(huì)交往和信息交流，大大便利人們對知識的追求,。算法的引入,，使得人們不僅能夠更好地實(shí)現(xiàn)這些善，也改變了實(shí)現(xiàn)善的方式,。比如傳統(tǒng)知識獲取方式是閱讀和教育,，現(xiàn)代的知識獲取方式十分多元，網(wǎng)絡(luò)閱讀,、視聽平臺,、社交媒體傳播等都是知識獲取的重要方式。

但算法并不能自動(dòng)實(shí)現(xiàn)這些基本善,，人們帶著改善社會(huì),、實(shí)現(xiàn)善的意圖將算法嵌入到各種應(yīng)用場景之中，算法不僅參與到善的實(shí)現(xiàn)過程中——人們借助算法技術(shù)能夠更便捷地檢索知識,，也能重塑知識這種價(jià)值,，知識不再是關(guān)于世界的判斷和信念，也成為以計(jì)算化的方式而存在的代碼和數(shù)據(jù),。

這個(gè)過程產(chǎn)生了正義問題,。

為什么要提出計(jì)算正義？

算法是技術(shù),，通常來說被用于實(shí)現(xiàn)某種目標(biāo),，比如設(shè)計(jì)一種視覺識別算法，用于人臉識別或者動(dòng)畫設(shè)計(jì),。算法技術(shù)與正義無關(guān),，但算法運(yùn)行在某一場景之中，并且對人的決策和行動(dòng)產(chǎn)生實(shí)際影響的時(shí)候,，算法技術(shù)就產(chǎn)生了正義問題,。

由于算法種類千差萬別,，應(yīng)用場景層出不窮，算法涉及到的具體善也非常多,。但整體上來說,，算法實(shí)踐最終都指向社會(huì)實(shí)踐的基本善，也引發(fā)實(shí)現(xiàn)這些善的正義問題,。

例如,，招聘算法能夠幫助雇主更為精確和高效地挑選合適雇員，促進(jìn)就業(yè),，但計(jì)算過程可能會(huì)包含潛在的歧視,。如果一個(gè)雇主對女性應(yīng)聘者說：“你是女性，我不能招聘你”,，顯然構(gòu)成歧視,，法律可以對這種性別歧視做出回應(yīng)。但如果招聘算法在數(shù)據(jù)處理過程中包含著偏見,，法律對這種計(jì)算化的偏見應(yīng)該如何回應(yīng),，卻是一個(gè)全新的問題。

法律有各種應(yīng)對歧視（比如種族歧視,、性別歧視等）的規(guī)范形式和責(zé)任原理,，但在算法歧視問題上卻左右為難,。由于算法所需要的數(shù)據(jù)本身并無完美,，所以算法歧視無法避免。但傳統(tǒng)意義上的反歧視法在應(yīng)對這種技術(shù)化和計(jì)算化的顯性或隱性歧視上卻束手無策,。

03 算法與法律的重構(gòu)模式

社會(huì)實(shí)踐是復(fù)雜的,，充滿了價(jià)值沖突和利益分歧，算法應(yīng)用在諸多方面加劇了這種復(fù)雜性,。算法實(shí)踐所引發(fā)的法律挑戰(zhàn)和價(jià)值擔(dān)憂,，使得對算法進(jìn)行規(guī)制成為必需。

在算法應(yīng)用出現(xiàn)問題和引發(fā)擔(dān)憂時(shí),，很多建議往往采取傳統(tǒng)的回應(yīng)型規(guī)制視角,，主張將算法納入法律監(jiān)管，通過法律對算法進(jìn)行規(guī)范,。然而,，規(guī)制所承載的回應(yīng)型法律姿態(tài)不足以應(yīng)對新興科技的發(fā)展步伐，因?yàn)閺膶?shí)踐來看,，科技對法律的影響意義反而比法律對科技的回應(yīng)和規(guī)制更為突出,。  

理解算法與法律之關(guān)系的一種理想模式是重構(gòu)模式，該模式強(qiáng)調(diào)的是法律在應(yīng)對技術(shù)挑戰(zhàn)時(shí),，應(yīng)當(dāng)對自身追求共同善的方式進(jìn)行重新梳理,。這種模式并不是要改變法律的屬性,，而是分析算法和法律的價(jià)值分別如何實(shí)現(xiàn)，二者之間如何契合,，以及出現(xiàn)沖突時(shí)應(yīng)該如何解決,。

例如，面對算法歧視時(shí),，正確的思路不是通過法律消除算法的歧視,，而是分析算法歧視與傳統(tǒng)歧視有何不同，根源上是否存在差異,，以及法律是否能夠展現(xiàn)出不同于傳統(tǒng)歧視防范方式的新方案,。在算法的法律應(yīng)對上，重構(gòu)模式可以發(fā)揮更為實(shí)質(zhì)的作用和理論指導(dǎo)意義,。

在價(jià)值上,，算法既沖擊了傳統(tǒng)價(jià)值實(shí)踐方式，也重塑了價(jià)值的呈現(xiàn)形態(tài),。算法的社會(huì)意義主要體現(xiàn)在決策上,，包括公共決策和私人決策。決策的主要意義在于為利益分配和社會(huì)合作提供方案,，引導(dǎo)人們追求共同善,。

算法追求的具體價(jià)值類型有很多，有一些價(jià)值是法律與算法共同追求的,，比如效率,，但兩者也存在著很多價(jià)值差異，比如算法追求決策的客觀性,，法律則追求決策的公開透明,。這些差異會(huì)帶來實(shí)踐張力。例如,，人的決策會(huì)受到認(rèn)知局限,、價(jià)值偏好等方面的影響；算法決策則以客觀數(shù)據(jù)為素材,、借助海量數(shù)據(jù)分析引導(dǎo)決策,。

算法運(yùn)行是客觀的，但也會(huì)因?yàn)閿?shù)據(jù)的選擇,、算法的設(shè)計(jì)而注入偏見和引發(fā)歧視,。這種歧視不同于人為歧視，而是一種被計(jì)算化的技術(shù)偏差,。因此,，算法歧視的源頭不在于算法本身，而在于機(jī)器學(xué)習(xí)所使用的那些數(shù)據(jù)。機(jī)器學(xué)習(xí)必須使用人類的生活和實(shí)踐經(jīng)驗(yàn)中所積累的數(shù)據(jù),，而計(jì)算結(jié)果反過來又影響人們的實(shí)踐,。

如果沒有算法的參與，人類決策和預(yù)測也會(huì)產(chǎn)生大量偏見,。算法影響了偏見產(chǎn)生的方式,，主要體現(xiàn)在決策過程的計(jì)算化和數(shù)據(jù)化改變了人們的價(jià)值推理方式和道德判斷形態(tài)，也帶來正義評價(jià)機(jī)制的改變,。計(jì)算正義旨在揭示這種改變的社會(huì)和法律意義,。算法應(yīng)用范圍的擴(kuò)展和具體應(yīng)用場景的實(shí)踐積累不斷重塑計(jì)算正義空間的結(jié)構(gòu)和道德內(nèi)涵。

機(jī)器學(xué)習(xí)的決策結(jié)果與傳統(tǒng)的道德判斷產(chǎn)生的社會(huì)意義不同,。人的道德判斷具有一個(gè)面向?qū)嵺`的開放性論辯結(jié)構(gòu),，比如，要判斷男性是否比女性更具有能力優(yōu)勢,，可以通過道德論辯,、價(jià)值衡量和實(shí)踐檢驗(yàn)加以辨析。但機(jī)器學(xué)習(xí)的技術(shù)性知識轉(zhuǎn)化（社會(huì)理解轉(zhuǎn)變?yōu)閿?shù)據(jù)輸入）,、復(fù)雜化運(yùn)作（數(shù)以億萬級的數(shù)據(jù)處理）,，為算法決策所承載的道德判斷賦予了全新的技術(shù)內(nèi)涵。

通過社會(huì)規(guī)范或者制度安排而表明的歧視性判斷與通過計(jì)算過程而得出的智能化偏見在本質(zhì)上是不同的,。我們不能確定地說算法偏見必須通過算法自身的技術(shù)改善而得以消除,，但至少可以確定的是，如果只認(rèn)為通過法律規(guī)制能夠消除這種偏見,，是錯(cuò)失重點(diǎn)的方向,。

所以，實(shí)現(xiàn)計(jì)算正義,，首先不在于解決算法運(yùn)行中的問題,，而是展示如何從法律角度理解算法所引發(fā)的價(jià)值問題,，以及構(gòu)建出這兩種“規(guī)范”之間的互動(dòng)空間,。

算法與法律的重構(gòu)不是簡單的功能融合，因?yàn)樗惴òl(fā)揮技術(shù)功能,，而法律發(fā)揮規(guī)范功能,。兩者的重構(gòu)體現(xiàn)在算法對人的行為指引可視為法律指引功能的延伸，但算法的技術(shù)價(jià)值需要由法律價(jià)值加以約束并進(jìn)行價(jià)值整合,。這是一項(xiàng)復(fù)雜的技術(shù)和社會(huì)工程,，同時(shí)展現(xiàn)了算法融入法律并拓展計(jì)算正義之內(nèi)涵的開放空間。