2017年4月20日，最高人民法院發(fā)布了《關(guān)于加快建設(shè)智慧法院的意見》，致力于打造網(wǎng)絡(luò)化、陽光化、智能化三位一體的智慧法院。智慧法院建設(shè)要求人工智能與司法緊密結(jié)合。隨著改革的推進(jìn)，人工智能介入司法的程度已經(jīng)從內(nèi)部司法行政管理體系擴(kuò)展到外部審判活動[1]，學(xué)者們開始關(guān)注人工智能給司法原則、證據(jù)規(guī)則和司法認(rèn)知帶來的沖擊。保守派學(xué)者認(rèn)為人工智能不會改變司法的本質(zhì)屬性，改革派學(xué)者認(rèn)為人工智能會重構(gòu)傳統(tǒng)的法律關(guān)系、法律行為和法律方法，甚至帶來一場法律革命[2-3]。因此，審慎觀察和分析人工智能語境下“司法改革”的動向，并積極探索解決對策，對審判活動現(xiàn)代化建設(shè)顯得尤為重要。、“人工智能+”背景下的法院智能化進(jìn)程馬長山教授從實(shí)然法的角度構(gòu)建了法律革命的宏大框架，認(rèn)為未來“人工智能+法律”的發(fā)展會重塑司法認(rèn)知、司法倫理和司法價(jià)值等基本法律理念[2]。但到目前為止，我國智慧法院改革仍處于初級發(fā)展階段，主要表現(xiàn)為以效率價(jià)值主導(dǎo)智慧法院發(fā)展的特點(diǎn)，還未進(jìn)入重塑基本法律理念階段。
一、人工智能介入司法
（一）效率價(jià)值主導(dǎo)智慧法院的發(fā)展
各地法院遵循效率邏輯，紛紛推出法官智能輔助辦案系統(tǒng)，簡化辦案流程、縮短審判時(shí)間，處處彰顯著對效率價(jià)值的偏愛。與此同時(shí)，地方試點(diǎn)開始的智能化改革也逐漸向全國推廣。2016年的第三屆世界互聯(lián)網(wǎng)大會，六國最高院大法官在司法信息化、司法公開、訴訟服務(wù)等方面達(dá)成了六大共識。2017年的《新一代人工智能發(fā)展規(guī)劃》也將“提升審判體系和審判能力智能化”作為人工智能發(fā)展的目標(biāo)之一，無論是最高院還是國務(wù)院都顯示出建設(shè)智能司法系統(tǒng)的決心。
司法實(shí)踐處處彰顯出對效率的追求，因?yàn)樗痉ㄐ士梢源龠M(jìn)司法公正的實(shí)現(xiàn)。解決糾紛本質(zhì)是法律關(guān)系、法律狀態(tài)的確定過程，所以準(zhǔn)確高效地解決糾紛實(shí)質(zhì)上有助于社會公平的實(shí)現(xiàn)[4]。司法智能化符合效率價(jià)值的目標(biāo)，讓法官擺脫了繁雜機(jī)械化的司法工作，讓訴訟當(dāng)事人走出復(fù)雜低效的司法程序。伴隨效率的提高，人們開始質(zhì)疑人工智能只是一味地追求效率，可能忽視了司法公正。司法公正是司法價(jià)值的核心命題，但智慧法院呈現(xiàn)的特點(diǎn)是司法公正亦步亦趨，司法效率呈現(xiàn)質(zhì)的飛躍。從嚴(yán)格意義上說，司法是一個(gè)以司法公正為第一價(jià)值的社會活動，目前卻反映出來一種以效率效益為第一要義的商業(yè)邏輯，兩者之間存在價(jià)值沖突，可能影響司法的良性循環(huán)。司法的良性循環(huán)表現(xiàn)為司法公正和司法效率相輔相成，人工智能卻難以在兩者之間達(dá)到平衡。人工智能專家在設(shè)計(jì)算法時(shí)力求精確化的表達(dá)，公正卻如普羅米修斯的臉，“公正”的裁量標(biāo)準(zhǔn)無法精確化，難以統(tǒng)一。換而言之，以算法為核心的人工智能不但無法理解人類社會對司法公正的追求，而且無法突破法律模糊化表達(dá)的困境，所以最后也可能陷入一個(gè)傳統(tǒng)的法律困境--公正效率之爭。為了避免陷入法律困境，無論是法院還是研發(fā)者都更愿意選擇以效率為首要價(jià)值指導(dǎo)司法智能化建設(shè)。
（二）智慧法院處于初級司法智能化階段
人工智能分為“弱人工智能”“強(qiáng)人工智能”“超人工智能”[5]。智慧法院的重點(diǎn)在于利用人工智能技術(shù)實(shí)現(xiàn)法院再造，司法智能化水平也與人工智能發(fā)展呈現(xiàn)出對應(yīng)關(guān)系。目前人工智能技術(shù)還處在“弱人工智能階段”，部分領(lǐng)域逐步邁進(jìn)“強(qiáng)人工智能階段”，法院相應(yīng)地處于初級司法智能化階段。
伴隨弱人工智能的發(fā)展，上海法院推出了具有35個(gè)子系統(tǒng)的智能輔助辦案系統(tǒng)[6]。該系統(tǒng)利用算法提供5種服務(wù)：自動生成電子卷宗、自動關(guān)聯(lián)與當(dāng)事人相關(guān)的案件、智能推送輔助信息、自動生成與輔助制作各類文書和智能分析裁量標(biāo)準(zhǔn)。這個(gè)系統(tǒng)主要為輔助性司法活動提供幫助，簡化司法審判的程序性活動，沒有為司法裁判的核心活動提供新分析工具。新分析工具的應(yīng)用主要集中在司法推理模式的重構(gòu)方面[7]，司法推理包括對類似案件的分析和對法律規(guī)則的解釋等方面，并非是一個(gè)單調(diào)的線性推理過程，必須建立在類比演繹等深度學(xué)習(xí)的人工智能之上。新分析工具的應(yīng)用需要與強(qiáng)人工智能相結(jié)合，弱人工智能階段的司法輔助系統(tǒng)無法處理法律與道德倫理的關(guān)系，也不符合以“社會效果”為導(dǎo)向的法律裁判邏輯，相應(yīng)地法院改革也無法突破弱人工智能的限制。弱人工智能具備處理簡單特定任務(wù)的優(yōu)勢，提升了法院內(nèi)部司法系統(tǒng)的效率，卻沒有給智能司法外部系統(tǒng)的構(gòu)建帶來實(shí)質(zhì)性的成效。司法過程是一個(gè)法官居中裁判、當(dāng)事人相互博弈的三方構(gòu)造，除涉及法院內(nèi)部司法行政系統(tǒng)之外，還涉及當(dāng)事人之間、當(dāng)事人和法院之間的法律互動過程。這種“法律互動過程”也可以稱之為“智能司法的外部系統(tǒng)”。外部系統(tǒng)的改造起始于“微信審判”和“QQ審判”[8]，2007年，福建省沙縣法院利用QQ審理了一起跨國離婚案件，這起案件的審判改變了傳統(tǒng)法庭審判的地點(diǎn)，將物理空間置換成了網(wǎng)絡(luò)虛擬空間，節(jié)約了法院和當(dāng)事人的時(shí)間成本，將一天的工作時(shí)長縮短為半個(gè)小時(shí)。外部系統(tǒng)利用互聯(lián)網(wǎng)技術(shù)改變了法庭審判的溝通交往媒介，利用了弱人工智能的語音識別、圖像識別傳送技術(shù)，卻沒有利用人工智能的分析、推理等與深度學(xué)習(xí)相關(guān)的核心技術(shù)，只是涉及到了人工智能的冰山一角。
（三）智能司法系統(tǒng)的研發(fā)主要依靠公私合作
根據(jù)以往的研發(fā)經(jīng)驗(yàn)，僅依托于最高人民法院自身的技術(shù)無法滿足提升司法效率的需求。以最高院裁判文書網(wǎng)為例，它的算法設(shè)計(jì)本身就存在天然缺陷，關(guān)鍵詞設(shè)計(jì)不合理，模糊檢索功能遠(yuǎn)不如北大法寶、無訟、openlaw等網(wǎng)站。相較之下，私人企業(yè)的技術(shù)優(yōu)勢得以凸顯，迄今為止公私合作研發(fā)智能司法系統(tǒng)逐漸成為擺脫技術(shù)桎梏的最佳途徑。
全球的法律科技上市公司呈現(xiàn)出指數(shù)增長趨勢，從2009年到2016年增長了1149家[9]。其中國際律所Dentons研發(fā)的機(jī)器人律師ROSS于201年投入使用。無訟研發(fā)的機(jī)器人“法小淘”也于2017年投入使用。這證明市場導(dǎo)向的商業(yè)活動已經(jīng)催生出一批批的人工智能法律產(chǎn)品。企業(yè)掌握著先進(jìn)的人工智能技術(shù)，并與法院合作共同研發(fā)人工智能法律產(chǎn)品。如上海市浦東新區(qū)政協(xié)委員周蘭萍主張利用“互聯(lián)網(wǎng)+PPP”的優(yōu)勢打造智慧法院。上海高院與科大訊飛公司合作，歷時(shí)5個(gè)月成功研制了“206”系統(tǒng)[10]。浙江省高級人民法院與阿里巴巴集團(tuán)簽署戰(zhàn)略合作框架協(xié)議，聚焦阿里巴巴旗下的淘寶、阿里云和螞蟻金服在云計(jì)算、大數(shù)據(jù)和用戶方面的資源優(yōu)勢，幫助浙江法院構(gòu)建司法領(lǐng)域的大數(shù)據(jù)服務(wù)體系[11]。各地方紛紛積極地與私人企業(yè)合作，共同推動智慧法院的改革。
二、人工智能介入司法的隱憂
（一）人工智能可能影響法官的自由裁量權(quán)
對人工智能介入司法，學(xué)者們持兩種觀點(diǎn)：一種觀點(diǎn)認(rèn)為人工智能甚至可以取代法官、律師成為司法活動的主體[12]，另一種觀點(diǎn)認(rèn)為人工智能在司法裁判過程中只是占據(jù)輔助地位，無法取代法官的主體地位[13-14]。
持前者觀點(diǎn)的學(xué)者對人工智能有著盲目的樂觀，甚至有技術(shù)萬能主義思想，認(rèn)為人工智能的工具性價(jià)值可以彌合司法裁判模糊性和不確定性的缺陷，使自由裁量朝著統(tǒng)一性和可預(yù)見性方向發(fā)展。事實(shí)上智慧法院處于初級司法智能化階段，人工智能彌合司法缺陷的能力受到約束。不同于機(jī)械地參照適用法律，一個(gè)理性的裁判者形成自由心證的過程極為復(fù)雜，需要考慮法律解釋、利益衡量、道德倫理和價(jià)值判斷等方面，有時(shí)甚至還會受到輿論、權(quán)力和社會效果等因素的限制。法律專家系統(tǒng)設(shè)立的算法規(guī)則無法將主觀因素量化為代碼，所以人工智能裁量結(jié)果也往往有失偏頗。一個(gè)法官消極不作為，機(jī)械性地以人工智能裁量結(jié)果作為一個(gè)法律裁判的決定性因素，意味著法官對技術(shù)的盲目崇拜，無法正確認(rèn)識到技術(shù)的局限性。“法官的自由裁量”變成人工智能技術(shù)的附屬品，變成了“算法的自由裁量”。
持后者觀點(diǎn)的學(xué)者堅(jiān)持法官的主體地位，認(rèn)為人工智能介入司法的優(yōu)勢在于使法官的自由裁量趨于合理化，爭取同案同判的效果，從而有助于實(shí)現(xiàn)司法公正，提高司法公信力，防止司法腐敗。利用人工智能控制法官的自由裁量權(quán)是未來智慧法院改革的重點(diǎn)。法官的自由裁量分為“強(qiáng)自由裁量”和“弱自由裁量”[15]，強(qiáng)自由裁量關(guān)注個(gè)案的特殊性，法官需要靈活運(yùn)用法律原則，例如“許霆案”中法官利用法律原則突破了法律規(guī)則的限制。個(gè)案的特殊性與人工智能司法的普遍適用性相違背，人工智能在合理化約束強(qiáng)自由裁量權(quán)方面顯得捉襟見肘。弱自由裁量要求法官在相對確定的司法裁量界限內(nèi)作出選擇，關(guān)注類似案件的普遍性，算法利用提公因式的方式，將相同的考量要素代碼化，形式上更符合算法邏輯，但也可能增加自由裁量的不確定性。以量刑系統(tǒng)為例，即使是簡單的幾個(gè)考量要素也可以任意組合成上百種裁量結(jié)果，對合理化約束法官的自由裁量權(quán)并無意義，反而增加法官自由裁量的難度。
居于輔助地位的人工智能還可能抑制法官發(fā)揮主觀能動性，妨礙法官審理新型權(quán)利糾紛案件。新型權(quán)利是經(jīng)濟(jì)發(fā)展和社會交往的產(chǎn)物，在審理新型權(quán)利糾紛案件中，法官更需要發(fā)揮主觀能動性去解釋法律，有時(shí)甚至需要發(fā)揮“法官造法”的功能。囿于弱人工智能無法深度學(xué)習(xí)理解法律語言，法律專家系統(tǒng)就無法以現(xiàn)有的數(shù)據(jù)庫為基礎(chǔ)作出合理預(yù)判，如果法官由于司法惰性而放棄行使自由裁量權(quán)，采納舊數(shù)據(jù)庫作出的預(yù)判或者建議，人工智能法律專家系統(tǒng)則會促使法官作出不公正、不合理的裁判。
（二）公私合作研發(fā)可能降低司法公信力
騰訊研究院發(fā)布的《全球人工智能人才白皮書》顯示，全球AI領(lǐng)域人才約10萬，而市場需求在百萬量級[16]。人工智能與法律相結(jié)合的高端復(fù)合型人才屬于稀缺資源，公私合作研發(fā)是這種情勢之下的必然選擇，而商業(yè)的逐利性則會誘使私人企業(yè)在設(shè)計(jì)算法時(shí)作出符合自身價(jià)值取向的判斷，或是利用數(shù)據(jù)存儲和管理優(yōu)勢誤導(dǎo)法官的裁判。
技術(shù)研發(fā)商在利用算法拆解司法裁判活動的過程中可能存在誤判。司法輔助系統(tǒng)的效益取決于技術(shù)研發(fā)商對司法活動的理解和算法對自然語言的處理能力。首先，大多數(shù)的技術(shù)研發(fā)商是人工智能方面的專家，無法充分理解司法活動。技術(shù)研發(fā)商將法律規(guī)則轉(zhuǎn)化為算法的過程是對法律規(guī)則的重新解構(gòu)和建構(gòu)，轉(zhuǎn)化為算法的法律規(guī)則必須遵循算法邏輯和法律邏輯，算法設(shè)計(jì)者必須將兩種邏輯融合一體。其次，符號主義算法和聯(lián)結(jié)主義算法模擬人處理自然語言的能力極度有限，以蘋果siri為代表的語音識別系統(tǒng)尚且無法高度精確化地處理自然語言，其他人工智能系統(tǒng)在處理生僻難懂的法律專業(yè)術(shù)語方面更是困難重重。因此，所設(shè)計(jì)的智能司法輔助系統(tǒng)往往是差之毫厘，失之千里。
除此之外，技術(shù)研發(fā)商同時(shí)也是數(shù)據(jù)服務(wù)商，數(shù)據(jù)服務(wù)商是否會利用數(shù)據(jù)優(yōu)勢不正當(dāng)影響司法的問題還須進(jìn)一步思考。例如阿里巴巴集團(tuán)和順豐集團(tuán)的數(shù)據(jù)權(quán)之爭，傳統(tǒng)的反不正當(dāng)競爭法和反壟斷法完全沒有適用余地，但是兩家公司的數(shù)據(jù)權(quán)之爭又實(shí)質(zhì)上侵害了消費(fèi)者權(quán)利，如果提起消費(fèi)者公益訴訟又無法將消費(fèi)者的實(shí)質(zhì)損害進(jìn)行量化，從而形成有利證據(jù)。在無人提起公益訴訟的情況下，法院無法將其納入司法管轄的范疇。在他人提起民事訴訟的情況下，法院也可能作出駁回起訴的裁定，消費(fèi)者的隱私權(quán)無法得到司法保障[17]，司法的公信力也會降低。
（三）算法歧視影響司法正義
每個(gè)法官的自由心證實(shí)質(zhì)上是一種“算法”，表現(xiàn)為法律解釋技術(shù)。法官在個(gè)案中依賴法律解釋技術(shù)，所以法律轉(zhuǎn)化為算法的過程存在人的主觀選擇，存在“算法歧視”。
大數(shù)據(jù)、互聯(lián)網(wǎng)、云計(jì)算高度發(fā)展的時(shí)代，算法被特定化，算法由研發(fā)者設(shè)計(jì)，那么算法本身就帶有技術(shù)開發(fā)者的主觀意識判斷，算法絕對客觀中立的論斷就值得懷疑。算法決策的結(jié)果本來就可能帶有固有的歧視。Northpointe公司開發(fā)一款名為“COMPAS”的犯罪風(fēng)險(xiǎn)評估系統(tǒng)，用以輔助法官對犯罪嫌疑人進(jìn)行再犯風(fēng)險(xiǎn)評估，但是最新的研究表明該系統(tǒng)本身就存在種族歧視[18-21]。該系統(tǒng)的最終目的是為了更好地預(yù)測犯罪人的再犯可能性、社會危害性及人的主觀惡性，以避免刑事裁判受到法官個(gè)人主觀偏好的影響。實(shí)踐卻背離了初衷，該系統(tǒng)在類似案件中評估黑人和白人的再犯風(fēng)險(xiǎn)時(shí)，黑人的再犯風(fēng)險(xiǎn)評估結(jié)果遠(yuǎn)遠(yuǎn)高于白人。這是由于算法在將法律規(guī)則轉(zhuǎn)化為代碼的過程中，同樣也承載著人類文化中固有的偏見。算法的運(yùn)行是一個(gè)自發(fā)、無意識、不完全可控的過程，算法在“輸入與輸出”的交互式運(yùn)算過程中也會習(xí)得人類的劣習(xí)。以微軟開發(fā)聊天機(jī)器人Tay為例，它在投入使用不久之后，產(chǎn)生了反猶太人、種族歧視、性別歧視等不良思想。人工智能介入司法同樣以“輸入與輸出”的運(yùn)算模式為主，也容易導(dǎo)致法偏見與不公。
更進(jìn)一步，算法具有專業(yè)性和不透明性的特點(diǎn)，算法歧視所帶來的司法不公難以矯正。當(dāng)犯罪嫌疑人將存在偏見的再犯風(fēng)險(xiǎn)評估結(jié)果訴諸法院時(shí)，Northpointe公司也會以算法是商業(yè)秘密作為抗辯理由，法官的審查可能受到限制[18]。而且大多數(shù)法官不具備審查算法客觀性的能力，沿襲以往的經(jīng)驗(yàn)積累，更容易認(rèn)為算法是一種客觀中立的科學(xué)表達(dá)或者是數(shù)字表現(xiàn)形式，否定算法決策存在法律意義上的價(jià)值判斷，算法的正當(dāng)性、客觀性也不會被審查。隨著法官一次次參照適用算法決策結(jié)果，算法歧視更難以被發(fā)現(xiàn)，長此以往算法會更加偏離司法公正的方向。
三、人工智能介入司法的展望
（一）保障人工智能背景下法官的自由裁量權(quán)
無論法官審判的主導(dǎo)地位是否能夠被人工智能取代，只要法官由于司法惰性選擇適用人工智能的司法裁量結(jié)果，人工智能都已經(jīng)對法官的自由心證造成了實(shí)質(zhì)性干擾。在這個(gè)語境之下，保障法官自由裁量權(quán)才變得有意義。
首先，法律應(yīng)當(dāng)將人工智能裁量結(jié)果作為“參考”依據(jù)。“參考”暗示在具體案件中法官如果采納人工智能的裁量結(jié)果作為裁判依據(jù)之一，必須論證該裁量結(jié)果的正當(dāng)性。法官必須承擔(dān)相應(yīng)的說理義務(wù)，理由一旦遭到反駁或者質(zhì)疑，法官也要承擔(dān)相應(yīng)的法律責(zé)任。從法律形式主義出發(fā)，人工智能裁量結(jié)論可能代表著極端法律形式主義[17]，法官可能會變成“法律的自動售貨機(jī)”。法官機(jī)械化地適用法律，可以規(guī)避創(chuàng)造性適用法律過程中所產(chǎn)生的不必要的說理責(zé)任。現(xiàn)代法官的評價(jià)管理制度，將上訪率和上訴率作為考核法官的重要指標(biāo)，法官創(chuàng)造性地適用法律要比機(jī)械性地司法承擔(dān)更多不可預(yù)測的上訪風(fēng)險(xiǎn)[22]。法官為了個(gè)人的職業(yè)前途會選擇相對安全保守的裁判方式，規(guī)避風(fēng)險(xiǎn)。闡述說理義務(wù)的規(guī)定就是為了防止法官機(jī)械地適用人工智能裁量結(jié)果。
其次，防止上下級法院監(jiān)督的異化，讓法院的獨(dú)立審判流于形式。人工智能介入司法可以提高司法行政管理的效率，便于上下級法院的監(jiān)督[6]。當(dāng)?shù)胤剿痉ㄐ姓芾硐到y(tǒng)接入全國系統(tǒng)時(shí)，上級法院法官點(diǎn)擊鼠標(biāo)即可完成電子案卷、庭審視頻的傳送，對下級法院的司法監(jiān)督變得輕而易舉。上級法院掌握了司法監(jiān)督的絕對主動權(quán)，遠(yuǎn)程監(jiān)督可能使庭審變成法官的個(gè)人表演秀，使法官庭審流于形式。為防止形式化審判，上級法院的監(jiān)督范圍和監(jiān)督權(quán)限不能逾越法院獨(dú)立審判原則的限制。
（二）發(fā)揮公私合作研發(fā)的優(yōu)勢，防止法院產(chǎn)生技術(shù)依賴
公私合作可能會降低司法公信力，原因在于法院的權(quán)威性源自公民授權(quán)、憲法和法律的擬制同意。當(dāng)人工智能司法裁量結(jié)果的正當(dāng)性存在困境時(shí)，人工智能是否可以視為是公民擬制同意的結(jié)果呢？公私合作研發(fā)的法律專家系統(tǒng)中的算法可能既包括了法院的意志又包括技術(shù)研發(fā)商的個(gè)人意志。個(gè)人意志如果超過了擬制同意的范圍，那么人工智能司法裁量的正當(dāng)性則需要法律原則來彌補(bǔ)。法律原則可以通過內(nèi)部證成解決人工智能裁量正當(dāng)性不足的問題，當(dāng)徒法不足以自行之時(shí)，則需要通過外部證成的方式加以彌補(bǔ)。同時(shí)，法院應(yīng)該提高自身的研發(fā)能力，掌握數(shù)據(jù)的主控權(quán)。技術(shù)外包可能對司法公信力產(chǎn)生威脅，現(xiàn)行立法并未在算法設(shè)立與數(shù)據(jù)保全之間作明確劃分，我國私人公司在算法設(shè)計(jì)和數(shù)據(jù)儲存方面都兼具優(yōu)勢，法院掌握數(shù)據(jù)主動權(quán)的方式就是增強(qiáng)法院的數(shù)據(jù)收集、整理和存儲方面的能力，擺脫對私人企業(yè)數(shù)據(jù)保密技術(shù)的過度依賴。然而，互聯(lián)網(wǎng)的傳播速度和廣度增加了數(shù)據(jù)的泄密風(fēng)險(xiǎn)，傳播的次數(shù)與泄密風(fēng)險(xiǎn)成正比關(guān)系，法院還應(yīng)減少原始數(shù)據(jù)的傳播次數(shù)，防止數(shù)據(jù)泄露。法院與技術(shù)開發(fā)商簽訂合同時(shí)，須增加數(shù)據(jù)安全保障義務(wù)條款，建立數(shù)據(jù)等級保護(hù)體系。
（三）完善技術(shù)公平規(guī)則和算法司法審查原則
算法歧視分為兩種，一種是算法設(shè)計(jì)者主觀意識導(dǎo)致的歧視，一種為算法后天習(xí)得導(dǎo)致的歧視。這兩種算法歧視的規(guī)避路徑包括正當(dāng)程序、算法司法審查和第三方評估。
第一，法律代碼化后的算法理應(yīng)遵守正當(dāng)程序原則。正當(dāng)程序原則的模糊性和包容性決定正當(dāng)程序無法精準(zhǔn)化、具體化和量化。人工智能評估系統(tǒng)無法衡量一個(gè)智能化量刑系統(tǒng)的算法是否遵守正當(dāng)程序原則。智能化的量刑系統(tǒng)建立在個(gè)人裁決和規(guī)制制定之上，而法官更相信算法完美無漏洞，這會導(dǎo)致智能量刑系統(tǒng)、司法裁量系統(tǒng)侵害正當(dāng)程序原則[23]。因此，需要設(shè)定技術(shù)規(guī)則增強(qiáng)算法的透明性、可問責(zé)性和明確性，避免算法侵蝕司法公正。
第二，進(jìn)一步明確算法的司法審查范圍。算法歧視分為“顯性”和“隱性”，遵循階段性審查的原則。第一步為初步審查，審查是否存在顯性的算法歧視，第二步為實(shí)質(zhì)性的算法司法審查。因?yàn)樗惴▽彶槌杀究赡鼙人惴ㄔO(shè)計(jì)成本更加高昂[23]，為了避免司法資源的浪費(fèi)，分階段的算法司法審查可能更容易被法院采納。在EricL.Loomis案中，被告以COMPAS系統(tǒng)存在歧視為由提起上訴[24]，由于算法是商業(yè)秘密的重要組成部分，法院無法做到徹底的、完全的、實(shí)質(zhì)性的司法審查，只有加利福尼亞管教和康復(fù)局提供證據(jù)證明COMPAS系統(tǒng)存在顯性算法歧視，才能進(jìn)行實(shí)質(zhì)性的司法審查。第三，建立算法司法審查第三方評估制度。目前浙江省瑞安市法院引進(jìn)了第三方評估機(jī)構(gòu)，由第三方電子證據(jù)保全公司保存和校驗(yàn)庭審錄音錄像的完整性[25]。算法司法審查有兩種路徑，一種是由第三方評估機(jī)構(gòu)承擔(dān)實(shí)質(zhì)性審查任務(wù)；另一種是由法院承擔(dān)實(shí)質(zhì)性司法審查任務(wù)。前者更加適合缺乏技術(shù)人才的法院，但受到數(shù)據(jù)安全、司法不作為等質(zhì)疑；后者更加適合擁有技術(shù)人才的法院，但存在增加司法成本等問題。考慮到目前法院缺乏技術(shù)人才的現(xiàn)實(shí)情況，大多數(shù)法院會選擇第一種方案。本文原載《湖南學(xué)院學(xué)報(bào)》2019年2期