最新上映的影片《極限審判》（Mercy）将由人工智能法官進行自動化審判的未來場景搬上了大銀幕。

在不遠未來的2029年8月14日，位于美國加州洛杉矶的人工智能法庭Mercy開啟了第十九場審判，被告人正是最初協助建立法庭的雷文（Raven）警官。雷文被控殺死了他的妻子，各項證據表明，他作為兇手的可能性高達97.5%。要想成功地為自己辯護，他必須在90分鐘的時間内将這種可能性降低5%，從而建立“合理懷疑”，否則倒計時結束他就會被自動執行死刑。影片的長度恰好也是90分鐘，雷文雖然否認自己是兇手，卻因為醉酒失憶，于是證據展示也是探尋真相的遊戲開始……

撰文｜畢洪海（北京航空航天大學法學院）

真相存在于黑白之間

影片的故事情節具有科幻的性質，但是在法律未來主義者的眼中，随着技術的快速進步，以人工智能取代人類作為法律決定者的“法律奇點”時刻正在無限接近。影片的整體基調是警示的，犯罪與刑罰涉及太多的灰色地帶，無法完全交由人工智能法庭裁決。

我們經常看到的美劇橋段是：當律師在盤問證人時，證人隻能回答是或否。這種隻能二選一的方式，似乎完美契合計算機的二進制語言。人工智能法官馬多克斯（Maddox）也隻相信事實，“人人都會撒謊，隻有事實是非黑即白的。”然而雷文警官告訴她，真相是存在于黑白之間的。事實是客觀存在或發生的事和物。雷文警官與妻子發生了争執、餐刀上留有他的指紋、妻子死亡前口中呼喊他的名字、兩人的感情已經出現了危機，所有事實都可以通過文字或錄像再現。然而真相就是雷文殺死了自己的妻子嗎？

因為并不存在直接的事實證據，所以人們對于真相隻能是基于既有事實的認知和建構，難以完全避免主觀性，甚至無法完全擺脫經驗、知識和立場的影響，從既有事實中構造出不同的認知。影片中人工智能法官馬多克斯的兩次錯誤，都是被人有意識地利用事實構造出犯罪的“假相”：第一起審判是人為毀滅了證明被告無罪的事實，第十九起審判則是人為構造了陷害被告的事實。人工智能隻能根據其所見推斷表面上的真實，至少說明了其無法識破這種精心設計的騙局。若是在死刑審判中，一個人工智能系統制造冤假錯案的概率是十九分之二，這是任何一個法律體系都不可能容忍的。相比之下，一個人工系統若是放縱漏網之魚的概率是十九分之二，我們是否會更樂意選擇後者這種有瑕疵的系統呢？

...
電影《極限審判》劇照。從人機對抗到人機合作

人類和人工智能的相處方式并非隻有彼此替代一種模式，影片還給我們展示了從人機對話到人機合作的模式，善加利用人工智能當然可以增強人類自身的能力。雷文警官利用自己身為專業執法人員的直覺和理性冷峻的人工智能法官，從最初的法律論證，即雷文警官是否有罪，發展到協作尋找案件真相，最後則是合作阻止犯罪的發生。

直覺是一種讓人瞬間感知和快速反應的能力，雷文警官的直覺告訴他哪裡不對勁，但直覺往往是跳躍的，缺少細節和證據的支撐；人工智能法官馬多克斯則運用理性分析的過程，逐個排除相關因素，預測引爆裝置失效的概率。人工智能所缺少的關鍵功能正是像人類一樣的意識和情感，人工智能也無法應對系統中沒有預先設定程序的突發事件。即便是目前拟人化人工智能所提供的情感共鳴，也隻是基于數據的模拟。因此人工智能技術的努力方向之一就是模拟人類的情感和直覺。當雷文談到自己對妻子的愛時，馬多克斯甚至以嘲弄的口氣說那不過是一種因為多巴胺分泌所帶來的生理現象，而作為一種生理現象就是可觀察和感知的。

但在影片的最後，人工智能法官馬多克斯似乎呈現出驚訝、慌亂甚至被雷文的懇求所打動，當載有雷文女兒的卡車沖向Mercy法庭時，人類的應對方式是毫無情感的理性計算，決定摧毀卡車以保全人工智能法庭，而馬多克斯似乎利用自己的能力讓爆炸裝置失靈了。塵埃落定之際，雷文反問了一句：我們全都是按照規定的流程行事的？或許對于人工智能來說是如此，然而人生不可能是被預先設定或可被随意改寫的程序代碼，也不完全是行走在預定的軌道上，人生是五顔六色的，每個人都需要有情感來填補内心深處的空隙。

電影《極限審判》劇照。“寬恕法庭”真的實現了寬恕嗎？

影片中人工智能系統的設定還突破了兩個非常重要的約束條件。第一個是現實約束。人工智能系統能力的發揮有賴于可獲取的海量數據。影片設定的人工智能系統馬多克斯是一個全能性（omnipotent）的數字利維坦，可以獲取所有監控錄像的信息，可以訪問諸如私人電子郵件、短信、Instagram社交賬号等任何網絡信息，可以輕松繞開私人密碼，可以随時打通任何一個人的電話。馬多克斯唯一的不足則是通過物理世界的空中警察小隊來補充的，這支隊伍可以迅即抵達任何規定的地點。這樣一個人工智能系統同時也是一個全面的監控系統，不僅可以用于審判中的調查取證，同樣也可以用于預測犯罪。這不禁讓人想到《少數派報告》（Minority Report）中預測犯罪的“先知”和美劇《疑犯追蹤》（Person of interest）中的“機器”（The Machine），後者通過大規模的社會監控預測有計劃的犯罪。

第二個是規範約束。影片中的人工智能法庭是一種全權性的機構（omnicompetent）：獲得了社會公衆的高度信任；馬多克斯集起訴人、法官和行刑者于一身；其指令至高無上，所有人都必須服從；她被允許查看任何雲端數據，也無須搜查令即可訪問私人設備信息。或許她唯一的約束就是兩條最簡單不過的條文：實體法律上的是“殺人者死”；程序法上的是允許被告有90分鐘的時間證明存在合理懷疑。效率即正義，在這樣一個極緻的效率工具面前，被告人除了利用人工智能系統自身的力量之外，幾乎被剝奪了任何的權益保障。

人類法庭目前為止所有的設置，無論是指定辯護人，通過陪審團審判，還是通過漫長的庭審過程進行舉證和質證，都是為了正義所付出的必要成本和代價，也是為了尊重每一個生命所付出的成本和代價。這種設置不僅惠及少數群體，也惠及所有人。因此，全自動的人工智能法庭這樣的設想，或許在認知的層面上很有趣，然而因為其失敗率、規範性以及隐性的代價方面，在涉及人類基本權利的領域中很難被允許。

影片最大的諷刺之處在于人工智能法庭的名字叫作“寬恕”（Mercy）。然而整個審判過程中卻看不到絲毫的“寬恕”，甚至可以說是毫不寬恕（Merciless）。在影片的審判場景中，被告人孤零零地被捆在椅子上，隻能與“高高在上”的人工智能系統進行對話。這不禁令人想起卡夫卡式的“距離暴政”（distance of tyranny），因為距離的疏離而缺乏同情心。每個人在面臨像是Mercy這樣龐大的機器時都是脆弱的，隻有像雷文警官這樣熟練的專業人士才有可能充分地展開自救。

在美國法律上，最能體現“寬恕”的權力有三種：第一種是陪審團的否決權（Jury Nullification），即陪審團有權在認定被告有罪的前提下，因不認同相關法律或認為起訴不當，通過自身的裁量作出無罪判決。第二種是檢察官決定不起訴的權力；第三種則是總統給予特赦的權力。

誠如美國哲學家傑拉爾德·J·波斯特馬（GeraldJ.Postema）所述，若是在刑事審判中沒有寬恕進行調劑，就會在社會中産生一種“令人無法容忍的自以為是。被告的罪過表明的是一種值得譴責的弱點，而這種弱點，自以為是的官員對自己說，我是不會有的。這同樣體現在普通人對有犯罪記錄者的鄙夷當中……我們默默地對自己說：幸好我不像那些人。”

承認寬恕，就是承認每個人都具有的一種脆弱性。

本文為獨家原創文章。作者：畢洪海；編輯：劉亞光；校對：陳荻雁。未經新京報書面授權不得轉載。