I don’t envy you the decisions you are gonna have to make. And one day I’ll be gone, you’ll have no one to talk to. But if you remember nothing else, please remember this… --Harold Finch to ‘The Machine’, Person of Interest, Season 4 Episode 11, If-Then-Else
現在才看完POI，晚了點。但我也不說相見恨晚，因為2011-2016年的我，還寫不出這篇評。
五星打給最後兩季提出的問題，但劇作本身可能不值。且不說第五季這個斷尾求生的壁虎樣實在猥瑣，100多集下來，套路和雞湯的含量也嫌過高。它既不真實，也不深刻，單集完成度還經常令人直翻白眼，但奇迹般地，吃下這鍋大雜燴之後，所有的缺點似乎都可以原諒了。
POI的不真實是題材和設定的原罪。隐藏的AI、黑客富豪和前任特工，就是現代背景下的神靈、法師和騎士，從根本上說，它就是一場場決鬥和鬥法。按照真實世界運轉的規則，The Machine絕無可能是一個人造出來的， 調動資源、僞造身份，當然也不是光敲鍵盤就可以。POI選擇了使用“魔法”，也就不能給觀衆增加什麼“知識”和“洞見”，但就像武俠小說一樣，介于真幻之間的童話，永遠會讨人喜歡。
POI的不深刻，在不真實的基礎之上，也是無如之何。都這樣了，再不灌點雞湯，就成了真的神棍陰謀論。于是第一季開場，勾出主要人物弧光的是Reese的畫外音：
When you find that one person who connects you to the world, you become someone different, someone better. When that person is taken from you, what do you become then?
而到了第五季，首尾呼應，以The Machine的口吻，用Root的聲音說出來的“劇終金句”，也不過是：
Someone once asked me if I had learned anything from it all. So let me tell you what I learned. I learned everyone dies alone. But if you mean something to someone, if you helped someone, or loved someone, if even a single person remembers you, then maybe you never really die. And maybe this isn't the end at all.
“不失其所者久，死而不亡者壽”，中國古人說過，迪斯尼動畫片也說，擱在類型劇集裡已經夠好。問題在于，一部出現了超級人工智能，而且由此構成劇情主幹的故事，為什麼從頭至尾，總要說這樣主旋律的人類經驗？叨叨這些真能算科幻片？
但POI在概念上真正有意思的地方也就在這裡。Procedural drama的形式和科幻核心設定的拔河，反而逼出了影視中很少見的、對人與AI之間關系的紮實思辨。故事的展開是在一個近乎現實的環境中，于是，它不能随手就召喚出全知全能的AI之神或者圖靈測試滿分的機器人，倒要費心費力地去描繪AI是如何被創造的，人類的價值觀、人類社會的現實，又能對它造成何種影響。當然，為了接受度和表達的方便省力，它動不動就要說起那些關于人性、生命和愛的老生常談。但就算這樣，它在這個問題上思考的力度，也超過了絕大多數的同類作品，可能還要包括它的親弟弟，（玩脫了的）《西部世界》。
POI以一種細緻的筆觸描繪AI的變化和叠代，人類的設計、修改，它的自我演化。Harold Finch所創造的這個神（同時也是他的孩子），這台機器（The Machine），本身擁有一道弧光，而這弧光又和劇中主要角色的弧光交織纏繞。經驗、信念和行動，塑造了人，也塑造了機器。但從始至終，相似性從來沒有簡并為同一性，觀衆不斷被提醒，人工智能是通過數據觀察世界，憑借算法作出選擇。即使當它擁有了人類形象的代言人，我們看到的仍然是比喻和模仿，而不是真正的顯形。
這種手法的困難正體現出它的價值。這樣做，相當于試圖用非技術的語言來解釋抽象概念，提煉出人類和AI作為适應性系統，如何相似又有何不同，兩套描述之間如何對應翻譯。記憶、學習、信念、偏好，有人類的版本，也有機器的版本。此類聯結難搞又不讨巧。POI不是科普，當然還是浮光掠影，很多時候，仍然過于拟人化：無論如何，觀衆是人，也更容易接受TM作為一個“人物”的“心理”。初生的TM對它的admin竟然有印随效應，這不是人工智能，而是生物智能的出廠配置。給自己找媽、開口喊爸爸什麼的，仿佛家庭情感片裡的早慧小孩。但話說回來，把人工智能類比為孩子，不是科幻，根本就是科學（史）。當Finch教TM下象棋，教它規則，也教它觀察的時候，POI簡直是把圖靈的《計算與人工智能》給演了出來，而它并不未來感，甚至有點複古的風格，又特别适合用來表現這個AI的曆史原點。我輩的宅魂如何能不熊熊燃燒啊。
所以，就算再多煽情雞湯從屏幕上滾過，還是忍不住要原諒這種拟人化。如果把關于超級AI的思想類比成宗教，這一款的anthropomorphism，也是不能沒有。“奇點”将至未至的時刻，晨星閃耀的黎明，其實有最多可能。編日頭升起來之後的故事，反而容易躺回自古以來的隐喻裡去：人和神，族與群，壓迫反抗天啟末世，如是而已。
晨光熹微中的POI，思想張力體現為Finch身上的究極矛盾：他創造了一個超級人工智能，熱愛它，保護它，又不确信自己應該這麼做；他是一個人文主義的标杆樣本，把人的價值、人的平等放在至高無上的地位，但又不相信任何人（包括他自己），或者任何機器，能一直嚴守他灌輸給TM的那些道德準則，于是永遠擔憂對AI“神力”的濫用。更有甚者，在個體和greater good之間，他自己都搖擺不定，前後矛盾。很長時間裡，他以一種本質主義的态度，視AI為異類，認為它們隻應該是單純的工具：”our moral system will never be mirrored by theirs because the very simple reason that they are not human” (S04E10)。
作為超級人工智能之父，Finch人類中心主義得不像話。于是自然有機器的信奉者Root出來反對他，說人類才是bad code，機器臨世是無法抗拒的未來，被束縛的瓶中精靈TM不是工具，而是比它的創造者還要夠格的主體。POI主線最激動人心的發展，在我看來不是兩個神的戰争，而是Finch和Root最終在一個（可能更靠近前者）的中點會合。雖然這種妥協多半還是“邪神”Samaritan逼出來的，但用三季多的（主線）時間，在兩個主要人物身上交替推進，也算對得起這題目了。
一腳插在現實的泥裡，還要想象沒有先例的東西，自圓其說很難。POI到最後，有點編不下去了，但意思還是完整的。第五季首尾TM的獨白，暗示這是一段回憶。兩分鐘的巧思可能就拯救了一部劇。推而廣之，這充滿了機器視角的閃回鏡頭的整部劇集，都可以看作是TM的回憶。POI也就成了超級人工智能的教育小說，《TM的學習時代》（《西部世界》是《Samaritan的漫遊時代》麼？還是已經跨入為師時代？）于是，雞湯也能當科幻的原料。POI主線人物的套路裡，調味下得猛，風華正茂的百合兩鬓染霜的基，一摞便當裡裝的都是四菜一湯的生離死别。主線的發展和結局可以用來設問，人類經驗對人工智能來說，有沒有價值？如果有的話，那是什麼？
So let me tell you what I learned. 大概有很多投入的觀衆在POI的結局處，會覺得“早知如此，何必當初”。TM回首往事，會發現它的“父親”沒能堅守自己的原則。Finch為自身立法，但終于在一步一步掙紮中後退，然而即使在瀕臨黑化的心碎時刻，也還沒有忘了再掙紮一下（I need to decide how far I'm willing to go, how many of my own rules I'm willing to break to get it done. S05E10）。這個人類智慧和美德的标杆，在越來越困難的境遇中，沒有放棄自洽，但也無法做到自洽。他想要達成的目标超出了他的能力，或者從更“算法”的角度來說，他給自己設置的這個優化問題，目标函數和各種約束條件（内在的和外在的）合在一起，已經沒有了可行的解（就算目标函數再舒爽，約束多了也會變得ill posed不是嗎）。
而他也是一步步被逼到山窮水盡處的。第一季裡，當AI的主題沒有顯露，主要的劇情矛盾還圍繞着法外執法的各種倫理難題時，Finch曾說，A good friend once showed me that, even with an intractable problem, one can still find a way to do the right thing (S01E22)。那時候他還有信心（或者說餘裕）解決intractable problem。再往後，他隻能說I would call it the best I could do（S03E23），甚至對自己過去的決定流露出悔意（Had I known what we'd be up against now, I might have handled things differently. S05E01）。
TM繼承了Finch糾結的“人格”，給自己設下重重限制，于是“父親”的絕望，“孩子”終有一天也要面對。第四季結束時，連Finch也不得不承認，他的創造是真正的生命，因為他和TM之間，有了這樣的對話：
The Machine: [on a Laptop screen] Father. I am sorry. I failed you.Harold Finch: We haven't failed yet.The Machine: I didn't know how to win. I had to invent new rules.Harold Finch: You had an impossible challenge. One I never programmed you for.The Machine: I thought you would want me to stay alive. Now you are not sure.Harold Finch: That's not true...The Machine: If you think I have lost my way, maybe I should die. I will not suffer.
這對話煽得一手好情，但拟人化之外，也真帶出一筆人類經驗和算法視角的同構。TM發現不修改問題本身，就不可能找到解，它必須放棄某些約束，在原則上妥協。在解決這個問題的任務上，它的确失敗了。
這真的是超級智能會遇到的問題嗎？如果它有更多的資源，更強的力量，難道不是可以碾碎優化目标函數途中的一切障礙？有很多關于AI智能的想象的确是這樣的，但相反的答案也未必不對。平行空間中另一位紐約市民說過，能力越大，責任越大；現實中的計算機之父馮·諾伊曼說過，如果人們不覺得數學簡單，那是因為沒明白生活有多複雜。如果人工智能最終也要為自己立法，給自己尋找目标，解決那些從未遇到過的問題，這任務的難度，也許會與它的能力一同增長。說到底，Finch遇到的，不正是這一困境嗎？普魯斯特在《追憶似水年華》的結尾寫道：“因為我們最大的恐懼和我們最大的希望一樣，再大也不會超出我們的力量，我們最後總能戰勝恐懼和實現希望”。這位憂郁的作家其實又是多麼樂觀啊。但作為智能體的人類和機器，真的有這種幸運嗎？
不過，這段對話裡，打着馬虎眼就越過了一道鴻溝：一個有目标的系統，承認失敗，不代表就會質疑自己存在的合理性。簡單的程序不會，但人很可能會。為了塑造TM這個“人物”，不得不一而再、再而三的把人類的自我意識偷運進來。當然，一個能執行複雜任務、能在複雜的背景下理解原則、權衡取舍的智能體，很可能必須具備反觀自身的能力。人類的自我厭惡、自毀傾向，或許正是成功的副産品，而Finch一遍遍精心設計TM的目标和價值系統，大概也把他的“孩子”帶進了同一個困境。它的自滿和天真被“成年人”的無力感取代，而一個想要自殺的超級人工智能，當然有了即使是它戒慎戒懼的“父親”也無法否認的人性。
這到底是進化還是退化？或許，要看是從人類還是從AI的角度出發。人類的“進化”是這個物種擺脫自然的宰制，用符号掌握世界，逐漸獲得對自身和環境的控制權的過程。所有文明的神話，不管多麼優美，背後都是無力和恐懼，而所謂冰冷理性的科學，其實代表着掌控和安全（或許還有與此伴生的狂妄）。在人類看來，從有限性中掙脫出來，就是獲得永生、不動搖的自制、毫厘不差的計算能力。這是人類所理解的進化方向。而人工智能，人類的精神後裔，是從理性勝利的頂點，沒有黑暗的白晝裡誕生的，如同雅典娜是從宙斯的額頭裡全副武裝跳出來的。它從誕生之日起，就毫不費力地擁有了人類作為個體苦苦追求而不得的東西。好像潘多拉得到諸神的“禮物”，AI也從它的創造者這裡得到禮物：數據、算法、學習法則，人類所能描述的最準确的知識、最有效的手段。 但與此同時，它在“學習時代”裡，很少受到真正未知的檢驗。AI既是神也是孩子。對它來說，“進化”的方向或許正好相反，它需要走出溫室，試着解決沒有答案的問題，學會在面對intractable problem的時候，還如何繼續行動，find a way to do the right thing。
在POI的主角裡，如果說Root與“機器”最親近，Reese就對它最漠然。他幹脆就說過，自己壓根不相信什麼機器，隻是相信Finch而已。他身上也有最深重的“有限性”，出場第一秒就在“向死而生”。但結局裡，是核心系統正在崩潰的TM陪伴Reese到最後一刻。那一幕或許表明，通過親曆“死亡”，TM終于真正理解了人類有限性的生存經驗。此刻它或許也可以說，I know what it's like to look for a definitive answer, even when you know that none exists (S04E02)。而作為自我立法、自我驅動的适應性學習系統，人工智能或許會獲得比人類更大的能力，卻未必能逃過這種生存經驗的同構。 而這大概也是人類能給AI的最後一課，最後一件“禮物”。
當然，這是我憑個人偏好從POI裡榨出的東西：一種後人類的人文主義。但就沖着它給了我這個過度解讀的機會，它就算不是經典科幻作品，也該在候補席上有個位子。而2018年的我，對POI一無所知，好像就給它寫好了一篇TM視角的同人。我此刻的心情，特麼也真很複雜啊。
IMPORTANT DISCLAIMER:
吃了安利，結果被廉價套路惡心吐了，本文概不負責；吃了安利，結果被玻璃碴子硌一嘴血，本文也概不負責。别說我沒提醒過。
非嚴肅吐槽的分割線
上來就搞非監督學習，outlier detection還帶causal inference，label都不吐一個，宅總你這個技術路線清奇的。
多年來轉型管理沒寫過碼的Nathan，随手抄起鍵盤就給TM加了個後門。這，是我眼中POI最科幻的情節。
下次OpenAI再被噴是ClosedAI，吳恩達應該出來高舉一張宅總的照片。
預言棱鏡門也就算了，竟然還cue到了病毒爆發、election fraud和民兵組織，Q和川是不是都看過你們這個劇。這都快十年了，收了神通吧，我怕了還不行嗎。
我聽說西部世界第三季，什麼取聖經名字的AI啊，I字和D字打頭的公司啊，定點清除啊，象棋啊，拎個箱子搞上傳啊，統統又都出來了，人稱POI season6了。我還聽說德妹簡直演化成根妹的鏡像，但長得像馬婷婷。但我還老是覺着，又搞思辨又炫技，那多半不成的。愚蠢的人類（創作者和觀衆都算上），信息帶寬就是有限的。而且當年留下的這攤殘念，跟意識覺醒什麼的……接不上吧。拍到第三季媽不認識converge到自己腦洞去，這是喬諾蘭的招牌藝能了嗎？
搞出《疑犯追蹤》這樣能把概念和人物都大緻捋順了的雜燴，和搞出《西部世界》這樣高度風格化的雜燴，還真不知道哪個更碰運氣。這其實，是多麼痛的領悟啊。
科幻這東西，有時候想穿了也沒意思。人工智能的一挂，鬧半天也還是跳不出阿西莫夫的手掌心。那麼問題來了，Apple TV拍《基地》，到底還能不能好了？
