...圖片發自簡書App
AI 恐怕是七十歲的老人家心裡嘴上，第一個從裡到外認可的英語詞彙。單從這一點來看，所有人不得不承認：AI 成功了，無論從産品上還是戰略上。
一部智能手機，幾個社交媒體賬号，人們瞬間跻身為巨大的網絡的一個節點，接受網絡起伏波浪的推動的同時，貢獻着自己作為全網一分子的小小漣漪。
有一群人，在他們曾經全身心參與日後令人尖叫，欲罷不能的産品之後，在收獲了成功的驕傲之後，他們隐隐覺得好像什麼地方出了問題。
他們絕不是再次頭腦發熱地突發奇想，他們以超乎尋常人的敏感，表示了别樣的擔心：
AI 的設計基于人們心理中趨于成瘾的弱點；
AI 有可能成為誘導并暗中修改人們思維，強化偏執的工具；
AI将會成為政治幹預和擴散陰謀的工具；
AI 導緻了更多的成人精神病以及青少年的自殺率上升
他們意識到原來的工作已經偏離了方向。出于倫理的考慮，他們相繼離開原來的職位，轉而關注技術倫理的話題。他們受邀攝制組的采訪，從背後機制解釋AI到底做了什麼，闡述他們基于深層理解的擔憂。
...圖片發自簡書App
《The Social Dilemma 》于2020年九月在Netflix 公布，這部紀錄片采訪了許多炙手可熱的科技和社交媒體公司的前雇員，有工程師，設計者，更不乏執行總裁，行業專家。他們在肯定AI 給人們帶來的便利的同時，帶來了一系列寬廣維度的思考，而正因為他們曾經參與了核心應用和算法設計，才得以更加一針見血地指出刻不容緩的問題：AI 如同隐藏在人們興奮之下的一股暗流，無形的巨手像一個緩慢流動的藍色液體，悄無聲息蔓延至生活的角角落落，不知不覺的侵蝕和控制上升到了思維的層面。
前谷歌工程師，緻力于設計極具吸引力的顔色，按鈕，界面，使用模式挽留用戶，以獲取廣告的最長曝光時間。他解釋用戶在在線平台上的一舉一動如何被記錄，監視，追蹤，分析，度量，社交媒體公司如何基于所有這些數據，使用易于使用戶“上瘾”的操縱技術和心理誘導，增加用戶在廣告的停留時間，最終攫取廣告的巨額利益。
最初旨在從客戶的出發點設計應用的理念，諸如“人性化” ，“客戶體驗（user experience）”等，在忽略人文倫理考慮和金錢利益的誘惑下，走向了“技術成瘾”的不道德的另一面，很多工程師解釋了AI在分析和設計類似應用中扮演的強大能力，更凸顯了AI“不光彩”的角色。
Facebook 的“點贊（like）”按鈕，宣揚“積極”鼓勵的初衷被青春期孩子盲目追求同齡人的點贊所代替，在價值觀建立的關鍵時期，家長的善意建議在與潮水般媒體的态度競争中一度敗北，無形中形成了兩級分化：獲得點贊的被視為酷，成功者，相反的則陷入自我否定，焦慮，失望，自殘以及自殺的境地，在意同伴的看法随之導緻物質享受追求，怪誕行為炫耀等等扭曲的價值觀。數據顯示，成年人和中學生傷害，自殺率成倍增長的時間與社交媒體進入人們生活的時間吻合。
使用虛假信息獲利的商業模式在現代科技的幫助下變得輕而易舉，變得在沒有規範的約束下更加以最快的速度，最低的成本，向最終用戶傳遞信息。所有被采訪的工程師極其警覺地指出了AI以及AI 所構建的社交媒體在消息傳播中所起的推波助瀾的作用。“技術本身不是威脅所在，但是技術的強大能力可以給社會帶來威脅，更可怕的是沒有約束的技術的應用，實則是‘助纣為虐’的縱容”
被處理過的，部分事實的激進想法，政見分歧的影像，報道，評論，借助網絡快速延伸進入人們視野。AI的預測能力被使用在預測個人好惡，試圖在無孔不入的片段時間中，采用“讨好”的方法，不斷強化某種觀點，同時消弱不同聲音，阻斷聽取不同意見的渠道和途徑。誠如工程師所說，在看不見的影響，在感謝”投其所好“的便利中，利用非正面沖突，利用人性的弱點，不自覺更改意識（manipulate mind），這成為陰謀擴散和政治影響的最有效工具。一項數據表明，自從社交媒體出現，公衆對政見分歧達到前所未有的高度，這是媒體推送”喜好“的又一傑作。
《The Social Dilemma 》設計了一家五口日常使用智能手機的片段：媽媽規定在飯桌上禁止使用手機，把全家人的手機鎖在一個透明的塑料盒子裡。年幼的小女兒禁不住不時提醒的消息的誘惑，使用錘子砸開了盒子。兒子本和媽媽約定，如果能夠堅持一個星期不使用手機，媽媽将會付錢修複手機破損的屏幕。
小女兒把時間花費在擺拍自拍上，獲得朋友點贊是她最期待的事；兒子本沒有手機的日子，坐立不安，形同困獸，生活仿佛失去了意義。在第三天，他終究抵擋不住手機的誘惑，和心儀的女孩互動，上網跟蹤一個激進組織的動态，出于好奇，隻身前往遊行現場，在沖突中被警察被捕，連累試圖救助他的姐姐。
在本的每一次點擊查詢浏覽中，導演設計了畫外場景，所有點擊的數據均被收集分析，用來作為預測下一步行為，語言，甚至一個情緒圖标的發送。屏幕之後，AI所做的事情猶如三個聰明的工程師在操縱一個置于舞台上聚光燈下的提線傀儡木偶，數據流的彙集成變成了無數最最細微的藍色線條，成為牽制本的手腳，控制本的頭腦的千絲萬縷。
沒有絲毫誇大的場景，得以讓生活中的每個人，站在局外，清楚看到人們在日常生活中，如何嚴重依賴手機，又是如何一步一步被手機引導，控制而走向看似不可思議的結局。
原子的裂變可以成為強有力的動力造福人類，也可以制造人類曆史上的慘案；新興的AI，幫助人們生活便利的同時，也在以強有力的絕對優勢挑戰人類的倫理。
好在，有時代責任感的導演願意挑戰這樣的話題，有良知，善思考的工程師願意反戈一擊，以專家的身份幫助人們重新思考！
...圖片發自簡書App
