...

破2的第五集就我自己淺薄的見識,我也看見了歪導所想展露給我們的一部分隐患:人對機器的過度依賴、個人隐私的侵犯、就業問題、新的不平等關系、倫理關系以及人類的生存......

霍金先生曾說過,他的一生見證了社會深刻的變化,其中最深刻的,同時也是對人類影響與日俱增的,就是人工智能的崛起。霍金認為,人工智能的崛起,要麼是人類曆史上最好的事,要麼是人類文明的終結。

人工智能的好是我們普通人都見識到的,可以代替人類完成一些簡單、重複性、繁瑣的勞動,且在這些工作中擁有比人類更高的工作效率和準确性,解放出人類去從事更多創造性的勞動。

人工智能的一些便利在劇中大家也可以看到,但是本集更想展現的應該是人工智能的弊。

沒有手部模塊的小白、沒有語音模塊的阿傑和配備多種方言模塊的若愚在給自己本職工作便利的同時,因為過度依賴機器人的他們已經變成一座400多斤的肉山、一堆器官分割的盒子和一個隻知道購物的行屍走肉,老胡和樂樂更是成了隻有腦子接受給養的全職“勞模”,唐海狸就是個春卷,隻有莫菲還有相比自由的本我。

還有侵犯個人隐私這塊,老胡的權限可以直接強制開啟對莫菲等人盯盯樂的視頻連線,也可以查到他們的生活軌迹,機器人唐海星也是通過老胡的活動第一時間就知曉了他的異常。 人工智能對就業的沖擊在劇中以人類幕後操縱機器人上班來解決,這也隻能算是個理想狀态,我們都知道機器與人類不同,即使它必須連續工作十幾二十小時也不會累,持續工作效率也不會變,而人類需要時間休息來提高效率。

AI加劇關系的不平等在劇中也有體現,董事長實現了大腦永生,“你爸爸永遠是你爸爸”,而胡強莫菲小白若愚阿傑還是那個破事部,甚至連他們最後的肉體也會被剝奪丢棄焚燒,人工智能所提供的利益保留給了處于權力地位頂端的少數人。

如果此刻你的身邊都是人工智能機器人,你會受得了嗎?胡強的處境就是這樣,身處那時的環境,到處都是冷冰冰的。大膽設想一下,他身邊的同事真的就是本人在操縱嗎,還是被上級機械性的接管,還是AI已經産生了自我意識?當抓住擁有體溫的莫菲時,胡強仿佛擁抱了世界。

本集中自我感覺對AI失控的提及很少或者是歪導沒有直接說出來,關于人工智能擁有獨立意識問題,在作為人工智能管理部的高級主管唐海星要對胡強進行重置的有所提及,說明在劇中的世界裡對這方面還有所防範,但是這裡也并不能排除是已經産生自我意識的唐海星機器人通過所處的職位在處理中集結同類吧?人工智能具備了獨立的意識是我們普遍認知中最常見的一種擔憂,比起一些人利用人工智能做壞事,這種人工智能系統失控的潛在風險更難被察覺到,而人工智能一旦脫離束縛,以不斷加速的狀态重新設計自身,以人類這受到漫長的生物進化的限制,無法與之競争,将被取代。到那時,人工智能可能是人類文明史的終結。

早在1950年出版的美國著名科幻小說家艾薩克·阿西莫夫撰寫的《我,機器人》小說中,就提出了著名的“機器人三大定律”:第一定律,機器人不得傷害人類個體,或者目睹人類個體将遭受危險而袖手旁觀;第二定律,機器人必須服從人給予它的命令,當該命令與第一定律沖突時例外;第三定律,機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存。更在此之後加入了加入了一條新定律:第零定律,機器人不得傷害人類整體,或因不作為使人類整體受到傷害。這些定律早已越出科幻小說的邊界,成了機器人、人工智能研發的道德準則和行動指南,成了未來機器人必須植入的道德基因。但是!但是我們不能保證這四大定律可以一直保障,霍金先生曾有警告:“他們本身也是生根于達爾文的進化論之中,因此人類需要利用邏輯和理性去控制未來可能發生的威脅。”從長遠來看,人類隻能竭盡全力,來确保人工智能的發展對于人類和環境有利,我們别無選擇。

“我們站在一個美麗新世界的入口。這是一個令人興奮的、同時充滿了不确定性的世界,而你們是先行者。我祝福你們。”

人工智能是成就人類,還是毀滅人類,等待着人類自己書寫。