困惑、混亂、不知說措、瘋狂、擔憂......

利用算法來改變和控制一個人的行為這是一件恐怖且真實存在的事情。你在某社交媒體上和别人聊天,發完一句話後看見對方框上寫着“正在輸入中,”你會怎麼樣?呆下來停一會。你在購物,看見太貴想要點離開界面,然後跳出來一個紅包,上面顯示“滿減,”如果價格合适,你肯定會下單,心裡美滋滋的。

虛假信息會使人害怕和擔心,會使人不能冷靜地思考,會導緻輿論導向......而更令人恐怖的是,它是那麼的吸引人!也許當了槍手還不知道自己已經被操縱了。

一個現實的世界,一個虛拟的世界,有數據表示青春期前的少女自殺率、抑郁率直線上升,而節點正是第一批初中開始接觸社交媒體的女孩們,為了社交認同,花費了大量的時間和經曆,心情也會随着一個贊,一個評論而大起大落.....

某app算法的創作者設計了“陷阱”給用戶們,回到家在不知不覺中自己也掉了進去,幾個小時......

任何極其先進的技術都極其類似于魔術。

勸服性技術,可以說是極端應用的刻意設計,我們真的想去修改一個人的行為,我們想讓他們這樣做,我們想讓他們繼續用手指這樣做。你有意識地使用産品,還遠遠不夠,我想深度侵入你的大腦根部,在你腦中植入一個無意識的習慣,讓你在更深的層次被編程,你自己都沒有意識到。

随着時間發展不停運行這些實驗之後,就能發展出能讓用戶做你想讓他們做的事的最佳方式,這就是操縱。

如果一個東西是工具,它就會忠誠地坐在那裡,耐心等待;如果一個東西不是工具。它會在你身上有所求,引誘你、操縱你、想從你身上獲利。我們已經走過了以工具為基礎的技術環境,來到了以緻瘾和操縱為基礎的技術環境,這就是技術環境的改變。

社交媒體不是原地等在那裡被使用的工具,它有自己的目标,有自己的方法去實現這些目标,利用你的心理來對付你。

我們接受了呈現在我們面前的世界就是現實。

社交認可

有實驗數據稱某特上傳播的虛假新聞比真實新聞傳播速度快六倍。(我們創造了一個偏心于虛假消息的體系,并不是因為我們想這樣做,而是因為虛假消息比真實消息能讓各個公司賺到更多錢,真實消息比較無聊)

**的一個問題是作為一個有勸說性質的工具,它或許是史上最偉大的發明,現在你來想象一下落在獨裁者或者集權主義者手上,會怎樣?如果你想控制你們國家的人民,從未有過像**這樣有效的工具。

算法和操縱人的政治家在學習如何激發我們的方面變得非常專業,非常擅長制造我們容易接受的虛假新聞,假裝着就是事實,給我們造成混亂,讓我們相信這些謊言。我們似乎對自己是怎樣的人、自己的信仰,有越來越少的控制權。

人們談論人工智能,好像人工智能知道真理一樣,人工智能無法解決這些問題,人工智能無法解決虛假新聞的問題。

人工智能會更加擅長預判什麼内容能讓我們持續盯着屏幕,而不是做出更差的預判。

不論是烏托邦還是毀滅都是一場一觸即發的接力賽,直接通往最後一刻......

批判者才是真正的樂觀主義者。

感——影《監視資本主義:智能陷阱》