1

臉書、谷歌數位監控的未來...中國社會信用體系? 如何終結監控?書來面對 EP18《監控資本主義時代》下集 Shoshana Zuboff / 說書【資訊/社會科學】

超級歪 SuperY | 時政類 | Jun 13, 2021

此影片謄本由HarleyMomo製作

在上一集影片裡,我們介紹了監控資本主義的過去,這集影片裡我們要來談談監控資本主義即將帶我們走向怎樣的未來。因為這集影片的內容也會跟上集有關,所以可以先看過上集影片再來觀賞這集的說書喔。

【監控資本主義如何侵蝕下一代】
皮尤研究中心發現,1995年後出生的Z世代年輕人有95%的人會用智慧型手機,45%的人幾乎從早到晚都掛在線上。而另一份研究指出英國青年女性有35%的焦慮來源源自社群網站,看到別人在臉書、IG上的完美人生,就覺得自己生活不完美,彷彿要有很多讚才代表自己在社交市場上多有價值。但作者就提醒我們不要忘了,其實臉書的動態消息在2006年才上線,原本是必須到好友的頁面才會看到好友的更新貼文,但動態消息出現後,好友的更新會自動跳出來。這在當時造成成千上萬名使用者反對,認為自己的隱私被侵犯,但是現在我們卻希望讓越多人看到我們的日常生活。

為什麼會有這麼大的轉變呢?因為臉書設計了按讚功能,讓動態消息變成了社交注意力的戰場。臉書首任總裁Sean Parker就承認,臉書為了追蹤行為剩餘、增加監控收益,原本的設計就是構思一種「心理操控」,每隔一段時間就給你一點多巴胺刺激,這些刺激會以「讚」、「留言」的形式通知你,讓你對臉書上癮。

但心理學家發現,對臉書上癮嚴重影響了年輕人的心理發展。美國的發展心理學家Robert Kegan就指出,年輕人的「自我感」來自於他人的觀看,我必須透過讓其他人喜歡我才能感覺到自己的存在,而年輕人要能夠過渡到成年人的心理階段,就必須去區分自我與他人來發展出自我認同。「長大」的意思不是意味要完全獨立,而是能夠保持足夠的自主性、同時又能夠與他人有足夠的連結,心理學家稱作「關係自主」,就是讓人際關係跟自主性之間能夠保持平衡的狀態,但是監控資本主義為了收益,希望大家都一直掛在網上,這就導致還在發展人我關係的年輕人會心理失衡。他們一方面要求別人不斷的觀看,另一方面又不斷觀看別人的生活,如果一篇貼文沒人按讚簡直就是公開的懲罰。心理學家甚至發現,這種「社會比較」的心態有害青年的身心健康。越常瀏覽臉書的人會有越多的社會比較心態,也會造成越多的不滿、忌妒跟憂鬱的心理,每天為了根本不認識的追蹤者煩惱著要怎麼經營自我形象,結果心理健康的起伏就隨著按讚、分享的高低起伏。所以心理學家的結論是:滑臉書無助於身心健康。

在這裡我們就可以看到,臉書的設計其實已經違背了第二現代性的承諾。原本承諾我們網路是讓人可以創造自己的人生,但是現在大家都為了滿足在臉書上「想像的觀眾」,改變自己現實生活中「真實的人生」,而這個結果正是臉書想要的。只要大家越焦慮、越努力在臉書上發文爭取更多的讚,臉書就可以得到越多的行為數據、賺取監控利益。

下載檔案

下載檔案

1

1

營運經費相當貧乏,敬請體諒我們投放少量Google Ads!

1

【監控資本主義社會有自由嗎?】
上集影片播出後,有些網友會留言說,如果人家免費給你服務,你也免費給人家數據,這本來就很合理啊,反正就算發廣告給我,我還是有自由可以選擇不買。但是作者就指出,監控企業為了賺取最大利潤,不會只停留在廣告收益,還會想辦法「誘發」你做出特定行為。

例如Google就發現「遊戲化」是改變人類行為最好的方法,所以Google的人就去創建了一家遊戲公司Niantic,開發了一款名叫 Ingress 的攻塔遊戲做實驗,發現只要把真實世界變成遊戲版圖,就可以不知不覺地改變玩家在現實生活中的路徑,玩家只會以為自己是到特定地點「攻塔」、「守塔」,而這款遊戲其實就是為了開發《精靈寶可夢GO》所做的初期實驗。《精靈寶可夢GO》在2016七月發行 ,大量的遊戲人潮在一週的時間內就讓酒吧業者銷售額上升3成。Niantic因此發展出新的商業模式,跟日本3000家麥當勞、還有美國1萬2千家星巴克合作,把這些商家變成道館,就會有大量玩家到商店裡消費。你以為你是精靈寶可夢裡的玩家,其實Niantic跟這些商家才是真正的玩家。收服大批人潮後,把玩家馴服成消費者,讓你做出他們想要的商業行為。

美國的電玩研究專家Ian Bogost就認為,這種把行為操縱當成目標的不叫做遊戲,應該叫做剝削工具。所以這裡的問題就在於,玩《精靈寶可夢GO》的玩家認為自己在「遊戲裡」是自由的,可以抓取任何他想要的寶可夢。但是在現實裡,玩家會走進哪一家店,卻是被監控企業設定的「道館」、「撒花地點」決定好的,那麼這樣到底人們有多大程度是自由的?哲學家漢納鄂蘭就認為,未來的主要特質就在於它根本不可確定、不可預測,我們必須靠自己的計畫跟意志力,努力實現某個我們想要的未來。而這種努力創造未來的「自由」恰好就是源自未來的不確定性,但是監控資本主義為了賺取收益,卻試圖去除這種不確定性,剝奪了人們的「未來式權利」,未來變成確定性的我們,還稱得上算是自由的嗎?

【機器控制主義VS. 極權主義】
有些人可能會說,雖然監控資本主義做了許多行為操控手段,但至少不像蘇聯、中共這些極權國家的監控,會讓你直接被消失,所以比起來,監控資本主義還是比較好。作者認為,雖然Google跟臉書現在常常被稱作「數位極權」,但我們不能用20世紀極權主義的概念來理解當今的監控企業。因為極權主義的特點是,用黨內的歸屬感來推動國家事務,所以人民要徹底忠誠於黨,若有人敢違抗就會招致暴力手段。但是監控資本主義卻是一種「沒有恐怖的暴力」,它不會強制要求你做某件事,而是用數位環境來刺激你,促發你做出某種行為,而且你完全不會覺得自己被控制,反而覺得自己活在自由民主的社會,但其實在數位世界裡卻早已被形塑成滿足企業利益的工具。作者把這種比極權主義更高竿的操控手段稱作「機器控制主義」,就是為了預測、修正、控制,而將人類行為機器化,彷彿人只是接受指令的機器人一樣,監控資本家給什麼指令,人們就怎麼動作。

1

1

目前致力於開發機器控制技術的先驅人物,就是MIT媒體實驗室的資訊科學家Alex Pentland。近十年來他試圖創立一門「社會物理學」,將人類的行為資訊完全數據化,然後用這筆大數據資料來改造整個社會。例如在2009年,他們讓24名員工穿戴感測器,搜集他們的個人行為、社交模式、說話的親和力,再將這些數據整合成一個「企業度量板」,讓主管可以隨時監控,藉此糾正員工行為、提升整個公司的績效。後來美國銀行的主管用了這套系統後,就把休息時間安排在同一時段來增進員工互動,結果產值一年就提升了1500萬美元。

所以Pentland就更一進步設想,如果把這種機器控制用在整個社會呢?像是你才剛生病,電腦就偵測你的生物指標、幫你安排好健康檢查;你才剛到公車站,公車就直接出現。Pentland甚至宣稱,這套社會物理學可以創造一個沒有戰爭、金融危機、疾病傳染、交通阻塞的世界。雖然聽起來很理想,但是這立刻會引發一個問題—就是由誰監控?如果是按照目前的情況,只有監控企業看得到我們的行為數據。人工智慧能夠不斷利用我們的數據來學習、更新演算法,但我們的數據如何被奪取我們卻一無所知,作者把這種知識的不對等稱作「社會學習分化」。

除了這個問題以外,還有更大的問題是,機器控制系統可以利用數據流量讓人「隨波逐流」。像是臉書在2010年美國國會期中大選時,就偷偷做了一項實驗,改變6100萬個臉書用戶的動態消息。其中一組會看到 「鼓勵大家去投票的訊息」,還有「哪些朋友也去投票」;另一組則只會看到「鼓勵大家去投票的訊息」。結果發現,向用戶顯示朋友投票的訊息,可以顯著提升動員效果,增加34萬人去投票。在2014年,臉書又暗中對68萬用戶做了一項「情緒感染」實驗,一半的人會看到動態時報呈現較多的正面消息,另一半的人會看到動態時報呈現較多的負面消息,結果顯示兩組用戶的情緒狀態都不知不覺受到了影響。

原本資本主義都是預設人是理性自利的動物,但是從這兩次臉書的大型社會實驗就可以看出,其實人並不是那麼理性的「經濟人」,而是容易受群體行為影響的「模仿人」。當我們知道朋友都有去投票時,就會有社會壓力,改變我們的行為;當我們知道朋友都過得很負面時,就會有社會感染,改變我們的情緒。如果臉書可以操縱情緒、策動投票,未來還有什麼是做不到的?如果未來必然會照著監控資本家的劇本走,那麼我們到底還有多大的自由?

1

1

【機器控制主義的未來 中國社會信用體系】
我們可以來想像一件事情,如果按照「機器控制主義」的這套計畫,未來這些監控企業可能會發展成什麼樣子?

作者認為機器控制如果發展到極致,可能就會像現在中國的社會信用體系。為了創造理想中的「和諧社會」,中國開發了一套線上監控系統「金盾工程」,一旦你在網路上的訊息出現敏感字眼,像是「六四天安門」、 「西藏獨立」、「台灣獨立」,中國的網路偵測器就會停用你的網路帳戶。而近幾年中國更開發一套「社會信用體系」,透過監控技術來掌握公民與企業的所有資訊,包括你去哪裡、買了什麼、認識了誰,試圖透過國家改造公民的方式來建立一套誠信文化,解決中國社會充斥詐騙、缺乏信任的問題。

所以在2015年,中國央行推出一項計畫,要各大電子商務企業用大數據分析做出個人信用評分,例如阿里巴巴推出「芝麻信用」,透過各種數據來分析你的人格,像是念什麼學校、開什麼車、消費習慣都買什麼、繳帳單準不準時,還有你交友圈的品質,這樣一來就可以評斷一個人是「好人」還是「壞人」。短短兩年的時間,「芝麻信用」就累積四億用戶,控制了這些用戶各方面的生活。接著芝麻信用又與中國政府的「社會信用體系」合作,這個體系裡有一個「失信被執行人名單」,你如果被加入這個黑名單,就會遭到懲戒,像是不能買機票、火車票、不能買房、小孩不能讀高級私立學校。被這種信用評分登記上黑名單的人發現,這套系統會帶來一種可怕的惡性循環。如果你的信用分數降低,好友怕被你影響會刪你好友,結果演算法注意到你少了一個分數高的好友,又會降低你的信用分數。

作者就認為,雖然中國不是民主國家,但我們難保西方監控企業未來不會朝這個方向前進。例如美國的一家情報公司Geofeedia,就是專門追蹤社運人, 像是綠色和平組織的成員,然後計算這些人的「威脅評分」,再把這些資料賣給美國的警察局。所以中國跟西方的監控系統差別是在於,在中國,是為了保證社會的特定秩序,國家利用機器力量控制人民;在西方,則是為了保證市場的商業利益,企業用機器力量控制人民。所以我們應該要問的是,監控資本主義的未來是要中國化?還是要民主化?

1

1

【如何反監控資本主義?】
上集影片播出後,有些網友會留言說,你在那邊批評Google、臉書,結果自己還不是用得很開心。這種說法其實完全誤解了批評的意義。作者批評監控資本主義是因為他反對監控,而不是因為他反對科技。我的立場也跟作者一樣,關鍵在於如何讓科技為社會的利益服務,而不是為資本企業服務。所以在這本書的結尾,作者提出了三個重點,告訴我們如果要改變監控資本主義,未來有哪些可以努力的方向。

一、改變不平等的社會學習分化
資本主義在18世紀出現時有個關鍵特色,就是自由市場源自於無知。經濟學之父亞當·斯密最早的構想是,之所以要有自由市場,不能有其他力量干預,是因為沒有人有辦法知道市場的全貌,所以要讓市場運作最好的辦法,就是每個人都為了自己的最佳利益考量來做決定,這樣就會有一隻「看不見的手」來調節供需,使社會朝向最大利益。所以資本主義的神奇之處就在於,在每個人都對市場無知的情況下卻反而讓市場能夠有效運作,但是現在監控資本主義完全不是這樣。因為監控企業可以預測消費者行為,甚至用行為修正手段製造消費需求,同時又可以把行為數據賣給企業來製造供給,所以監控資本家對市場幾乎是一種「全知狀態」,而一般大眾卻無法知道自己的行為數據,這種不平等的社會學習分化帶來的結果就是權力完全不對等。以前自由市場的前提是大家都無知,市場會自我調節,但是現在監控資本家全知,還享有跟以前一樣的自由。結果監控資本主義反而變得很像極權主義的計劃經濟,完全隨心所欲地操控市場。

二、轉型為互惠式經濟
以前20世紀的資本主義之所以可以運作比較好,是因為整個社會成員彼此有互惠關係。例如福特 (Ford) 給他的員工高薪水,讓他們有消費能力,這樣他們就可以去市場上購買福特製造的汽車,公司利潤提升又可以反過改善服務品質、帶動員工薪資成長,但是監控資本主義卻只追求利潤,斷絕了這種互惠關係。最明顯的證據就是,你覺得臉書改版後有變比較好嗎?臉書的高階主管Andrew Bosworth就直接承認,大家都在使用的產品才是贏家。谷歌跟臉書都是想網羅更多的用戶,而不是提供更好的服務,所以網路上的仇恨言論、假新聞,不管內容資訊有多少錯誤,只要有助於增加點擊率,監控企業的演算機制就會偏好散播更多的假新聞。有學者估算在2016年美國總通大選前,網路上的假新聞跟錯誤消息流通量多達7億六千萬,等於每個美國人平均讀到三則假新聞。Google甚至曾經為了廣告利潤刊登非法醫藥廣告,結果被美國司法部罰了5億美元。所以其實監控企業已經違背了自己原本的承諾,原本聲稱搜集行為數據會用來提升服務品質,讓演算機制更好,結果卻是拿來賺取更多利潤,甚至不惜犯法也要散佈不實資訊。

三、要求民主的法律管控
最後,如果要改變社會學習分化、轉向互惠式經濟,最重要的就是第三點,要求民主的法律管控。我們可以發現過去兩百年來,被資本主義商品化的東西,其實都有法律管控,土地有環境法,勞動力有勞動法,資本有銀行法,但是最新的商品「行為數據」卻沒有法律管控。目前最嚴格的個資保護法是2018年歐盟的一條新法規—「通用資料保護規則」(GDRR),規定個人資料預設為禁止公開,而且個資外洩時必須通知當事人,這條法規上路算是給監控企業一個震撼彈。結果在2018四月底,原本臉書在愛爾蘭的國際總部,就把新版的服務條款改成由美國隱私法管轄,所以你還是管不到這些監控企業。作者就認為,未來的法律改革只有隱私權已經不夠了,更應該把「未來式權利」視為人權之一,因為我們是史上第一次遭遇到未來被監控企業綁架的一代。美國哲學家John Searle就指出,人權的概念其實都是源自人類集體遭受威脅時才有的。例如對人類來說,呼吸比說話更重要,但是為什麼法律上沒有訂立「呼吸權」是人權,而只有「言論自由」是人權?因為言論自由在歷史上曾經遭受到威脅,正是有失去權利的經驗才讓人們意識到它的重要性。就像工業革命開啟的工業資本主義破壞了自然生態,所以讓我們知道必須立法規範,才能給後代永續的環境。現在數位革命開啟的監控資本主義則威脅了人類的開放式未來,我們面臨的恰好就是「未來式權利」遭受威脅的時刻,所以必須用有創意的集體行動來填補這個法律真空。

如果你還想知道更多關於監控企業的內幕,還有如何挑戰監控資本主義,你一定不能錯過這套書《監控資本主義時代》,一起理解我們到底身處於什麼樣的資訊時代,才能一同打造民主的數位化未來。

「數位未來應該存有人性,要求數位資本主義應成為一股涵納的力量,必須對服務對象負有義務,捍衛社會的學習分化成為真正民主革新的動力來源。」—《監控資本主義時代》

1

IMG_1410.PNG

在囚手足能夠接觸外間資訊的渠道寥寥可數,Youtube 機頂盒為每星期從 Youtube 上挑選不同種類的專題影片並製作成謄本、印刷成信件並寄到在囚手足手上的長期計劃。

你唔需要使用真實身份同披露自己地址就可以同手足做筆友喇!

立即登記成為筆友啦!話俾在囚手足知我哋無忘記佢!

其他最新謄本

https-::www.youtube.com:watch?v=TSJwMZvw

#227 超過28類魚種,集郵好去處 | 香港釣魚 | 艇釣 | 布袋澳

Handline Fishing手絲釣魚 | 娛樂類

https-::www.youtube.com:watch?v=TSJwMZvw

#226 3個人陪2個人釣魚 | 根叔 | 香港釣魚 | 艇釣 | 維港

Handline Fishing手絲釣魚 | 娛樂類

https-::www.youtube.com:watch?v=TSJwMZvw

試映劇場《係咁先啦》|試當真

試當真Trial & Error | 娛樂類

https-::www.youtube.com:watch?v=TSJwMZvw

試映劇場《老喵之報恩》|試當真

試當真Trial & Error | 娛樂類

https-::www.youtube.com:watch?v=TSJwMZvw

【東京奧運】🏆奧運的幾種人🏅香港運動員勁呀!🇭🇰|Pomato 小薯茄

Pomato 小薯茄 | 娛樂類

0