【書摘】《隱形牢籠》

時報出版

第七章  極權主義4.0

你是個好人嗎?你對社區和社會有正面還是負面影響?這些是多數人經常自問的問題。至目前為止,答案基本上很主觀也無法測量。中國的目標是徹底重新恢復個人私德與社會公益,不只是觀念,也包括實踐。中國領導人正設法對全國老百姓落實革命性的社會信用系統,有些人悲觀地稱此舉是「大數據遇到老大哥」:

想像你在這麼一個世界,許多日常活動不停受到監控與分析:你在實體店面與網路商店買了什麼;在某個時間,你人在哪兒;你的朋友是誰,你如何和他們互動;你花多少時間上網、打電動;你支付了(或沒有支付)哪些帳單、繳了什麼稅……現在,想像有一個系統,上述這些行為會被評定為正或負,然後濃縮成一個數字,給分標準是根據政府制定的規則。

儘管國外批評人士擔心會出現最壞的情況,但中國政府將這定調為現代「社會主義」社會創新的一環。中國政府宣稱,這個以數據為本的「信用」制度勢在必行,「建立誠信文化,落實誠信與傳統美德,以守信的激勵和失信的約束為獎懲機制,目的是提高全社會的誠信意識和信用水平」。在實務上,不良的社會信用評分會限制你出遊,降低你的網速,你的小孩無法進入一流學校,你也無法找到好工作,無法進入高檔旅館,被貼上「壞公民」的羞辱標籤。在已開始實施社會信用制度的城市,一些公民已經見識到其正向成效。三十二歲的實業家陳先生表示:「我覺得過去六個月來,大家的行為愈來愈好。例如,我們開車時,現在一定會在行人穿越道前停下車禮讓路人。如果你不停車,你會被扣分。起初,我們是因為擔心被扣分,而今則是習慣停車禮讓了。」

儘管有人給予肯定,但這套系統依舊讓人打從心底擔心人類自由的未來。最起碼,它「讓人民承受成為模範公民的壓力」。它代表可能不是那麼混亂,但堪比二十一世紀的數位文化大革命,而且此現象不僅限於中國。誠如著名技術理論學家亞當.格林菲爾德(Adam Greenfield)所言:「這絕非中國所獨有,所以會擴大到其他地方,(一旦)別處的條件也成熟。社會信用的到來,預告了世界各城市的生活將會出現戲劇性的重大變化,這也包括你可能稱之為家的地方。」

但是原則上,它也可以充當為一次激進的機會,藉由大數據讓企業和政府更負責,因為它們的數據必須被公開追蹤與分享。不過實務上,一個更壓榨的現實埋伏在角落,蠢蠢欲動。社會信用制度的政策在貴州這樣的窮鄉僻壤先行上路測試,並非巧合,這裡的規定少,公共關注度也低,所以吸引了科技巨擘,諸如谷歌、微軟、百度、華為、阿里巴巴,皆陸續在此成立研究機構與數據中心,蘋果(Apple)在二○一八年稍後跟進。就此而言,「作為中國數據中心的地位,貴州雀屏中選成為地方政府實驗社會信用制度的理想實驗室」。這點揭露了科技界試圖把對數據那種「多還要更多」的無止盡欲望,結合了追求社會進步與文化美德,這景象頗振奮人心,但聽起來也非常極權。

中國的社會信用制度只是最新又最明顯的威脅,顯示全面可行、市場化的數位極權主義(digital authoritarianism)威脅並非空穴來風。這是當代的壓迫形式,建立的基礎是,我們生活裡有愈來愈多面向可被轉換為量化的數據,成為監控我們的主要資源。因此,「許多國家陷入陣痛期,辯論政府可對人民的監視程度。但是在其他國家,對國家監控權的約束少之又少(如果有的話),因此數據獨裁已經近在眼前」。同樣讓人不安的是,「大數據、老大哥、大把銀子」三者之間的關係日益綿密複雜,催生了「智慧」鎮壓。

這些政策以及隨之而來可能成真的做法,再一次引起大家的疑慮,不禁要質疑演算法在人治(human governance)上的角色;演算法成了一種「迷思」,祕密控制我們的生活。各種演算法的影響力愈來愈大,規範我們的人際關係與社會,影響程度之大,前所未見。它們放棄使用數據調查所在的世界,改而愈來愈集中於「繪出」(mapping)我們生活、行動、想法的全貌;這麼做,靠的不是監獄的瞭望塔、政府到家裡安裝的電視監視器,或是街上的監視攝影機,而多半靠的是你手上行動裝置的應用程式,可能是你主動下載,但更常是你沒有掏錢買的程式。

新的老大哥並非電影裡或海報上那個凶巴巴看著你的獨裁者,而是無所不知的數位「雲」,會「連續、全程、偷偷分析你的數位足跡,這些數據來自於你的種種行為,包括工作、購物、睡覺、飲食、運動、溝通」。這種侵入性監視受惠於我們持續產出的「數位軌跡」(digital tracks),這些數位軌跡是我們在線上凡走過必留下的痕跡,被資本主義體制下的政與商所用,進行經濟剝削。但我們也不用全然絕望,這些侵犯個人自由及隱私的行為,同時也助長了各種形式的反抗。對抗這種侵入式的監控,叫做反監控(sousveillance),亦即受監控的對象重新定位追蹤與監看的鏡頭,以便更清楚地「看見監控者」。例如現在有一種「haccessible」眼鏡,可以記錄你的活動與行為,萬一你被冤枉,被指控犯了罪,可以將此作為「數位不在場證明」,還自己清白。就政治上而言,手機讓每個市井小民可以拍下警察與政治人物,揭露他們濫權的一面,並將其醜行上傳到更大的網路世界。

不過,此一最新版本的威權主義實例及其堅定的反對者,並未說明全貌。關於以數據行壓迫之實,背後有更黑暗的一面:在我們日常生活的決策模型裡,演算法會發揮威權角色,甚至到了不受人類控制的程度。其實,人力(human power)的功能被限縮到執行數據統治者下達的「客觀」決定,以及監督那些膽敢反抗的人。如果這聽起來過於牽強,那麼考慮一下這個已經出現但規模較小的實例:航空公司往往會超賣機位,然後利用複雜的演算法決定把哪一位持票旅客趕下飛機;超賣以及趕乘客下機的做法雖違反「常理」,但至今員工或旅客仍拿它沒轍。值得注意的是,「一旦啟動,威權式決策(不容反抗,照做就是!)可能導致暴力升級」。

它也助長了當代公民一種矛盾但由衷的渴望,亦即克服世上種種艱鉅的挑戰,畢竟全球資本主義在當今給世人製造的問題似乎甚過福祉。因此「臉書、谷歌、『大數據』革命,削弱了西方民主,反而使威權國家的影響力上升,強化它們應對全球化挑戰的分量」,尤其是讓計畫經濟的想法死灰復燃,主張大數據是有效協調與組織經濟關係的關鍵。據稱,「現代世界數據暴增說不定(至少理論上)可以提供所需資訊,大幅提升管理決策,降低計畫經濟與市場經濟之間的資訊失衡。中央計畫者快速取得工具,可以更有效地處理與消化數據」。

本章將詳細敘述數位技術如何對極權主義構成了政治風險。值得注意的是,這描繪了一個令人不安的未來,不久之後,我們所做的一切都會受到滴水不露的監控與分析,以評斷其經濟價值。本章也會揭露這種「極權主義4.0」如何讓菁英階層藉由更新的技術進一步規避個人責任,以及繼續放任資本主義系統性地逃避責任。本章建議,我們應該擺脫「監控」或「反監控」,進入「全面監控」(totalveillance)時代,在這個環境裡,所有人都試著二十四小時彼此監督與競爭,看看誰可以在全面監控的文化裡受益最大。本章將透過分析包羅萬象的「虛擬力」以得出結論,虛擬力漸漸被去個人化,無限延展到我們一切虛擬與具體的互動上。

封閉的情資

二十一世紀原本應該是民主的黃金期,蘇聯解體,象徵專制與獨裁統治結束。當然這並非一夕之間發生,但大家預期自由市場、民主化是未來的必然趨勢,過去所有形式的暴政都會被這巨浪吞沒。沒想到這些夢想在短短數十年後,成了夢魘。新的千禧年第一部分,已被威權主義與非自由主義(illiberalism)破壞,很大程度顯示,資本主義(儘管樂觀人士稱,它是通往民主的唯一必經路徑)為國家壓迫、文化暴力、寡頭統治、大規模監禁等大開方便之門。22不過,數位進展改變了高度依賴技術官僚統治(technocracy)以及壓迫的現象,把數據定位為「智慧」管理的最終可用資源,幾乎不需人為干預。數據提供「客觀」知識,靠的是預測分析、即時政策工具技術,從而在宏觀及微觀層面上,重新塑造權威。

數位治理的好處之一是大幅提升透明度,對於相對封閉以及視資訊為力量的社會,「開放資料」(open data)有明顯的吸引力。因為按理,這可讓資訊從封閉的高牆後被釋放出來,提供我們未經修飾、更精準的分析,有助於我們了解自己及所處的社會。然而這類披露,「開放」的程度不見得如我們所認定的。值得注意的是,「中介技術(mediating technologies)在這裡指的是揭露工具,它們擁有獨特的組織特性,對於監控具備重要功能。它們扮演重要角色,試圖揭露客體、主體、行為背後隱而不見的現實,也有助於建立或瓦解組織內與跨組織的關係」。因此,如何讓資料「開放」以及為什麼要「開放」,會左右當代社會關係、透明度論述,乃至問責制的關鍵。此外,還有其他值得注意的面向:誰是促進開放資料的「資料中間人」?其動機與意識形態是什麼?因此,這清楚說明了,政府宣揚「開放性」的重要性之際,卻也積極起訴愛德華.史諾登(Edward Snowden)這樣的吹哨者。史諾登一案揭露了國家贊助的監控機構偵蒐的廣度與深度之大,令人瞠目。這些疑慮因為「數據黑暗時代」風雨欲來而雪上加霜,大家擔心大量的網路資訊因為儲存在過時的系統裡,可能會憑空不見或受損。因此,當今我們務必要問,哪些資訊是被公開攤在陽光下,哪些是被隱藏在數位陰影裡。

相較於我們在數位知識上的落差,更重要的是,數據如何包裝人類的偏見與不平等,讓它們披上高科技外袍,顯示出科學上的「客觀性」。即便是最基礎的水平,有偏見的抽樣也往往會讓大數據偏斜,之所以有偏見,是因自我選擇(self-selection)之故。也就是說,人的因素被忽略了─誰在收集他們的數據?收集者在明與在暗的偏見如何汙染了這樣的共享?除了有偏見的抽樣,演算法在深度學習與分析的過程中,還會重複系統性的種族主義、性別歧視、恐同症與階級主義。它所提供的情資會延續這些系統性的偏見,甚至透過據稱是意識形態中立、不受人類干預的演算法,而強化了這些偏見。

可以預見,大數據已成為政治與社會的武器,作為更廣泛控制的一環,用於鎖定歷史上被邊緣化的人群。例如,它進一步豎起一系列藩籬,阻礙窮人取得社會福利與改善經濟的機會。在當今時代,可以公平地說,數據有助於富者更富、窮者不幸地變得更窮。數據也用來監控少數團體,以便能訓誨與規範他們的行為,這延續了長期以來倚賴技術維持現狀與權力分配的做法。一如媒體正義中心(Center for Media Justice)創辦人暨執行總監梅爾基埃.西里爾(Malkia A. Cyril) 所觀察到的:

早期的技術以及在背後支撐這些技術的政策與做法,目的是區隔公民與奴隸。當年的奴隸通行證、在奴隸身上烙印、燈籠法(lantern laws),猶如現代的手機追蹤程式、臉部辨識軟體、穿戴式攝影機。然而今昔做法的目的與功能實則如出一轍─差別在於現在進入了數位時代。這些技術與各個層面的執法過程互相結合,包括了預測性演算法,評估審判前的風險與犯罪活動,以及廣泛應用於警用的技術,受到的監督少之又少,甚至完全沒有。這些技術(包括偽基地台、監視攝影機),應用於有色人種社區(尤其是非裔)、移民、阿拉伯裔和穆斯林。在每一種情況下,技術與演算法被譽為對抗偏見的關鍵,儘管有充分證據顯示,出自歧視性做法的數據會強化而非消除偏見。

這顯示數據情資(data intelligence)漸進式、帶目的性的壓迫形式已經崛起,為的是捕獲愈多數據愈好,然後在策略上盡可能利用蒐集到的數據,實現支配與獲利的目的。這猶如變形的軍備競賽,核心是誰擁有可蒐集以及有效利用最多數據的技術,而這反過來代表了一種全新的監控形態,亦即一種「結構上不對等」的監控,畢竟「僅有那些可進入數據庫、握有處理權限的人可以進行監控……同理,這樣形成的知識必然是不透明的;並非可共享以利了解這世界的知識,而是行動情資(actionable intelligence),目的是落實一個非做不可的措施,或是回答數據庫掌控者心裡的疑慮與問題」。因此,我們已經從迫在眉睫的末日式威脅(大規模毀滅性武器),轉變為隱蔽但同樣危險的「數學毀滅性武器」。

實時專制

大數據不僅升級了傳統的威權主義,也快馬加鞭提高其速度。事實上,政治和宰制很大程度上只是時機的問題,例如,不同的思想與意識形態有時代性,可以精準地根據「時間性」加以判斷它們屬於哪個年代,並從中找出不同的思想與意識形態如何影響所在年代的人,對時間的理解與體驗。具體而言,為社交與治理方式設下截止日期與時間表,對於維持現狀有巨大的「政治價值」。當代逐漸掉入「虛擬時間」的陷阱,它可根據每個人的需求靈活地客製化,然而,它也包含二十四小時實時監視和監控,以便確保時間能被善用,提高產能與獲利。

治理本身迅速擺脫了人類時間。傳統上,統治權建立在統治者擁有清楚的地理版圖與統治時間,傅柯稱這是「國家控制」(étatisation),創立一個界線分明的國家,統治者代表這個國家,負責制定短期與長期的戰略及狡猾的決策。現代民主出現,進一步制度化了時間,所以會定期舉行選舉,官僚式的治理方式與作業也有固定的時間表。而今數位化時代,需要不斷更新數據,承受全球資本主義二十四小時「不停機」的壓力,讓傳統的時間觀顯得過時。取而代之的是,根據「客觀」資訊提供即時、可預測結果的機制,以便迅速而明智地做出重要決策。數位時代需要後人類形式的統治,這類統治很大程度上不受人類監督。為此,「以大數據為本的做法有助於即時反思與覺察,同步管控出現的危機與問題,這麼做有助於培養自我管理,提高社會的韌性與適應力」。

再過不久,將出現嶄新的技術官僚統治,煥然一新是因為既要根據即時數據定期更新,又要壓抑我們對於資訊「多還要更多」的無止盡渴望。「智慧」治理需要即時數據支撐,從而導致「技術官僚式的治理與城市發展;企業化的城市治理與技術鎖定(technological lock-in);脆弱、可被駭、可被全景監控的城市」。這個仰賴演算法的統治方式可以監視我們個人舉動,以便能沒完沒了地監控、指揮我們的集體發展。既有的人類偏見搭配「智慧」治理,「客觀地」再現既有的不平等及系統性的歧視。影響所及,打著「技術官僚的價值以及發展不公」的名義,將民主打入冷宮。

不過,這種仰賴數據的專制統治,並不僅僅是監督公共政策,說不定也可用於指導我們作為數位公民(digital citizen)的行為。它代表了個人與社區落實自動守規矩的可能性,遵循一系列高科技工具以及往往隱藏的暗示,落實社會期待的價值與行動。這種對人類行為細膩而強迫性的管理,當然並非前所未見的新鮮事,例如,在資本主義下的工作日,學校如何按日程表操課?其中一個方式是敲鐘提醒學生上下課時間到了,或是每完成一個活動就敲一下鐘,彷彿學生是工廠的僱員。然而,當代在一個關鍵面向上和以往有所不同,它會不知不覺地利用公民嘗試不同的社會存在狀態與時機,以便最大化效能和獲利。想像出現「瓦登3.0」(Walden 3.0)─「隱私問題被視為『掌控資訊』,顯而易見的是,在數位世界,有些領域可能通往我所謂的瓦登3.0;社區會受到各種測量工具及實驗的影響與控制」。大數據的部署若是為了解決塞車問題,或是改善看病的等待時間,肯定會受到大家歡迎,但是,它們也有恐遭濫用的風險,例如蒐集更多資訊,方便剝削他人。

值得注意的是,這種自動化的政治學,操弄大家愈來愈樂見出現更「開放」的社會與更高的社會可見度。儘管演算法隱身在幕後,但它所倚賴的數據倒是能讓我們所有人看見,因此,這在表面上具備了透明度,合法取代了公開審議與民主問責。大家接受數據也許治理了我們的國家,並規範了我們的生活,但是過程中所用的數據必須開放且清晰。同理,以公開方式進行的數位羞辱與懲處也是說得通的。回到中國的社會信用系統,一個人的社會信用系統若顯示他是「壞公民」,他將會在社群媒體和告示板被「公開」譴責。這現象也許看似極端,但多少已出現在全球的經濟做法中,例如「不良信用評分」可以被用來禁止某人申請房貸、購車,甚至不得增貸以便有錢繼續進修。

這類「公開」方式的懲治,顯示公共責任已從制度轉嫁到個人身上。信用評分不佳,錯誤不在於被不正當操弄的經濟,迫使我們為了生存只好接受不公平的貸款條件;而是反映我們自己個人能力不足,沒能力管好自己的財務。就這點而言,數據成了工具,能夠「科學地」證明一個人是否為優良的市場主體、是否該受罰或受賞。同理,對於「後人類」治理的渴望,掩蓋了在高科技治理背後真正有利人類的利益,讓菁英得以掩飾自己如何操弄經濟與政治,以便圖利自己,卻稱這個操弄是「智慧地做決策」。此外,它讓菁英更靈活地更新並調整自己的權力,以適應一變再變的社會環境,並不斷監控社會趨勢,防範任何危及他們特權與優勢的「病毒」。這些努力必然無法盡善盡美,卻也代表他們努力建立一種實時專制。

作者為英國公開大學(Open University)人民與組織系的系主任及資深講師,REEF(Research into Employment, Empowerment, and Futures)研究團隊的共同創辦人。
除了在國際知名期刊上發表學術著作之外,也曾在國際和國內頂級媒體上發表作品,包括《華盛頓郵報》、《衛報》、《獨立報》、《新政治家》、《周刊》(The Week)、對話網(The Conversation)、開放民主網(openDemocracy)等。近來擔任BBC一系列節目的首席學者顧問,包括BBC廣播四台、BBC廣播二台以及近期的電視紀錄片《矽谷的祕密》(The Secrets of Silicon Valley)。


書名:《隱形牢籠
作者:彼德.布隆(Peter Bloom)
出版社:時報
出版時間:2021年4月
讀冊博客來金石堂誠品

留言評論

延伸閱讀