【書摘】《隱形牢籠》

510

第七章  極權主義4.0

你是個好人嗎？你對社區和社會有正面還是負面影響？這些是多數人經常自問的問題。至目前為止，答案基本上很主觀也無法測量。中國的目標是徹底重新恢復個人私德與社會公益，不只是觀念，也包括實踐。中國領導人正設法對全國老百姓落實革命性的社會信用系統，有些人悲觀地稱此舉是「大數據遇到老大哥」：

想像你在這麼一個世界，許多日常活動不停受到監控與分析：你在實體店面與網路商店買了什麼；在某個時間，你人在哪兒；你的朋友是誰，你如何和他們互動；你花多少時間上網、打電動；你支付了（或沒有支付）哪些帳單、繳了什麼稅……現在，想像有一個系統，上述這些行為會被評定為正或負，然後濃縮成一個數字，給分標準是根據政府制定的規則。

儘管國外批評人士擔心會出現最壞的情況，但中國政府將這定調為現代「社會主義」社會創新的一環。中國政府宣稱，這個以數據為本的「信用」制度勢在必行，「建立誠信文化，落實誠信與傳統美德，以守信的激勵和失信的約束為獎懲機制，目的是提高全社會的誠信意識和信用水平」。在實務上，不良的社會信用評分會限制你出遊，降低你的網速，你的小孩無法進入一流學校，你也無法找到好工作，無法進入高檔旅館，被貼上「壞公民」的羞辱標籤。在已開始實施社會信用制度的城市，一些公民已經見識到其正向成效。三十二歲的實業家陳先生表示：「我覺得過去六個月來，大家的行為愈來愈好。例如，我們開車時，現在一定會在行人穿越道前停下車禮讓路人。如果你不停車，你會被扣分。起初，我們是因為擔心被扣分，而今則是習慣停車禮讓了。」

儘管有人給予肯定，但這套系統依舊讓人打從心底擔心人類自由的未來。最起碼，它「讓人民承受成為模範公民的壓力」。它代表可能不是那麼混亂，但堪比二十一世紀的數位文化大革命，而且此現象不僅限於中國。誠如著名技術理論學家亞當．格林菲爾德（Adam Greenfield）所言：「這絕非中國所獨有，所以會擴大到其他地方，（一旦）別處的條件也成熟。社會信用的到來，預告了世界各城市的生活將會出現戲劇性的重大變化，這也包括你可能稱之為家的地方。」

但是原則上，它也可以充當為一次激進的機會，藉由大數據讓企業和政府更負責，因為它們的數據必須被公開追蹤與分享。不過實務上，一個更壓榨的現實埋伏在角落，蠢蠢欲動。社會信用制度的政策在貴州這樣的窮鄉僻壤先行上路測試，並非巧合，這裡的規定少，公共關注度也低，所以吸引了科技巨擘，諸如谷歌、微軟、百度、華為、阿里巴巴，皆陸續在此成立研究機構與數據中心，蘋果（Apple）在二○一八年稍後跟進。就此而言，「作為中國數據中心的地位，貴州雀屏中選成為地方政府實驗社會信用制度的理想實驗室」。這點揭露了科技界試圖把對數據那種「多還要更多」的無止盡欲望，結合了追求社會進步與文化美德，這景象頗振奮人心，但聽起來也非常極權。

中國的社會信用制度只是最新又最明顯的威脅，顯示全面可行、市場化的數位極權主義（digital authoritarianism）威脅並非空穴來風。這是當代的壓迫形式，建立的基礎是，我們生活裡有愈來愈多面向可被轉換為量化的數據，成為監控我們的主要資源。因此，「許多國家陷入陣痛期，辯論政府可對人民的監視程度。但是在其他國家，對國家監控權的約束少之又少（如果有的話），因此數據獨裁已經近在眼前」。同樣讓人不安的是，「大數據、老大哥、大把銀子」三者之間的關係日益綿密複雜，催生了「智慧」鎮壓。

這些政策以及隨之而來可能成真的做法，再一次引起大家的疑慮，不禁要質疑演算法在人治（human governance）上的角色；演算法成了一種「迷思」，祕密控制我們的生活。各種演算法的影響力愈來愈大，規範我們的人際關係與社會，影響程度之大，前所未見。它們放棄使用數據調查所在的世界，改而愈來愈集中於「繪出」（mapping）我們生活、行動、想法的全貌；這麼做，靠的不是監獄的瞭望塔、政府到家裡安裝的電視監視器，或是街上的監視攝影機，而多半靠的是你手上行動裝置的應用程式，可能是你主動下載，但更常是你沒有掏錢買的程式。

新的老大哥並非電影裡或海報上那個凶巴巴看著你的獨裁者，而是無所不知的數位「雲」，會「連續、全程、偷偷分析你的數位足跡，這些數據來自於你的種種行為，包括工作、購物、睡覺、飲食、運動、溝通」。這種侵入性監視受惠於我們持續產出的「數位軌跡」（digital tracks），這些數位軌跡是我們在線上凡走過必留下的痕跡，被資本主義體制下的政與商所用，進行經濟剝削。但我們也不用全然絕望，這些侵犯個人自由及隱私的行為，同時也助長了各種形式的反抗。對抗這種侵入式的監控，叫做反監控（sousveillance），亦即受監控的對象重新定位追蹤與監看的鏡頭，以便更清楚地「看見監控者」。例如現在有一種「haccessible」眼鏡，可以記錄你的活動與行為，萬一你被冤枉，被指控犯了罪，可以將此作為「數位不在場證明」，還自己清白。就政治上而言，手機讓每個市井小民可以拍下警察與政治人物，揭露他們濫權的一面，並將其醜行上傳到更大的網路世界。

不過，此一最新版本的威權主義實例及其堅定的反對者，並未說明全貌。關於以數據行壓迫之實，背後有更黑暗的一面：在我們日常生活的決策模型裡，演算法會發揮威權角色，甚至到了不受人類控制的程度。其實，人力（human power）的功能被限縮到執行數據統治者下達的「客觀」決定，以及監督那些膽敢反抗的人。如果這聽起來過於牽強，那麼考慮一下這個已經出現但規模較小的實例：航空公司往往會超賣機位，然後利用複雜的演算法決定把哪一位持票旅客趕下飛機；超賣以及趕乘客下機的做法雖違反「常理」，但至今員工或旅客仍拿它沒轍。值得注意的是，「一旦啟動，威權式決策（不容反抗，照做就是！）可能導致暴力升級」。

它也助長了當代公民一種矛盾但由衷的渴望，亦即克服世上種種艱鉅的挑戰，畢竟全球資本主義在當今給世人製造的問題似乎甚過福祉。因此「臉書、谷歌、『大數據』革命，削弱了西方民主，反而使威權國家的影響力上升，強化它們應對全球化挑戰的分量」，尤其是讓計畫經濟的想法死灰復燃，主張大數據是有效協調與組織經濟關係的關鍵。據稱，「現代世界數據暴增說不定（至少理論上）可以提供所需資訊，大幅提升管理決策，降低計畫經濟與市場經濟之間的資訊失衡。中央計畫者快速取得工具，可以更有效地處理與消化數據」。

本章將詳細敘述數位技術如何對極權主義構成了政治風險。值得注意的是，這描繪了一個令人不安的未來，不久之後，我們所做的一切都會受到滴水不露的監控與分析，以評斷其經濟價值。本章也會揭露這種「極權主義4.0」如何讓菁英階層藉由更新的技術進一步規避個人責任，以及繼續放任資本主義系統性地逃避責任。本章建議，我們應該擺脫「監控」或「反監控」，進入「全面監控」（totalveillance）時代，在這個環境裡，所有人都試著二十四小時彼此監督與競爭，看看誰可以在全面監控的文化裡受益最大。本章將透過分析包羅萬象的「虛擬力」以得出結論，虛擬力漸漸被去個人化，無限延展到我們一切虛擬與具體的互動上。

封閉的情資

二十一世紀原本應該是民主的黃金期，蘇聯解體，象徵專制與獨裁統治結束。當然這並非一夕之間發生，但大家預期自由市場、民主化是未來的必然趨勢，過去所有形式的暴政都會被這巨浪吞沒。沒想到這些夢想在短短數十年後，成了夢魘。新的千禧年第一部分，已被威權主義與非自由主義（illiberalism）破壞，很大程度顯示，資本主義（儘管樂觀人士稱，它是通往民主的唯一必經路徑）為國家壓迫、文化暴力、寡頭統治、大規模監禁等大開方便之門。22不過，數位進展改變了高度依賴技術官僚統治（technocracy）以及壓迫的現象，把數據定位為「智慧」管理的最終可用資源，幾乎不需人為干預。數據提供「客觀」知識，靠的是預測分析、即時政策工具技術，從而在宏觀及微觀層面上，重新塑造權威。

數位治理的好處之一是大幅提升透明度，對於相對封閉以及視資訊為力量的社會，「開放資料」（open data）有明顯的吸引力。因為按理，這可讓資訊從封閉的高牆後被釋放出來，提供我們未經修飾、更精準的分析，有助於我們了解自己及所處的社會。然而這類披露，「開放」的程度不見得如我們所認定的。值得注意的是，「中介技術（mediating technologies）在這裡指的是揭露工具，它們擁有獨特的組織特性，對於監控具備重要功能。它們扮演重要角色，試圖揭露客體、主體、行為背後隱而不見的現實，也有助於建立或瓦解組織內與跨組織的關係」。因此，如何讓資料「開放」以及為什麼要「開放」，會左右當代社會關係、透明度論述，乃至問責制的關鍵。此外，還有其他值得注意的面向：誰是促進開放資料的「資料中間人」？其動機與意識形態是什麼？因此，這清楚說明了，政府宣揚「開放性」的重要性之際，卻也積極起訴愛德華．史諾登（Edward Snowden）這樣的吹哨者。史諾登一案揭露了國家贊助的監控機構偵蒐的廣度與深度之大，令人瞠目。這些疑慮因為「數據黑暗時代」風雨欲來而雪上加霜，大家擔心大量的網路資訊因為儲存在過時的系統裡，可能會憑空不見或受損。因此，當今我們務必要問，哪些資訊是被公開攤在陽光下，哪些是被隱藏在數位陰影裡。

相較於我們在數位知識上的落差，更重要的是，數據如何包裝人類的偏見與不平等，讓它們披上高科技外袍，顯示出科學上的「客觀性」。即便是最基礎的水平，有偏見的抽樣也往往會讓大數據偏斜，之所以有偏見，是因自我選擇（self-selection）之故。也就是說，人的因素被忽略了─誰在收集他們的數據？收集者在明與在暗的偏見如何汙染了這樣的共享？除了有偏見的抽樣，演算法在深度學習與分析的過程中，還會重複系統性的種族主義、性別歧視、恐同症與階級主義。它所提供的情資會延續這些系統性的偏見，甚至透過據稱是意識形態中立、不受人類干預的演算法，而強化了這些偏見。

可以預見，大數據已成為政治與社會的武器，作為更廣泛控制的一環，用於鎖定歷史上被邊緣化的人群。例如，它進一步豎起一系列藩籬，阻礙窮人取得社會福利與改善經濟的機會。在當今時代，可以公平地說，數據有助於富者更富、窮者不幸地變得更窮。數據也用來監控少數團體，以便能訓誨與規範他們的行為，這延續了長期以來倚賴技術維持現狀與權力分配的做法。一如媒體正義中心（Center for Media Justice）創辦人暨執行總監梅爾基埃．西里爾（Malkia A. Cyril） 所觀察到的：

早期的技術以及在背後支撐這些技術的政策與做法，目的是區隔公民與奴隸。當年的奴隸通行證、在奴隸身上烙印、燈籠法（lantern laws），猶如現代的手機追蹤程式、臉部辨識軟體、穿戴式攝影機。然而今昔做法的目的與功能實則如出一轍─差別在於現在進入了數位時代。這些技術與各個層面的執法過程互相結合，包括了預測性演算法，評估審判前的風險與犯罪活動，以及廣泛應用於警用的技術，受到的監督少之又少，甚至完全沒有。這些技術（包括偽基地台、監視攝影機），應用於有色人種社區（尤其是非裔）、移民、阿拉伯裔和穆斯林。在每一種情況下，技術與演算法被譽為對抗偏見的關鍵，儘管有充分證據顯示，出自歧視性做法的數據會強化而非消除偏見。

這顯示數據情資（data intelligence）漸進式、帶目的性的壓迫形式已經崛起，為的是捕獲愈多數據愈好，然後在策略上盡可能利用蒐集到的數據，實現支配與獲利的目的。這猶如變形的軍備競賽，核心是誰擁有可蒐集以及有效利用最多數據的技術，而這反過來代表了一種全新的監控形態，亦即一種「結構上不對等」的監控，畢竟「僅有那些可進入數據庫、握有處理權限的人可以進行監控……同理，這樣形成的知識必然是不透明的；並非可共享以利了解這世界的知識，而是行動情資（actionable intelligence），目的是落實一個非做不可的措施，或是回答數據庫掌控者心裡的疑慮與問題」。因此，我們已經從迫在眉睫的末日式威脅（大規模毀滅性武器），轉變為隱蔽但同樣危險的「數學毀滅性武器」。

實時專制

大數據不僅升級了傳統的威權主義，也快馬加鞭提高其速度。事實上，政治和宰制很大程度上只是時機的問題，例如，不同的思想與意識形態有時代性，可以精準地根據「時間性」加以判斷它們屬於哪個年代，並從中找出不同的思想與意識形態如何影響所在年代的人，對時間的理解與體驗。具體而言，為社交與治理方式設下截止日期與時間表，對於維持現狀有巨大的「政治價值」。當代逐漸掉入「虛擬時間」的陷阱，它可根據每個人的需求靈活地客製化，然而，它也包含二十四小時實時監視和監控，以便確保時間能被善用，提高產能與獲利。

治理本身迅速擺脫了人類時間。傳統上，統治權建立在統治者擁有清楚的地理版圖與統治時間，傅柯稱這是「國家控制」（étatisation），創立一個界線分明的國家，統治者代表這個國家，負責制定短期與長期的戰略及狡猾的決策。現代民主出現，進一步制度化了時間，所以會定期舉行選舉，官僚式的治理方式與作業也有固定的時間表。而今數位化時代，需要不斷更新數據，承受全球資本主義二十四小時「不停機」的壓力，讓傳統的時間觀顯得過時。取而代之的是，根據「客觀」資訊提供即時、可預測結果的機制，以便迅速而明智地做出重要決策。數位時代需要後人類形式的統治，這類統治很大程度上不受人類監督。為此，「以大數據為本的做法有助於即時反思與覺察，同步管控出現的危機與問題，這麼做有助於培養自我管理，提高社會的韌性與適應力」。

再過不久，將出現嶄新的技術官僚統治，煥然一新是因為既要根據即時數據定期更新，又要壓抑我們對於資訊「多還要更多」的無止盡渴望。「智慧」治理需要即時數據支撐，從而導致「技術官僚式的治理與城市發展；企業化的城市治理與技術鎖定（technological lock-in）；脆弱、可被駭、可被全景監控的城市」。這個仰賴演算法的統治方式可以監視我們個人舉動，以便能沒完沒了地監控、指揮我們的集體發展。既有的人類偏見搭配「智慧」治理，「客觀地」再現既有的不平等及系統性的歧視。影響所及，打著「技術官僚的價值以及發展不公」的名義，將民主打入冷宮。

不過，這種仰賴數據的專制統治，並不僅僅是監督公共政策，說不定也可用於指導我們作為數位公民（digital citizen）的行為。它代表了個人與社區落實自動守規矩的可能性，遵循一系列高科技工具以及往往隱藏的暗示，落實社會期待的價值與行動。這種對人類行為細膩而強迫性的管理，當然並非前所未見的新鮮事，例如，在資本主義下的工作日，學校如何按日程表操課？其中一個方式是敲鐘提醒學生上下課時間到了，或是每完成一個活動就敲一下鐘，彷彿學生是工廠的僱員。然而，當代在一個關鍵面向上和以往有所不同，它會不知不覺地利用公民嘗試不同的社會存在狀態與時機，以便最大化效能和獲利。想像出現「瓦登3.0」（Walden 3.0）─「隱私問題被視為『掌控資訊』，顯而易見的是，在數位世界，有些領域可能通往我所謂的瓦登3.0；社區會受到各種測量工具及實驗的影響與控制」。大數據的部署若是為了解決塞車問題，或是改善看病的等待時間，肯定會受到大家歡迎，但是，它們也有恐遭濫用的風險，例如蒐集更多資訊，方便剝削他人。

值得注意的是，這種自動化的政治學，操弄大家愈來愈樂見出現更「開放」的社會與更高的社會可見度。儘管演算法隱身在幕後，但它所倚賴的數據倒是能讓我們所有人看見，因此，這在表面上具備了透明度，合法取代了公開審議與民主問責。大家接受數據也許治理了我們的國家，並規範了我們的生活，但是過程中所用的數據必須開放且清晰。同理，以公開方式進行的數位羞辱與懲處也是說得通的。回到中國的社會信用系統，一個人的社會信用系統若顯示他是「壞公民」，他將會在社群媒體和告示板被「公開」譴責。這現象也許看似極端，但多少已出現在全球的經濟做法中，例如「不良信用評分」可以被用來禁止某人申請房貸、購車，甚至不得增貸以便有錢繼續進修。

這類「公開」方式的懲治，顯示公共責任已從制度轉嫁到個人身上。信用評分不佳，錯誤不在於被不正當操弄的經濟，迫使我們為了生存只好接受不公平的貸款條件；而是反映我們自己個人能力不足，沒能力管好自己的財務。就這點而言，數據成了工具，能夠「科學地」證明一個人是否為優良的市場主體、是否該受罰或受賞。同理，對於「後人類」治理的渴望，掩蓋了在高科技治理背後真正有利人類的利益，讓菁英得以掩飾自己如何操弄經濟與政治，以便圖利自己，卻稱這個操弄是「智慧地做決策」。此外，它讓菁英更靈活地更新並調整自己的權力，以適應一變再變的社會環境，並不斷監控社會趨勢，防範任何危及他們特權與優勢的「病毒」。這些努力必然無法盡善盡美，卻也代表他們努力建立一種實時專制。

作者為英國公開大學（Open University）人民與組織系的系主任及資深講師，REEF（Research into Employment, Empowerment, and Futures）研究團隊的共同創辦人。
除了在國際知名期刊上發表學術著作之外，也曾在國際和國內頂級媒體上發表作品，包括《華盛頓郵報》、《衛報》、《獨立報》、《新政治家》、《周刊》（The Week）、對話網（The Conversation）、開放民主網（openDemocracy）等。近來擔任BBC一系列節目的首席學者顧問，包括BBC廣播四台、BBC廣播二台以及近期的電視紀錄片《矽谷的祕密》（The Secrets of Silicon Valley）。

---

書名：《隱形牢籠》
作者：彼德．布隆（Peter Bloom）
出版社：時報
出版時間：2021年4月
讀冊｜博客來｜金石堂｜誠品