AI是獨裁者的福音(嗎)?

劉又銘
387 人閱讀

近期ChatGPT爆紅後,除了AI技術第一次向世人展示他驚人的製造與生產輔助性能,因而有各種「產業革命」或「勞動革新」的呼聲,甚至導致各種「AI滅世」的「反烏托邦」言論出現外;在國際政治經濟領域,更把美中AI技術競爭,視為連動「晶片戰爭」的第二個「戰略制高點」。美國《晶片與科學法案》(Chips and Science Act, CSA)用擴大「實體清單」(entity list)方式,限制高階半導體、相關製造設備、零件與人員進入中國或為中企所用。

美國商務部主導上述法案與清單的目的,就是為了避免高階半導體所支撐的「量子電腦」超高速運算技術與中國的競爭,如同「5G通訊技術」般,被中國「彎道超車」。進而在更高段的AI競爭中也敗下陣來。但這裡講的「AI」究竟是甚麼?若是在這一波美中競爭裡,被美國視為國家競爭力重要支柱的AI技術發展,真的輸給了中國,那對美國真的會有致命的影響嗎?或者廣義的來說,以中俄等國為首的威權體制,無論其AI技術發展強弱,對全球民主國家來說,都是一種威脅呢?

AI會議。圖片來源:達志影像/美聯社

機器學習(Machine Learning)作為一種AI

當代我們指的AI,即人工智慧(, AI)的簡稱。但無論擔心害怕獨裁國家領先會顛覆民主國家的AI,或是美中戰略競爭中想要確保的關鍵技術AI,指的都是有關「人工智慧」中,「機器學習」(machine learning)功能的競爭優勢。機器學習作為廣義AI的一種,重點就在「機器(電腦)如何學習」?美國卡內基梅隆大學電腦工程相關權威學者Tom Mitchell就對機器學習下了一個定義。

在1997年,名為《機器學習:一種人工智慧途徑》Machine Learning: An Artificial Intelligence Approach的經典教科書中,Tom Mitchell認為,「機器學習」指的就是「用資料數據蒐集形成經驗,並且透過這些經驗,改善演算法(algorithms)解決問題的能力」。也就是說,只要符合這整個「以達成特定目標為前提,去撰寫設計演算法,透過特定步驟來解決問題;並蒐集足量數據形成經驗,依靠經驗提升解決問題能力」的過程,就被認定為是一種「具學習能力的機器」,因此稱之為「機器學習」。

機器學習的廣泛運用

我們若以串流音樂平台的「電台功能」為例。作為一種機器學習的應用,電台功能演算法的設計目的,就是要推薦使用者喜歡的、類似曲風的歌曲給使用者。而抓到使用者的偏好跟品味,就是這個演算法設計的目標。而演算法推薦打中使用者的準確度,會隨著使用者收聽習慣的累積而增加。因為使用者的收聽數據,豐富了演算法能蒐集的數據、增加了演算法的經驗。經驗越豐富,演算法透過經驗來自我修正後,推薦的能力就越強、精準度就越高。

而機器學習透過經驗優化解決特定事務的能力,若用在政治事務決策上,則也是以同樣的流程,透過蒐集數據,形成經驗。經由經驗的累積,發現規律和模式。並且將這些規律和模式構成的知識形成反饋,用於改善由工程師已經設計好的演算法,讓這些演算法提升對未來預測的能力。並最終透過演算法能力的優化,用於協助改善決策精準度,可能是順利解決危機、或是提升群眾的滿意程度。

威權與民主之爭下的機器學習

所以,回到我們一開始問的問題時可以發現,很多專家之所以會憂心,美國會在美中有關「機器學習」的AI競爭中敗下陣來;甚至認為,威權國家在AI的開發上,有其先天的優勢,而這項優勢,甚至最終會導致威權陣營在與民主陣營的全球競爭中勝出。就是因為,機器學習的機制裡,有「蒐集大量數據優化演算法解決問題能力」的特質。而威權國家因為缺乏有效的法治工具,無法對政府蒐集各種使用者數據進行監管。所以在這樣的海量數據優勢下,若美國沒辦法阻斷中國取得硬體(晶片、製造設備、零件),那在軟體開發上,就很有可能因為數據蒐集的劣勢,而讓民主國家在這輪AI競賽中輸給威權國家。

但對Henry Farrell, Abraham Newman & Jeremy Wallace這三位國際政治學者專家而言,上述這個說法,有兩個層次上的混淆。根據他們在美國權威外交政策分析期刊《外交事務》的說法,他們認為,一方面,威權國家的確有數據蒐集量的優勢,但機器學習是由「演算法」和「數據蒐集」兩個部分構成。威權國家雖有能耐蒐集大量數據,但在演算法設計上卻因為各種理由出現問題,所以未必會有所謂的「威權優勢」;另一方面,或許在因為各種不同目的而設計的演算法上,未必會有「威權優勢」。但類似ChatGPT這種可以大量生成以假亂真文字、圖像或影像的機器學習軟體,若高度運用在錯假訊息的製造上時,則威權國家對民主國家發動資訊戰,在干擾選舉或撕裂社會、降低反抗意識上,成本會更低、效率會更高。

威權的假性AI優勢

一般咸信,中國有龐大數據庫又缺乏監管機制,「可以任意使用私人數據」讓中國的演算法有優勢,會在AI競爭中勝出。但上述《外交事務》有關民主與獨裁國家AI競爭一文的三位作者,就針對這種普遍的迷思提出了三點反駁。

第一、威權政府無法取得可信的反饋意見就無法優化演算法,也無法在演算法設計時,問出對的問題,提供民眾需要的功能

根據三位作者的說法,「機器學習」的運作原理其實和「政府決策」的運作原理一樣,兩者都是由一個「控制論」系統(a “cybernetic” system)構成。該系統能對反饋做出回復與適應。只是在機器學習的控制論系統裡,是演算法透過蒐集「數據」(反饋)來優化自己的精準度(回復與適應反饋);而在政府決策的控制論系統裡,政府透過蒐集「民意」(反饋)來優化自己的滿意度(回復與適應反饋)。

所以,民主國家設計用來優化施政、提升滿意度的「演算法/政策」本身就有問題時,可以按照民眾的可信意見(受法律保障所以可以自由發表真實意見的公民、媒體、反對黨、利益團體)去修正「演算法/政策」,藉此將「演算法/政策」修正成符合民意的狀態;而威權國家所設計的「演算法/政策」也有部分是用來優化施政,但當威權國家的「演算法/政策」本身有問題,卻沒有管道可以取得可信意見去修正「演算法/政策」時,當然也沒辦法將「演算法/政策」修正成符合真實民意的需求。如此一來,就算威權國家沒有法令限制,所以有隨手取得大量數據,以用於優化演算法的優勢;但當演算法本身本來就有問題時,威權政府卻沒有管道可以知道如何修正演算法。

而且對威權國家而言更困難的是,威權政府既不想要有人出來發表一些反對意見,挑戰政權的正當性;但又希望能夠得到正確的民眾意見來調整政策,藉此穩固政權的正當性。因為對一個威權統治者來說,要在「短期政治穩定」與「長期決策有效」之間做出權衡,是很困難的。所以我們會常常看到很多,為了「短期政治穩定」而犧牲「長期決策有效」的政治決定,進而破壞了政權的正當性基礎。普丁做出入侵烏克蘭的災難性決定,就是很典型的例子。

第二、威權政府缺乏管道取得可信意見,因此無法修改演算法;如此蒐集的大量數據,只會達成演算法原先設定的目標,取得威權政府想要的答案,甚至加強威權政府原本所持的錯誤信念與偏見

但相對於「為了優化施政、提升滿意度『演算法/政策』」的存在,威權國家的「演算法/政策」有很高的機率,是用在監控與壓迫人民、藉此鞏固政權。這種功能天生與民意背道而馳的前提下,要靠取得真實民意,來了解「如何才能更精確監控與迫害人民」這件事情本身就顯得很沒邏輯。所以在沒有真實民意可以修正演算法的情況下,威權政府靠著使用者足跡或數據,最終就只能加強原有演算法的功能,形成一種「領導者決定程式設計者,設計者決定演算法,演算法反映領導者意識形態偏見;蒐集數據優化演算法,演算法放大領導者意識形態偏見」的過程。

也就是說,演算法對資訊蒐集的分析結果,只會是「威權統治者偏好」的結果,而不是「貼近被統治者想法」的結果。若今天的演算法設計是為了輔助某項政策,那麼演算法給出的決策修正方案,還是只會按照統治者的既定偏好來製作。最後,我們經常神話的那種,大量依賴演算法來執政的「數位威權主義」,會讓整個需要靠正確意見來進行修正的「演算法/政策」體系全面崩潰,一條道直接走到黑,成為一種「讓現狀成為邏輯上必然的工具」(apparatus that gives the status quo the aura of logical inevitability)。

就有報導顯示,中國「網信辦」發現,AI言論審查效果不佳。因為高層和寫演算法的人,其實沒有管道知道下面的人真心都在想甚麼,所以無從在演算法設計上從頭修正,去過濾出禁忌言論;只能在錯誤的演算法前提下,蒐羅一大堆垃圾數據,結果讓演算法的表現更荒腔走板。

最典型的例子就是「關鍵字刪帖」鬧出太多笑話,最後還是徵用大量人員,靠「手動刪帖」來進行言論審查。另一方面,習近平一直以來在談的「精準扶貧」,也是鬧出了不少笑話。原本以為可以靠機器學習模式,用演算法和大量數據來找出貧戶進而快速提供協助,藉此達成「整體脫貧」。但「人工智慧」始終是玩不過中華民族五千年的偉大「傳統智慧」。一些省市中低階官員透過人力,將農村裡的貧戶趕至都市公寓。讓統計數字裡面,這些農村貧戶「表面」看起來都「快速脫貧」。等到風頭過了,又把他們趕回農村。最後,這種「你追我跑」的事情實在太多,「精準扶貧」就在官方文書裡,越來越少提及。

中國省市中低階官員和人民這種集體「陽奉陰違」的模式,自然不是AI時代才有的新玩法。著作等身的耶魯大學政治人類學者James Scott,在其經典著作Seeing Like a State中就曾提到,20世紀的國家決策之所以錯誤百出,就在於國家太不接地氣,只能透過官僚和數據來看世界。如今看來,AI工具的出現,就是強化了這個1998年James Scott所說的「官僚和數據偏見」而已。而且這種狀況也不只發生在威權國家或落後國家,美國警政依靠AI輔助增派警力去犯罪率較高區域。結果有人研究發現,這些警力進駐區域通通都是有色人種集中的區域。而這個「犯罪率」較高的設定,其實就是「逮捕率」較高的設定,等於「黑人容易犯罪」的種族歧視偏見,又經過演算法加強了一次。

第三、演算法下的推播,只能強化偏好沒辦法改變偏好,所以其實帶風向的能力也很弱

正是因為在機器學習的概念裡,演算法的設計方式,決定了演算法想要達成的目標;而這個設計,必然帶有設計者的意圖與偏見。所以數據無論蒐集的再多,最後能做到的,也只是不斷鞏固演算法當初設定的目標,讓達成目標的機率變高。所以,其實機器學習在行銷上,只能做到用演算法去決定如何推播廣告,讓原本喜歡A的人買更多A,或是掏錢去買A+;而不會因為演算法下的廣告,就讓原本喜歡A的人改成喜歡B。如此我們可以知道,如果連商品挑選這種簡單偏好選擇,要靠演算法推播來改變都是困難的;那要靠演算法推播去改變人們根深柢固的觀點和信念,那更是不可能。

所以一些人號稱將演算法運用在政治宣傳上有神效,這種說法也是相當令人懷疑。按照前面所提到的行銷邏輯,演算法推播也只能加強既定偏好或偏見,而沒辦法改變這些既定偏好或偏見。根據Facebook的內部調查顯示,在演算法的推播下,人們確實會被引導找到更激進的內容,但這是因為這些人本來就想找這些東西;而不是因為演算法的推播而開始找這些東西。

Youtube的報告也顯示,演算法推播的影片,會引導使用者,找到他們本來就想要的東西;而沒辦法讓他們對本來不感興趣的東西,變得感興趣。所以一些有關劍橋分析(Cambridge Analytica)諮詢公司,如何透過演算法下廣告幫川普打贏選舉的說法,其實是神化了演算法的能耐。最終,也只是把民主社會各式各樣原本應該歸咎於「人」的衝突與混亂因素,輕巧的卸責給了「機器」。

所以綜合來看,要把大數據看成國力、把AI看成治理與決策的工具,無論對威權或民主國家,都會是難題。因為AI效能的強大與否並非來自數據的多寡,而是如何透過正確的意見反饋來修正演算法,讓AI的機器學習能力提升,進而幫助政府做出更多符合民意的正確決策。但從這點看,民主國家相對於威權國家,仍有相對的優勢。但若威權國家把機器學習功能,整套用在壓迫人民或攻擊民主國家時,這種武器化的演算法,就是一種相對有效、防不勝防的工具。

威權的真實AI優勢

著有《人類大歷史》的現象級以色列歷史學家哈拉瑞(Yuval Harari)就認為,AI會集中數據的同時,也是在集中權力。因為威權統治者可以透過蒐集數據的過程,了解民眾的基本偏好需求,進而提供給群眾一種「膚淺的、舒適的、威權政府早就預期會有甚麼情緒反應的訊息」給群眾。藉此讓群眾的情緒無止盡的發洩在這些不間斷的、由統治者提供的膚淺、情緒性訊息中,藉此形成一種「無形但有效的新形態社會控制」。

在這種情況下,威權政府就可以透過看似開放的社交媒體,提供封閉式、可預期的訊息,來控制公眾意見、掌握公眾心態。一些威權國家通行的社群軟體如微博、微信,就是這種在監控下,內向封閉的訊息螺旋。

除了上述這種對內壓迫外,武器化的AI也可以被威權國家用在對外攻擊上。像俄羅斯或中國,就經常透過錯假訊息或仇恨言論,來擾亂民主國家的言論市場與選舉活動。他們可以透過像ChatGPT之類的軟體,更有效率的大量製造幾可亂真的文字、圖片與影片癱瘓民主國家的言論市場,抹黑、栽贓特定政治人物,破壞群眾對選舉與制度的信任。最終憑藉錯假訊息與仇恨言論,頗壞民主國家的決策系統,使人民得不到正確的訊息,也無法反映真實的民意。

所以,在我們談論AI如何成為威權統治者工具時,先要釐清我們現在在談的AI,多數是指一種由「演算法與數據蒐集」共同構成的「機器學習」機制,才能夠了解AI輔助決策的強項與弱項,不會陷入一種「信者恆信」的錯誤恐懼狀態,過度放大威權統治者使用AI後沒有危險的部分(技術競爭、決策輔助),而忽略了真正有威脅的部分(錯假訊息製造資訊戰)。

余自束髮以來,粗覽群書,獨好屠龍之術,遂專治之,至今十餘載矣。從師於南北東西,耗費雖不至千金,亦百金有餘。恨未得窺堂奧,輒無所施其巧。由是轉念,吹笛玩蛇,偶有心得,與舊親故共賞,擊節而歌,適足以舉觴稱慶也。

留言評論
劉又銘
Latest posts by 劉又銘 (see all)

延伸閱讀