持續流竄的總統AI人聲合成假影片與協同作戰

王宏恩
2.6K 人閱讀

用AI工具介選仍持續中

台灣總統大選雖然已經結束超過兩周,但選前幾天忽然出現的一支假影片特別值得注意。這支影片惡搞選前賴清德團隊推出爆紅的《在路上》影片,但卻把內容改成賴清德與蔡英文討論私生子議題(該議題已經被賴清德團隊多次澄清)。但該支影片不只是單純改影片台詞而已,而是使用AI工具,合成賴清德與蔡英文的語音配在修改後的影片中,仿造總統與副總統本人發言,其精緻程度遠勝於本次總統大選中另一次單純剪接賴清德的發言影片,可以說是本次總統大選中最值得注意的一次使用AI工具介選,目前這個個案也已經受到數個國外智庫的重視。

選前幾天忽然出現的一支假影片特別值得注意。這支影片惡搞選前賴清德團隊推出爆紅的《在路上》影片,但卻把內容改成賴清德與蔡英文討論私生子議題(該議題已經被賴清德團隊多次澄清)。圖片來源:作者提供

而這支影片在製作完成之後,在總統大選選前兩天被大量散布,並透過數百個表面上是越南的帳號在不同社群平台轉錄,成為協同操作(Coordinated Behavior)的重要證據。在臉書上,於選前一周好幾個才成立或改名假裝是有關台灣的粉專,各有一萬多個臉書粉絲卻幾乎沒有文章,包括「走進巷弄間」、「緩旅文創」、「台灣壯遊」,同時在1月10日上傳一模一樣的影片。這些影片都收到數百個讚、以及數百個轉發,但是這些讚與轉發全部都來自於越南名稱的帳號,而這六百個越南帳號也全部都是於2023年11月左右成立,沒有半個粉絲的臉書粉專,照片也都是盜圖。

在臉書上,於選前一周好幾個才成立或改名假裝是有關台灣的粉專,各有一萬多個臉書粉絲卻幾乎沒有文章,包括「走進巷弄間」、「緩旅文創」、「台灣壯遊」。圖片來源:https://www.facebook.com/profile.php?id=61555465110147
協助協同操作的越南帳號也全部都是於2023年11月左右成立,沒有半個粉絲的臉書粉專,照片也都是盜圖。
圖片來源:https://www.facebook.com/profile.php?id=61552979273289

雖說都掛越南帳號,但都來自於中央使用者

這些帳號跟影片,在選後兩周仍持續存在,而這些帳號的六百多次轉錄也仍是不公開的,可能與選前一些內容農場社團調成隱私有關(舉例來說,之前在這裡提到的香港設立反萊豬社團,就在這次總統大選前調成不公開社團)。同樣的一群越南帳號,也在其他新開的粉專炒作私生子議題(例如選前幾天成立、沒有文卻有上萬粉絲這個帳號)。然而,其他證據卻更可能顯示這些越南帳號都只是障眼法,背後影武者是來自於中文使用者。

會有這樣的推論,因為這影片在TikTok上也出現非常多次,並且有數萬次的瀏覽量。在臉書出現這影片的同時,數個TikTok內容農場帳號也同時轉貼了這一支造假影片,許多同樣是不公開的。這些影片的標題假裝與賴蔡的影片一致,但是強調是「完整版」、再配上攻擊民進黨用的#性福台灣的hashtag,而影片是來自同一支造假影片。

Source:https://www.tiktok.com/tag/%E6%80%A7%E7%A6%8F%E5%8F%B0%E7%81%A3

值得注意的事項有三

這件事情在TikTok上的經營策略值得注意的原因有三。第一,這些帳號許多本來都是經營吸引眼球的搞笑影音剪輯,完全無關政治,也因此每個帳號都先有了好幾萬個追蹤者,卻在總統大選前忽然轉發這支影片,而一些帳號在轉完這支影片之後就再也沒有新的更新了,簡直像是專門為了這支影片而先培養的內容農場帳號。而目標客群自然就是那些先因為看了搞笑影片而追蹤這些帳號的讀者。

圖片來源:作者提供

第二,這些帳號同時在選前在TikTok發相同的影音、使用相同的標籤,這種協同行為在TikTok上是受到鼓勵的,因此更容易如營銷號的做法把這支影音讓更多本來沒有追蹤這些帳號的其他TikTok使用者看到。

第三,雖然在臉書上轉錄的大多是越南名稱的帳號,但是粉專名稱都是中文,而且在TikTok上轉錄影片的內容農場帳號則全部都是繁體中文與簡體中文。他們的其他影片大多是搬運自其他的內容農場,並且有固定格式,只有賴蔡的造假影片是直接與臉書的是同一支來源,格式與風格都不同,因此不會是個別的內容農場經營者自行搬運(許多內容農場經營者或個體帳號會搬運的同時另外加上自己的浮水印或是改編背景音樂等,許多反對民進黨的選民都有在TikTok上自行惡搞,但那不是協同行為),而這些帳號們更像是有指示的協同行為,因此內容需要原封不動來擴大TikTok上因為協同行為而有的推薦紅利。

不幸的是,筆者曾經於選舉前就部份揭露了這個協同操作,但是在選後兩周的今天,這些影片跟帳號都完好無缺,沒有受到平台任何的審查與刪除。再配上本來就在炒作這個議題的抖音帳號群與台灣在地協力者,台灣的輿論環境仍持續受到這樣境外協同操作的影響。這些協同操作與AI造假這一次是針對賴清德與蔡英文,但下一次也可以拿來針對任何台灣與世界各國的政治人物。而從造假影片、偽造音訊、創造帳號、培養帳號、到協力操作,都顯示了背後團隊具有強大的能力與惡意。這些攻擊在這一次並未完全發揮成效,但假如配合認知作戰來持續對台攻擊,長期以來的影響將難以估計。

作者為內華達大學拉斯維加斯分校政治系助理教授。在台中一中被選進數學校隊,接著考取台大電機系後想當個科學家。在椰林繞了一圈後,覺得還是人類有趣多了,於是跟著數學一起投入研究政治,成了政治科學家。

留言評論
王宏恩
Latest posts by 王宏恩 (see all)

延伸閱讀