【謠言風向球】選舉傳言新招！ 用AI生成的政治影音 再用假帳號擴散
記者陳璽安；主編陳偉婷
選前政治傳言、爆料多，繪聲繪影容易帶動選民情緒，且可能因事涉機密或個人隱私而不易查證。查核中心觀測到，近期有一波運用AI技術製作的傳言影片，運用匿名爆料模式，將影片放到臉書、YouTube、抖音、Tik Tok等多平台，再透過大量假帳號推播傳散。根據目前的監測，這些造假影片影響力不大，但其運用AI技術快速產製、再以假帳號推銷的方式，值得觀察。
AI生成工具成為造謠利器
近年AI技術發達，利用AI深偽製作政治人物的聲音與影像已不是新鮮事，在國外有網路媒體製作美國總統拜登演說的AI影像，在中文世界也有網友製作習近平為台灣大選指明方向的變造影片。這些造假音檔及造假影片都是模仿、偽造政治人物的聲音，說出有關政治、選情的內容，企圖以造假內容干擾民心。
偽造政治人物的聲音，即使難以辨識真偽，卻讓聽者有「掌握祕密爆料」的錯覺。由於政治人物的聲音容易取得，造謠者極易用來做模型訓練，用AI讓候選人聲音逼真並不困難。專家也提到，目前已技術能做到修正發言者的唇形，對嘴也非難事，要辨識AI假影像會越來越難。
圖1：查核中心在2751查核報告中破解習近平的深偽影片。
造謠者甚至能跳過修正唇形步驟，只保留聲音。例如2023年8月曾有造假錄音檔偽造民眾黨總統參選人柯文哲的聲音，短短58秒的音檔提到賴清德去美國面試、見面會聲勢浩大，每個人可領800元幫他站台、場面比蔡英文大、媒體記者都不知道等。又例如近期出現一支影片，內容只有52秒，是以賴清德的聲音為旁白，質疑民進黨防疫有弊案，畫面則是剪接新聞畫面。
從旁白、腳本到畫面，AI都能幫你做
AI技術升級，讓內容農場的假訊息製作門檻大幅降低。最近有兩支政治傳言影音，一則是「特定政治人物有三情婦」的影片，另一影片是「某總統候選人批評民進黨防疫弊案」，均顯示AI生成工具的威力。
以「某政治人物有情婦」影片為例，該影片有一名女主持人，但仔細觀察可發現眼神、嘴型都不自然，背景也有明顯破綻，主持人看起來像是AI生成。另一支「質疑民進黨防疫弊案」的影片，旁白聲音聽起來與賴清德相似，但仔細聽，可發現聲音有不自然的電子音，顯示此聲音可能為AI生成工具模仿賴清德聲音製作的聲音。
雖然上述影片品質仍顯粗糙，但查核中心追查過程中發現，要製作一支細節完整的農場影片並非難事。網路上已有很多免費的AI工具，只要提供簡單的關鍵字與影片主題，這些AI生成工具就會自動生成影片腳本與文案、自動搭配符合影片內容的圖片或照片；另外也有許多免費的「AI主播」、「AI旁白」，可讓AI生成影片有多種不同聲音的旁白，或是讓不同形象的人來擔任影片主持人。
根據查核記者實測，以本文文章段落為範本，丟入AI生成工具來製作影片，僅需2分鐘，影片已是順暢可讀；若要製作敘事邏輯清楚、有旁白、有字幕、畫面多變且有AI主播的AI影片，30分鐘內就能完成，且沒有任何技術門檻。過去內容農場影片會有畫面不相干、主題凌散、動作死板單調或是聲音不自然等缺點，現在也都可以利用AI生成工具快速改進。
大量假帳號擴散農場影片與可疑訊息
查核中心也發現，此類型影片的擴散手法，會透過假帳號上傳、分享，而影片下方留言者，也都是假帳號。
以「某政治人物有情婦」影片來說，查核中心在2023年12月中下旬追查與檢視在臉書公開上傳、分享、留言這支影片的帳號，共有101個，其中98個帳號的第一則公開內容，是落在2022年9月16日至12月1日之間，顯示這些帳號是在短時間內密集成立。其中94個帳號除了頭貼以外，無任何公開內容；其中5個帳號雖有公開發表的內容，但經關鍵字檢索，可發現這些內容從照片、文案與所搭配的hashtag標籤，都是搬運自Instagram的其它帳號。從這些資訊可推測，擴散這支影片的帳號，幾乎都是假帳號。
而另一支「春風檔案的線民」影片，則用相對多元的手法來擴散影片，除了透過假帳號在臉書上傳、分享、留言，也透過多個YouTube頻道上傳此影片。
查核中心共找到8個在12月25日上傳此影片的YouTube頻道，其中3個頻道是在12月25日當天成立；其中2個頻道是成立已久，但過去從未發布過影片或僅有1支影片；另外還有2個頻道是以數年前曾上傳過完全與台灣政治無關的影片，且透過帳號調查網站，推測此頻道的擁有者為外國人，顯示這支影片透過YouTube新頻道或購買免洗頻道擴散。
內容農場影片被分享到不同政治色彩的社團
查核中心進一步檢視這些帳號過去在臉書社團分享的內容，可發現這些假帳號會把同一則傳言或影片，分享進不同立場的社團，或是在同一社團中，分享不同立場的傳言內容。查核記者觀察，這些帳號的傳播手法可能是為了強化既有意識形態，進而極化不同立場的群眾、引發對立。
在2023年7月的調查報導與事實查核工作坊中，查核中心曾邀請專家討論AI科技與假訊息議題。現今社群平台追求放大點閱的經濟模式，讓能勾動民眾情緒的傳言更有擴散的空間，因此民眾懂得辨識訊息來源、學習識讀和主動查詢，是生活在網路虛幻訊息環境中必備的求生之道。
延伸閱讀
留言 3