請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

國內

【查證】深圳女孩遊台灣談論兩岸差異影片?深偽影像置換搭配AI語音!片段分析詳解

MyGoPen

發布於 17小時前 • MyGoPen

網傳「深圳女孩遊台灣」的影片及訊息,內容是一名自稱是深圳女孩的人講述兩岸差異。經查證,網傳影片是利用深偽技術(deepfake)置換臉部嘴型,再配上 AI 語音後製而成,仔細觀察就會發現影片部分細節有誤,且原始影片應為一段約 1 分 44 秒的影片,利用重複播放的方式,搭配整段生成的 AI 語音,後製成 4 分多鐘的影片。至於影片所述之內容,MyGoPen 無法獨立核實是否正確,部分論述涉及個人觀點,亦不在查核報告範圍內,不過網傳訊息提供的資訊不夠明確,容易讓民眾誤以為是真人談話的影片。

網傳深圳女孩評論台灣的影片?
原始謠傳版本:

深圳女孩遊台灣後恨不得定居台灣

主要在社群平台流傳這段影片

查證解釋:

網傳訊息原始出處為何?
MyGoPen 無法獨立確認網傳訊息所述之內容是否屬實,影片部分論述屬於個人觀點,不在本次查核範圍內,以下將以影片是否經過後製變造進行查證。
以「深圳女孩」進行搜索,可以找到民視新聞網於 2024 年 12 月 25 日在官方 YouTube 上傳的新聞《「有什麼臉說台灣是中國的」 深圳女孩影片曝中國現況被封殺》,影片中有註明畫面來自 YouTube 頻道「中國秒刪影片庫」。
在 YouTube 搜尋「中國秒刪影片庫」,可以找到名稱一模一樣的頻道,該頻道創立日期為 2024 年 1 月 12 日,簡介內容有提到「本頻道歡迎牆內人士在保障自身安全的前提下,透過 AI 傳遞真實的聲音」,不過目前只剩一支公開影片,無法確認該頻道是否就是網傳影片的原始發布者。
目前在「台灣公義」、「哈囉台灣人」、「東籬雅沁」等頻道還可以看到備份影片,MyGoPen 將針對影片畫面是否經過後製變造進行查證,影片中人物的敘述內容屬於個人觀點,不在查證範圍內。
利用 AI 檢測工具「HIVE Moderation」進行檢測,可以看到在聲音部分,檢測結果為 99% 為 AI 生成語音,影片部分可能受限於畫質,僅測得 6% 機率是由 AI 生成。


改以另一個 AI 偵測工具「Attestiv」進行檢測,可以看到影片是由 AI 生成的機率達 71%;比對網傳影片與一般正常影片的數據波型,也能輕易看出整段影片的 AI 生成機率都在60% 以上,且部分畫面在臉部置換(橘點)及 AI 產製內容(綠點)的偵測特別高。



使用「TrueMedia.org」的 AI 檢測,可以看到聲音部分檢測結果為 100% AI 生成,不過影像部分的檢測結果僅有 46% 疑似 AI 生成,評估等級為「不確定」(Uncertain)。


若是將影片擷圖,利用 AI 檢測工具「sightengine」進行檢測,可以看到生成式人工智慧(GenAI)的機率為 98%,且使用的擴散模型 (Diffusion model)很有可能是 Stable Diffusion。

補充:Stable Diffusion 是 2022 年發布的深度學習文字到圖像生成模型,如果在 YouTube 上搜索「stable diffusion、換臉(Face Swap)」,便能找到許多影像換臉的教學影片。
其實除了線上 AI 檢測工具,如果把影像放大並逐格檢視,會發現 0:00 - 0:20 處,右邊的桌子上有一個紫色不明物體不斷變換型態,且有時會隨著人物講話而起伏;1:35 處開始,會發現影片人物坐的床會「整片」上下位移;大約 1:44 開始,紫色物體再次變換型態,並於 2:04 左右回復正常。由此可以推論,網傳影片實際長度約 1 分 44 秒,透過重複播放的方式,將深偽技術置換臉部嘴型的影片,配上 AI 語音後製而成。
結論
總結來說,網傳影片是 AI 生成影片,並非真人口述,傳言提供的背景資訊不夠明確,容易造成民眾誤解。

資料來源:
YouTube -
「有什麼臉說台灣是中國的」 深圳女孩影片曝中國現況被封殺-民視新聞
中國秒刪影片庫
HIVE Moderation
Attestiv
TrueMedia.org
sightengine
延伸閱讀:
【錯誤】網傳柯建銘批評民進黨的影片?不實內容!深偽技術變造後製片段
【錯誤】網傳于北辰稱讚中共演習影片?深偽變造!嘴型置換搭配AI語音

0 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0