AI 防線告急，研究指「直覺」才是辨識 Deepfake 關鍵
人工智慧（AI）產生人臉日益精進，單靠傳統的自動偵測工具或是用肉眼尋找「破綻」，已經不足以應對幾可亂真的深偽（Deepfake）技術。最新研究證實，面對不斷進化的 AI 圖像，人類大腦若經過短期訓練，就能建立不可取代的「直覺防線」。
探討人類判斷的重要性之前，我們必須先正視現有科技防線的侷限。以 Meta 近日推出的 AI 圖像偵測工具為例，路透社分析 40 張由 Muse Image 產生圖片後發現一個致命弱點：工具雖然能準確辨識「原始」AI 圖，但只要圖片裁切編輯過，高達 55% 便能成功躲過驗證。
儘管 Meta 解釋內建「Content Seal」浮水印設計一般編輯後仍能辨識，但大幅裁切會導致訊號流失。這顯示無論自動偵測系統或浮水印，都難做到百分之百可靠的守門員。
既然科技工具並非萬無一失，人類該如何自保？英國阿伯丁大學（University of Aberdeen）與澳洲國立大學（Australian National University）對現代影像生成技術的進步深入探討。
過去，人們常尋找不合理的手指數量、變形耳環或扭曲背景識破 AI 圖片。但 StyleGAN3 與新擴散模型（Diffusion models）等成熟後，低級瑕疵已逐漸絕跡。研究員直言，依賴「視覺缺陷」辨識 AI 圖策略已失效。
為了建立新辨識標準，團隊轉而訓練受試者觀察 AI 臉孔常有的六項特徵：
過度對稱：臉部左右兩側異常一致。
完美比例：五官分布與大小太符合標準。
異常吸引人：外貌顏值普遍高於平均。
臉部結構通用：缺乏個人特色，長相偏向「大眾臉」。
表情變化少：臉部肌肉的情感傳遞較僵硬或單一。
缺乏記憶點：看過之後，大腦很難留下深刻印象。
實驗數據顯示，未受訓前，受試者辨識真偽的準確率僅約 40%；但經約一小時引導學習，並反覆接觸真實與合成臉孔後，準確率大幅飆升至接近 80%，少數人甚至能達近乎完全辨識程度。此外，受試者判斷時的「自信心」也更貼近實際表現。
團隊指出，人類大腦能像機器運作，即用大量範例與重複練習，逐漸建立對真偽的「直覺」。這種直覺，成為未來對抗深偽內容的重要武器。
培養這項能力已是迫在眉睫的任務，因 Deepfake 技術早已跨越娛樂範疇，成為嚴重的社會安全威脅。根據 Deloitte 估算，明年美國因 AI 深偽詐騙造成的損失，可能從 2023 年 120 億英鎊暴增至 400 億英鎊。這類跨國犯罪也已真實上演，例如香港曾發生詐騙集團利用深偽視訊會議，成功誘騙企業員工匯款高達 2,500 萬英鎊；此外，也有調查揭露 AI 生成的 LinkedIn 假檔案已成功滲透美國政策圈。
當 AI 越來越懂得偽裝成人類，單靠機器防禦已顯不足，這項研究清楚傳達訊息：在這個真假難辨的時代，大腦也需要執行系統性「升級」。
What happens when AI detectors fail? Researchers say we must be trained to spot fake AI faces
Meta AI Image Detector Fails To Identify Some Of Its Own Cropped AI Pictures
（首圖來源：Pixabay）