惡意人士恐利用Deepfake犯法！臉書研發AI系統有效辨別真偽
新頭殼newtalk
近期越來越多人關注的深偽技術（Deepfake）能夠合成逼真影像，外界擔心會被惡意人士拿來進行非法用途。臉書和密西根州立大學合作，研發出一款AI系統，能夠偵測出哪些影片或圖像是透過深偽技術製作，甚至往回追溯來源。
Deepfake結合深度學習和AI技術，能夠製作出高度逼真合成影像，像是把臉移植到別人身上，一般人也難以用肉眼辨識，最常見的應用是在色情片的拍攝。由於任何人都能透過FakeApp或Faceswap這些應用程式製作Deepfake影像，因此也時常被網友拿來惡搞，植入明星的臉錄製成搞怪影片。
臉書在官方部落格說明，每一台相機拍出來的影像都會留下獨有的特徵和固定模式，透過分析這些特徵資料，最終能夠回溯到影像來源，進一步辨別真偽，即使深偽技術再純熟也不會有影響。
臉書為了規範平台上的不實訊息，去年1月便宣布用戶禁止使用Deepfake，但一直以來都很難快速掃蕩所有違規貼文。雖然目前還不清楚臉書會如何實際運用這款辨識系統，不過在研究的過程中，臉書已經搜集到100種不同的Deepfake模型。
延伸閱讀：
留言 3