AI偽造肉眼難辨 科技破解無所遁形
為了破除網路上「假鬼假怪」的偽造影片,高雄大學資工系團隊研發深偽偵測系統,可在手機上同時檢視影像或影音,專門破解偽造的換臉、變聲影片,讓假影音無所遁形,獲頒教育部「資訊應用服務創新競賽」資安技術組佳作。
「這意味著你可以從現在開始,每小時賺取400美元。」
總統級的呼籲,公開鼓勵投資加密貨幣,但這樣的深度學習偽造影片,刷手機就能破解。
高雄大學資工系學生 廖冠丞:「找他原始真的演講,在我們系統都有實現真假判斷的部分。」
高雄大學資工系學生 張卜驊:「3種檢測模型,有語音 影像 還有影音 ,就選澤倫斯基之前,被深偽的影片來測試,檢測的結果是偽造的。」
高大資工系開發深偽偵測系統,專門破解換臉、變聲影片的細微破綻,假影音不會只能靠肉眼猜測。
高雄大學資工系學生 陳冠霖:「MediaPipe它也是一種模型,它會偵測我們臉部在哪裡,會設定一些臉部的標記,會用大量的深偽影片,跟真實的影片 讓它去訓練,模型就會去學這些深偽的特徵,你可能是臉部的周圍會被改造,它影像頻率不一樣,我們模型就會去學這些偽造特徵,到底是什麼。」
高雄大學資工系學生 黃羿禎:「很多女生 她被深偽一些色情影片,自己是女生 ,所以我其實對這方面滿有感觸的,如果要去說 不是我,會常常陷入自證陷阱,透過這系統 其實可以很明確知道說 ,那這個就真的不是她。」
「我們還可變成李奧納多迪卡皮歐。」
高雄大學資工系學生 黃羿禎:「是一個比較新的偽造方式,譬如說看了我的臉,看了你的臉,然後它直接從零開始 生一張,譬如說我跟你融合之後的臉,因為是模型直接生出來,會比這種直接單純移植的,還要更難去辨識。」
高雄大學資工系教授 潘欣泰:「像總統講話被偽造,有可能整個政策,社會會發生動盪,未來深偽的技術會越來越不一樣,我們的模型就必須要去訓練這些,新的深偽技術所產生出來的影音,這是一個矛跟盾的戰爭,而且是一個看不到盡頭的戰爭。」
人臉、動物,深偽變造氾濫,人工智慧有如堅固盾牌,不斷升級檢測和防禦技術。