請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

科技

不堪流量和道德爭議,DeepNude 下架並關站

科技新報

更新於 2019年06月28日19:12 • 發布於 2019年06月28日19:12

AI 科技已經在創造美好部分,還有邪惡用途都有長足的進步,推出後引起爭議的 Deep Nude,因不堪湧進的流量與造成的道德爭議,決定網站關掉並且停止運作。

DeepNude 運用柏克萊大學開方的開源演算法 pix2pix,為生成式對抗神經網路 (GAN),只要花上幾秒鐘時間,就能將有穿衣服的女性圖像,生成有露出胸部的圖像。DeepNude 專案背後的人化名 Alberto,說女性的衣服遮住皮膚的部分越少,DeepNude 生成的照片效果越好。

We are sorry for the various problems. Really. We didn't expect this traffic. The best thing, if it doesn't download well now, is to try later.

— deepnudeapp (@deepnudeapp) June 27, 2019

Alberto 表示他們內部將 DeepNude 當作娛樂用途的專案,偶爾才會接到購買訂單。但想不到推出的迴響這麼大,機器開始負荷不了,而且開始收到討論這麼做是否符合道德的爭論,他並不希望用有爭議的方式賺錢。儘管 DeepNude 開發者有將輸出的影像打上浮水印造假字樣,但仍無法應對排山倒海而來的批評和爭論聲浪。

▲ DeepNude 貼出的聲明,強調並沒有預料造成大風波,也一直問自己該這麼做嗎,做的事情是對的嗎。(Source:DeepNude)

DeepNude 是單機執行的程式,有 Linux 和 Windows 版本,並計畫推出 Mac 版本。DeepNude 因為網路上遍布充斥裸體女性的色情影片,能輕易的算出衣服底下可能的乳房形狀,但用男性照片算不出理想影像,輸入卡通圖樣則根本做不出有意義的圖片。

Motherboard 訪問柏克萊大學教授 Hany Farid,專精 DeepFake 的數位鑑識技術,被 DeepNude 的成就震驚。Farid 表示 DeepFake 還需要一些技術背景,大量訓練資料,以及很貴的影像卡,但 DeepNude 操作簡單,不需要複雜的資料,以及運算資源,是方便使用者的消費者導向程式。

人們常正面看待像是 AI 等新技術,但人心黑暗造就 AI 被用在壞的用途。DeepNude 簡單易用,如同潘朵拉的盒子一樣,打開之後就在也關不上。心有不甘的前男友、想威脅人的惡人、純粹覺得想做好玩事的屁孩,運用 DeepNude 背後的技術大量造假裸照,假若偵測技術趕不上製造速度,對於整個社會影響將相當大。

(首圖來源:[Pxhere](https://pxhere.com/en/photo/1531349 CC0), CC0)

0 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0
reaction icon 0