泰勒絲「深偽」色情照的起頭 竟是一場網路挑戰
彭博新聞報導，根據社群網路分析公司Graphika分析，流行音樂天后泰勒絲（Taylor Swift）上個月在社群媒體流傳的「深偽」不雅照，是源自於一場網路挑戰，看誰能突破預防用人工智慧生成色情照的安全機制。
研究人員發現，過去幾週，在網路論壇4chan每天在比賽看誰能找到單字或片語，在最受歡迎的影像生成服務規避過濾機制，包括微軟Designer和OpenAI的DALL-E。終極目標就是創造知名女性的性交影像，例如歌手或政治人物。
Graphika資深分析師羅培茲.G（Cristina López G.）表示，當泰勒絲的色情照片引起大眾關注AI生成未經同意的親密照片，其實泰勒絲不是唯一的受害者。羅培茲.G表示，在一開始流傳泰勒絲「深偽」色情照的4chan，她甚至不是最常被濫用的公眾人物，「這意味著每個人都能被這樣被針對，從世界名人到學童」。
根據Graphika，泰勒絲的深偽照片從一月初開始在4chan流傳，之後傳到Telegram，然後是X平台，迫使X封鎖搜尋Taylor Swift的關鍵字。根據Verge雜誌，其中一張照片在X流傳17個小時，有超過4500萬人看過。
許多提供文字生成影像服務的公司都會禁止部分的關鍵字，預防使用者生成有害的內容。不過4chan和其他網路論壇的一些使用者，已經分享突破這些安全措施的秘訣。
羅培茲.G表示，「這些照片源自於一群人，他們的動機是規避生成人工智慧產品的保障措施，而新的限制被視為『戰勝』的另一個障礙」，「為了從頭預防進一步的濫用，重要的是了解這種惡意活動的遊戲化性質」。
多年來，專家們一直擔心AI生成技術正在失控，泰勒絲這次事件已將未合意的深偽議題推上了政治議程的浪尖，白宮也譴責此事。
根據彭博，在4chan，除了泰勒絲，葛萊美獎歌手怪奇比莉（Billie Eilish）、女歌手亞莉安娜（Ariana Grande）和英國女星艾瑪華森（Emma Watson）也常是被用來生成色情或暴力照片的受害者。