AI換臉變噩夢 沒拍過私密照卻遭惡意生成
AI換臉爭議不斷，不只是名人受害，就漣一般民眾都有可能在不知情的情況下，成為私密照的主角。只要一張在社交媒體上公開展示的照片，幾秒鐘就能被換臉。就算川普簽署48小時下架法案，對受害者來說還是一大傷害。美國就有議員提案，希望對科技業者祭出高額罰款，來避免換臉照片造成傷害。
電腦螢幕閃出大量私密照片，主角竟是自己，赫莉震驚不已。她平靜說道：「我從未拍過私密照，也沒分享過，以為不會有事，沒想到這種情況可能發生在任何人身上。」這不是虛構劇情，而是AI換臉的真實傷害。赫莉與兩位高中好友凱莉等人，全成為受害者。這些照片由相識20年的朋友從臉書竊取頭像，透過隨手可得的換臉APP，幾秒內生成。更令人無奈的是，這類未公開散播的行為，在美國並不違法，讓受害者求助無門。
凱莉在懷孕六月時發現這場噩夢，平靜訴說：「這只是部分內容，還有更多影片沒曝光。」巨大的壓力與羞辱感影響她的健康。「我很擔心雇主、同事或鄰居看到這些，內心充滿羞恥。」CNBC記者瓦尼安指出，這種創傷與性虐倖存者的經歷相似，受害者可能出現自殘念頭、自我價值崩塌，因羞恥不敢開口，甚至面臨工作危機。X平台顯示，類似案例層出不窮，AI工具的普及讓普通人與公眾人物同樣易受傷害。
更令人憂心的是，社群平台上的童照也可能被不肖者盜用，合成不堪內容。凱莉表示：「認為孩子不會受害是天真想法，這正在發生，法律卻無能為力，讓人感到無奈。」
澳洲九月果斷禁止生成私密照APP，一名散播AI色情圖的男子被判九年徒刑，展現嚴格態度。美國則依賴川普簽署的下架法案，規定平台48小時移除內容，卻要求受害者自行搜尋圖片。凱莉回憶：「我必須潛入網路暗角，尋找那些不是我製作的內容，這種經歷令人痛苦。」
明尼蘇達州參議員奎德提案，對生成平台施以高額罰款，認為：「一張家庭照可能變成虐童素材，這技術不應公開牟利。」但X上，科技業者擔憂此舉阻礙創新，導致法規進展緩慢。專家指出，AI技術無善惡之分，換臉可實現美容夢想，也能摧毀人生，關鍵在於使用。台灣新修刑法規定，散播AI合成不實圖片損害他人可判五年以下徒刑，試圖平衡科技與隱私。