生成式 AI 在製作擬真圖片時效果越來越優秀,不過除了用來發揮創意或者提升內容製作效率,也會被濫用作意圖不良的用途。最近美國一名男子就因傳播 AI 生成兒童色情圖片被捕。
據報導指,美國威斯康辛州一名軟件工程師 Steven Anderegg 因為使用 Stable Diffusion 模型,透過「使用露骨提示」生成大量色情圖片,此外還使用了可以生成生殖器官的插件來規避 Stable Diffusion 本身的限制。在執法部門進行搜查期間發現疑犯電腦內有超過 13,000 張 AI 生成色情圖片,其中有不少都是未成年人的裸照。
然後他張這些圖片透過 Instagram 的即時訊息功能傳播,其中一次當對方表示自己只有 15 歲,疑犯就向其發送色情圖片,以及描述自己的製作過程,同時表達想與未成年男童性交。他被逮捕之後,面臨最高 70 年徒刑,而執法機構則認為應該判處無期徒刑。疑犯在 2020 年,也曾經在家試圖下載多個已知兒童色情檔案已被執法部門搜查,不過當時未被起訴。
來源:Verge
• 不想錯過新科技 ? 請 Follow unwire.hk FB 專頁http://facebook.com/unwirehk/
• 要入手生活科技潮物 即上 unwire store
https://store.unwire.hk/
留言 0