濫用AI生成兒童性虐待圖片 大量販售非法牟利

警語：非法行為 請勿模仿

戀童癖者濫用AI技術非法生成兒童性虐待圖片，並用來販售賺錢。BBC記者兼自由研究員奧塔維亞（Octavia Sheepshanks）於主流內容分享網站進行多個月的研究，再將研究結果做成報導。記者表示自從AI生成影像問世後，就出現很多類似情況，而且不只是針對年輕女孩，戀童癖者也會討論小女童。戀童癖者使用AI軟體Stable Diffusion製作大量有關兒童性虐待的圖片，看起來非常真實，再將這些圖片上傳到日本社交媒體平台Pixiv，該平台有許多用戶會分享漫畫與動畫的內容。Pixiv的主機設於日本，因此分享與兒童相關的色情卡通和圖片並不算違法，所以戀童癖者便可肆無忌憚的大肆討論。許多人會在Pixiv的帳號簡介中放上連結，點下之後會開啟募資平台Patreon的一個帳號，若想看「色情內容」的話，就必須得付費訂閱，費用最低為台幣120元。然而記者調查後發現，這些帳號提供的是AI生成的仿真兒童色情圖片，根據所需材料的種類，價格也會有所不同。記者表示甚至有人以大規模的方式製造這些圖片，每個月可生產至少1000張。除此之外記者也發現有網友留言說，想要看真人版的照片和影片，不想看AI生成的圖片。Patreon表示，對於未成年性相關內容採取零容忍的政策，已掌握及刪除類似內容，也坦承類似內容有持續變多的跡象。Pixiv的發言人透露，將投注更多心力來解決此問題，其中包含禁止所有有關未成年性內容的仿真圖像。Pixiv宣稱會積極強化偵測系統，並分配大量資源來解決AI生成影像的問題。Stable Diffusion的母公司告訴《BBC》，將在各個平台上禁止所有非法目的之濫用行為。