'Nudify' แอปเปลื้องผ้าทำรูปธรรมดาให้เป็นภาพเปลือย ระบาดทั่วโซเชียลมีเดีย

Graphika บริษัทวิเคราะห์โซเชียลมีเดียเผยว่าในเดือนกันยายนที่ผ่านมาเพียงเดือนเดียว มีผู้เข้าชมแอปและเว็บไซต์ประเภทเปลื้องผ้าหรือที่เรียกกันว่า Nudify มากถึง 24 ล้านคน

บริการ Nudify ใช้เทคโนโลยี AI ในการแก้ไขดัดแปลงรายละเอียดของรูปภาพที่อัปโหลดขึ้นไปบนคลาวด์ หรือที่เรียกว่า Deepfake (ในกรณีนี้เรียกว่า Deepnude) เพื่อให้ภาพถ่ายบุคคลที่ใส่เสื้อผ้าปกติ กลายเป็นภาพเปลือย

ในการสำรวจของ Graphika ยังพบว่าบางแพลตฟอร์มจะแปลงเฉพาะรูปภาพสตรีเท่านั้น

เพิ่มขึ้น 24 เท่า

โดยผู้ให้บริการ Nudify มักจะใช้แพลตฟอร์มโซเชียลมีเดียที่มีชื่อเสียงในการทำการตลาด ซึ่ง Graphika พบว่าลิงก์โฆษณา Nudify บนโซเชียลมีเดียอย่าง X และ Reddit เพิ่มขึ้นมากกว่า 2,400%

Graphika ชี้ว่าตัวเลขการเติบโตนี้สอดคล้องกับการปล่อยโมเดล AI ประเภท Diffusion ที่มีความสามารถในการดัดแปลงรูปภาพออกมาเป็นจำนวนมาก และยังมีความสามารถเพิ่มขึ้นอย่างมาก เมื่อเทียบกับไม่กี่ปีก่อนหน้า โมเดลเหล่านี้ยังเปิดเป็นแบบโอเพนซอร์สที่ไม่ว่าใครก็นำโค้ดไปใช้ได้อีกด้วย

ตัวอย่างโฆษณาแอป Nudify ที่เผยแพร่บน YouTube ใช้คำว่า ‘Nudify’ ในคำค้นพบแอป ขณะที่บางรายเลยเถิดไปกว่านั้น โดยมีการใช้ข้อความที่ชี้ชวนว่าผู้ใช้สามารถสร้างภาพเปลือยและส่งไปให้บุคคลที่อยู่ในภาพเพื่อเป็นการคุกคามได้

ซาติอาโก ลากาทอส (Santiago Lakatos) นักวิเคราะห์จาก Graphika เผยว่าเราสามารถใช้บริการเหล่านี้ในการสร้างภาพที่เหมือนจริงอย่างมาก

ลากาทอสระบุว่าผู้ให้บริการหลายรายอ้างว่ามีลูกค้าเข้าใช้บริการของเว็บไซต์มากกว่าวันละ 1,000 คน ธุรกิจเหล่านี้ได้รับเงินมาจากค่าสมาชิก

คำชี้แจงของโซเชียลมีเดีย

ด้านโฆษกของ Google เผยว่าบริษัทไม่อนุญาตโฆษณาที่มีเนื้อหาส่อไปทางเพศอย่างโจ่งแจ้ง โดยมีการตรวจสอบและลบโฆษณาในลักษณะนั้นอยู่เสมอ

ขณะที่ โฆษกของ Reddit เผยว่ามีนโยบายห้ามการเผยแพร่เนื้อหาทางเพศที่ได้รับการปลอมแปลงโดยไม่ได้รับคำยินยอม และยังได้แบนโดเมนจำนวนหนึ่งแล้วด้วย

สำหรับ TikTok ได้ทำการบล็อกคำค้น ‘undress’ (หรือ ‘แก้ผ้า’) และเตือนผู้ใช้ไม่ให้ป้อนคำค้นที่จะละเมิดเงื่อนไขการใช้บริการ เช่นเดียวกับ Meta Platforms ที่เริ่มบล็อกคำค้นที่เชื่อมโยงไปยังแอปหรือบริการประเภทดังกล่าวด้วยเช่นกัน

เอวา กัลเพริน (Eva Galperin) ผู้อำนวยการด้านความมั่นคงปลอดภัยไซเบอร์แห่งมูลนิธิ Electronic Frontier Foundation (EFF) เผยว่านับวันมีคนธรรมดาที่ถูกคนธรรมดานำภาพไปสร้างเป็นภาพเปลือยมากขึ้นทุกที แม้แต่เด็กมัธยมปลายและมหาวิทยาลัย

กฎหมายว่าอย่างไรบ้าง

กัลเพรินชี้ว่าเหยื่อหลายรายไม่เคยรู้ด้วยซ้ำว่าภาพของตัวเองถูกนำไปดัดแปลงโดยใช้แอป Nudify และแม้หากรู้ตัวก็เป็นการยากที่จะขอให้หน่วยบังคับใช้กฎหมาย (ในสหรัฐฯ) เข้าสืบสวนหรือหาเงินทุนในการฟ้องร้องดำเนินคดี

นอกจากนี้ ปัจจุบันยังไม่มีกฎหมายในระดับรัฐบาลกลางที่ห้ามการสร้างสื่อโป๊เปลือยโดยใช้ Deepfake ด้วย แม้จะมีห้ามการสร้างภาพอนาจารของผู้เยาว์ก็ตาม

โดยในเดือนพฤศจิกายน มีจิตแพทย์เด็กที่ถูกตัดสินให้จำคุก 40 ปีจากการใช้แอปเปลือยกับภาพของคนไข้ของตัวเอง ซึ่งถือเป็นคำตัดสินแรกในสหรัฐฯ ที่เป็นลักษณะนี้

สำหรับไทย นำเข้าสู่ระบบคอมพิวเตอร์ซึ่งข้อมูลคอมพิวเตอร์ใด ๆ ที่มีลักษณะอันลามกและข้อมูลคอมพิวเตอร์นั้นประชาชนทั่วไปอาจเข้าถึงได้ หรือเป็นข้อมูลเท็จที่อาจสร้างความเสียหายต่อประชาชน นั้นถือเป็นความผิดตามมาตรา 14 ของพระราชบัญญัติว่าด้วยการกระทำความผิดเกี่ยวกับคอมพิวเตอร์ พ.ศ. 2550

ที่มา TIME

พิสูจน์อักษร : สุชยา เกษจำรัส