‘เอ็กซ์’ ยอมสั่งห้าม Grok ตัดต่อภาพอนาจาร-ชุดวาบหวิว หลังทั่วโลกแห่แบน
หลังจากที่ อินโดนีเซีย และ มาเลเซีย เป็น 2 ประเทศแรกของโลกที่ปิดกั้นการใช้งาน "กร็อก" (Grok) แชทบอทปัญญาประดิษฐ์ (AI) บนแพลตฟอร์ม 'เอ็กซ์' โดยระบุว่า ถูกนำไปใช้ในทางที่ผิด เพื่อตัดต่อภาพอนาจาร หรือ ใช้ทำภาพอื่นที่บุคคลดังกล่าวไม่ได้อนุญาตนั้น
ล่าสุด เอ็กซ์ ประกาศใช้มาตรการทางเทคโนโลยี เพื่อป้องกันไม่ให้ "กร็อก" สามารถแก้ไข หรือสร้างภาพบุคคลจริงในชุดล่อแหลม โดยมาตรการนี้จะมีผลกับผู้ใช้งานทุกคน รวมถึงสมาชิกแบบชำระเงินด้วย
การปรับเปลี่ยนครั้งใหญ่เกิดขึ้นหลังจากฟีเจอร์ที่เรียกว่า Spicy Mode ของกร็อก ถูกวิพากษ์วิจารณ์อย่างหนักว่า ยอมให้ผู้ใช้ใส่คำสั่งง่าย ๆ เช่น ให้เธอใส่ชุดว่ายน้ำ หรือ ถอดเสื้อผ้าเธอออก เพื่อสร้างภาพ Deepfake เชิงอนาจารของบุคคลจริง รวมถึงเด็ก และเยาวชน
ทั้งนี้ ผลการวิเคราะห์ภาพจาก กร็อก มากกว่า 20,000 ภาพ โดยองค์กรไม่แสวงหากำไร AI Forensics ในกรุงปารีส พบว่า กว่าครึ่งหนึ่งเป็นภาพบุคคลที่สวมเสื้อผ้าน้อยชิ้น ซึ่งส่วนใหญ่เป็นผู้หญิง และ 2% ของภาพเหล่านั้น ดูเหมือนเป็นเยาวชน
ปัจจุบันเอ็กซ์เอไอ ซึ่งเป็นบริษัทผู้พัฒนากร็อกกำลังถูกตรวจสอบอย่างหนักจากหลายหน่วยงาน โดยในสหรัฐ อัยการสูงสุดรัฐแคลิฟอร์เนียประกาศเริ่มการสืบสวนเอ็กซ์เอไอ ว่าละเมิดกฎหมายรัฐในประเด็นการสร้างภาพอนาจารโดยไม่ได้รับยินยอมหรือไม่
ขณะที่ผู้ว่าการรัฐแคลิฟอร์เนียประณามการปล่อยให้ภาพ Deepfake ระบาดว่า เป็นเรื่องที่น่ารังเกียจ ส่วนสหภาพยุโรป คณะกรรมาธิการยุโรปกำลังเฝ้าระวังมาตรการใหม่ของแพลตฟอร์มเอ็กซ์ อย่างใกล้ชิด เพื่อประเมินว่าจะสามารถปกป้องพลเมืองในอียูได้อย่างมีประสิทธิภาพจริงหรือไม่
นอกจากเทคโนโลยีป้องกันการแก้ไขภาพบุคคลจริง แพลตฟอร์มเอ็กซ์ ยังได้ประกาศจำกัดสิทธิ์การสร้างและแก้ไขภาพผ่าน Grok ให้เฉพาะสมาชิกแบบชำระเงินเท่านั้น เพื่อสร้างชั้นการป้องกันพิเศษและช่วยให้ระบุตัวตนผู้ใช้งานได้ง่ายขึ้น
ต่อมา กลุ่มภาคประชาสังคมกว่า 28 แห่ง ได้รวมตัวกันยื่นจดหมายเปิดผนึกถึงซีอีโอของแอปเปิ้ล และกูเกิล เพื่อเรียกร้องให้ถอดแอปพลิเคชันเอ็กซ์ และกร็อกออกจากแอปสโตร์ เนื่องจากความกังวลว่ามาตรการที่ออกมาอาจไม่เพียงพอที่จะหยุดยั้งได้
อ่านข่าวเพิ่มเติม
- นานาชาติรุมสอบ 'เอ็กซ์' เหตุแชทบอท 'กร็อก' สร้าง-เผยแพร่ 'เนื้อหาอนาจาร' ผู้หญิง-เด็ก
- 'อีลอน มัสก์' เดือด! ยุโรปสั่งปรับเอ็กซ์กว่า 4 พันล้าน ลั่นจะตอบโต้
- 'เอ็กซ์' จ่อเก็บข้อมูล 'อัตลักษณ์บุคคล-ประวัติทำงาน-การศึกษา' ผู้ใช้งาน
ติดตามเราได้ที่
เว็บไซต์: https://www.thebangkokinsight.com/
Facebook: https://www.facebook.com/TheBangkokInsight
X:https://twitter.com/BangkokInsight
Instagram: https://www.instagram.com/thebangkokinsight/
Youtube:https://www.youtube.com/channel/UCYmFfMznVRzgh5ntwCz2Yxg