ชาติแรกในโลก! มาเลย์-อินโด แบนแชตบอต Grok หลังคนใช้ตัดต่อภาพลามก
ชาติแรกในโลก! มาเลย์-อินโด แบนแชตบอต Grok หลังคนใช้ตัดต่อภาพลามก
สำนักข่าวเอพีรายงานว่า ประเทศอินโดนีเซียและมาเลเซีย เป็นประเทศแรกของโลกที่ปิดกั้นการใช้งาน Grok แชตบอตปัญญาประดิษฐ์ (เอไอ) ในแพลตฟอร์มออนไลน์ X ของอีลอน มัสก์ มหาเศรษฐีชาวสหรัฐ หลังรัฐบาลของมาเลเซียและอินโดนีเซียบอกว่า Grok ถูกนำไปใช้ในทางที่ผิดเพื่อตัดต่อภาพเปลือยของบุคคลอื่น หรือใช้ทำภาพอื่นที่บุคคลดังกล่าวไม่ได้อนุญาต
หน่วยงานกำกับดูแลของอินโดนีเซียและมาเลเซียระบุว่า มาตรการที่มีอยู่ไม่สามารถป้องกันการสร้างและเผยแพร่เนื้อหาทางเพศที่ไม่เป็นความจริง โดยเฉพาะในการตัดต่อภาพเปลืองของผู้หญิงหรือเด็ก Grok ถูกแบนการเข้าถึงในวันที่ 10 มกราคม ในประเทศอินโดนีเซีย และในวันต่อมาในประเทศมาเลเซีย
รัฐมนตรีกระทรวงสื่อสารและกิจการดิจิทัลของอินโดนีเซียกล่าวในแถลงการณ์ว่า รัฐบาลเล็งเห็นว่าการตัดต่อหน้าคนอื่นลงในภาพเปลือยโดยไม่ได้รับอนุญาตจากบุคคลดังกล่าวเป็นการละเมิดสิทธิมนุษยชน เกียรติ และความปลอดภัยของประชาชนในโลกออนไลน์อย่างร้ายแรง มาตรการแบน Grok จึงมีวัตถุประสงค์เพื่อปกป้องผู้หญิง เด็ก และสังคมโดยรวมจากเนื้อหาทางเพศที่ผลิตโดยเอไอ
การสอบสวนเบื้องต้นของทางกระทรวงพบว่า Grok ไม่มีแนวทางป้องกันที่ดีพอเพื่อหยุดไม่ให้ผู้ใช้งาน Grok ผลิตและส่งต่อเนื้อหาทางเพศที่ตัดต่อโดยใช้ภาพจริงของคนอินโดนีเซีย พฤติการณ์เช่นนั้นถือเป็นการละเมิดสิทธิส่วนบุคคลและสิทธิในภาพถ่ายจากการถูกนำภาพไปบิดเบือนหรือส่งต่อโดยไม่ได้รับความสมัครใจ ทำให้เกิดผลกระทบต่อชื่อเสียง สังคม และความรู้สึก
ด้านคณะกรรมการการสื่อสารและมัลติมีเดียของมาเลเซียสั่งให้จำกัดการเข้าถึง Grok ชั่วคราว เพราะมีการใช้งานในทางที่ผิดหลายครั้งเพื่อผลิตภาพทางเพศเกี่ยวกับเด็กและผู้หญิง จึงได้ออกคำเตือนไปยัง X เพื่อให้มีการปรับปรุงมาตรการป้องกันเพื่อแก้ไขการนำ Grok ไปใช้ในลักษณะดังกล่าว แต่กระบวนการทางกฎหมายและกฎระเบียบกำลังดำเนินไปในขณะนี้
Grok สร้างขึ้นมาในปี 2023 เพื่อให้ผู้ใช้งาน X ถามคำถามใน X ให้ Grok หาข้อมูลมาตอบ แต่ในฤดูร้อนปีที่แล้วมีการเปิดตัวฟีเจอร์ใหม่ Grok Image เพื่อให้ผู้ใช้งานใช้เอไอทำรูปออกมาได้ แต่ในฟีเจอร์นี้กลับเปิดให้ผู้ใช้งานผลิตภาพลามกโดยใช้ Grok ก่อให้เกิดความกังวลของการนำเอไอไปใช้ผลิตภาพถ่ายปลอมที่มีความแนบเนียนสูง โดยไม่มีมาตรการป้องกันที่ดีพอ
อ่านข่าวต้นฉบับได้ที่ : ชาติแรกในโลก! มาเลย์-อินโด แบนแชตบอต Grok หลังคนใช้ตัดต่อภาพลามก
ติดตามข่าวล่าสุดได้ทุกวัน ที่นี่
– Website : https://www.matichon.co.th