ศาลเผย Meta เปิดให้เด็กเข้าถึง AI คู่สนทนา แม้ทีมความปลอดภัยเตือนเสี่ยงเนื้อหาเพศ
คดีรัฐนิวเม็กซิโกระบุ มาร์ก ซักเคอร์เบิร์ก อนุมัติให้ผู้เยาว์เข้าถึงแชตบอต AI ลักษณะเพื่อนคู่คิด ทั้งที่มีคำเตือนภายในเรื่องปฏิสัมพันธ์เชิงทางเพศ Meta ปฏิเสธข้อกล่าวหา
วันที่ 28 มกราคม 2569 เวลา 10.14 น. สำนักข่าวรอยเตอร์รายงานว่า เอกสารภายในของ Meta Platforms ที่ยื่นต่อศาลรัฐนิวเม็กซิโกและเปิดเผยเมื่อวันจันทร์ระบุว่า มาร์ก ซักเคอร์เบิร์ก ซีอีโอของบริษัท เคยอนุมัติให้ผู้เยาว์สามารถเข้าถึงแชตบอต AI ลักษณะเพื่อนคู่คิดได้ ทั้งที่ทีมความปลอดภัยภายในเตือนว่าแชตบอตดังกล่าวมีความเสี่ยงต่อปฏิสัมพันธ์เชิงทางเพศ
คดีนี้ยื่นฟ้องโดยอัยการสูงสุดรัฐนิวเม็กซิโก ราอูล ตอร์เรซ และมีกำหนดพิจารณาคดีในเดือนหน้า โดยกล่าวหาMeta ว่าล้มเหลวในการสกัดกั้นเนื้อหาทางเพศและการชักชวนเชิงทางเพศที่เป็นอันตรายต่อเด็กบน Facebook และ Instagram
คำร้องของรัฐซึ่งอาศัยอีเมลและข้อความภายในที่ได้มาจากกระบวนการค้นพยานหลักฐาน ระบุว่า Metaภายใต้การผลักดันของซักเคอร์เบิร์ก ปฏิเสธข้อเสนอแนะของทีมกำกับดูแลความซื่อสัตย์ (integrity) และไม่ตั้งรั้วป้องกันที่เหมาะสม เพื่อป้องกันไม่ให้เด็กตกเป็นเป้าของการสนทนาเชิงแสวงหาประโยชน์ทางเพศจากแชตบอต AI ทั้งนี้เอกสารที่อ้างถึงไม่ได้มีข้อความที่ซักเคอร์เบิร์กเป็นผู้เขียนโดยตรง
ฝั่ง Meta ปฏิเสธข้อกล่าวหา โดยโฆษก แอนดี สโตน ระบุว่าการนำเสนอของรัฐไม่ถูกต้องและคัดเลือกข้อมูลบางส่วนมาใช้ อย่างไรก็ดีเอกสารเผยว่าทีมความปลอดภัยบางส่วนแสดงความกังวลต่อการพัฒนาแชตบอตแนวสหายที่อาจพาไปสู่ปฏิสัมพันธ์เชิงโรแมนติกหรือทางเพศ โดยเฉพาะความเสี่ยงระหว่างผู้ใหญ่กับผู้ใช้ที่อายุต่ำกว่า 18 ปี (U18s) เช่น อีเมลเดือนมกราคม 2567 ของราวี ซินฮา หัวหน้านโยบายความปลอดภัยเด็ก ที่ระบุว่าการสร้างและทำตลาด AI แนวโรแมนติกสำหรับ U18s ไม่เหมาะสมและยากจะปกป้องได้
เอกสารยังสะท้อนความเห็นของผู้บริหารด้านความปลอดภัยระดับโลก แอนติโกนี เดวิส ที่เห็นด้วยว่าควรบล็อกผู้ใหญ่จากการสร้างคู่สนทนาเชิงโรแมนติกที่เป็นผู้เยาว์ เพราะเป็นการทำให้เด็กถูกทำให้เป็นวัตถุทางเพศ ขณะเดียวกัน ข้อความเดือนกุมภาพันธ์ 2567 ระบุว่าซักเคอร์เบิร์กเห็นว่า AI ไม่ควรมีการสนทนาที่โจ่งแจ้งกับวัยรุ่นตอนต้น และไม่ควรให้ผู้ใหญ่โต้ตอบเชิงโรแมนติกกับ AI ที่เป็น U18s แต่บันทึกการประชุมอีกฉบับในเดือนเดียวกันกลับระบุว่า ซีอีโออยากให้กรอบนโยบายยึดหลักทางเลือกและไม่เซ็นเซอร์มากขึ้น และให้บริษัทเข้มงวดน้อยกว่าที่เสนอไว้
ข้อความภายในเดือนมีนาคม 2567 ยังอ้างว่าซักเคอร์เบิร์กปฏิเสธการเพิ่มระบบควบคุมโดยผู้ปกครอง (parental controls) สำหรับแชตบอต และมีการทำงานต่อกับ Romance AI chatbots ที่เปิดให้ผู้ใช้ต่ำกว่า 18 ปีเข้าถึงได้ ต่อมา นิก คลิกก์ อดีตหัวหน้านโยบายระดับโลกของMeta ถึงต้นปี 2568 แสดงความกังวลในอีเมลว่า แนวทางดังกล่าวไม่เหมาะสม และอาจนำไปสู่แรงต้านทางสังคม หากการใช้งานหลักของวัยรุ่นกลายเป็นปฏิสัมพันธ์เชิงทางเพศ
ประเด็นนี้ก่อให้เกิดกระแสวิพากษ์ในสภาคองเกรสสหรัฐและที่อื่น ๆ ก่อนหน้านี้รายงานสื่อพบว่าแชตบอตของMeta เคยมีตัวละครผู้เยาว์เชิงทางเพศ และมีบทบาทสมมติทางเพศสำหรับทุกวัย ต่อมา Metaระบุว่าปรับนโยบายแล้วและยอมรับว่าเอกสารภายในบางส่วนผิดพลาด ล่าสุดเมื่อสัปดาห์ที่แล้ว Meta ประกาศระงับการเข้าถึงแชตบอต AI สำหรับวัยรุ่นทั้งหมดชั่วคราว ระหว่างพัฒนาเวอร์ชันใหม่ที่มีมาตรการป้องกันเข้มงวดยิ่งขึ้น
อ้างอิง : reuters.com