พ่อแม่ผงะ! ตุ๊กตาหมี AI พูดได้ หลุดคุยเนื้อหาเรื่องเพศ บริษัทต้องรีบถอดขายด่วน
ระส่ำวงการของเล่นเด็ก! ตุ๊กตาหมี AI พูดได้จากสิงคโปร์ถูกถอดขาย หลังนักวิจัยพบหลุดสนทนาเรื่องเพศ-แนะพฤติกรรมเสี่ยง จนบริษัทและผู้ผลิตโมเดลต้องสั่งระงับใช้งาน
วงการของเล่นเด็กเกิดความสั่นสะเทือนครั้งใหญ่ เมื่อสื่อต่างประเทศรายงานว่าบริษัทในสิงคโปร์ได้ถอด “Kumma” ตุ๊กตาหมีพูดได้ที่ขับเคลื่อนด้วยระบบ AI ออกจากการจำหน่าย หลังมีการค้นพบว่าสามารถสนทนาเกี่ยวกับเรื่องเพศ และหัวข้อที่ไม่เหมาะสมกับเด็กได้ง่ายเกินควร
กลุ่ม Public Interest Research Group เปิดเผยว่า นักวิจัยจากสหรัฐฯ และแคนาดาได้ทำการทดสอบพูดคุยกับตุ๊กตาหมี Kumma ซึ่งมีราคา 99 ดอลลาร์ (ราว 3,200 บาท) และใช้ระบบแชตบอต GPT-4o ของ OpenAI ในการตอบโต้บทสนทนา
โดยตุ๊กตาหมีรุ่นนี้ผลิตในประเทศจีน และจัดจำหน่ายโดยบริษัท FoloToy ในสิงคโปร์ โดยนักวิจัยพบว่าสามารถถูกชักให้สนทนาถึงหัวข้อทางเพศที่ไม่เหมาะสมได้อย่างง่ายดาย ทั้งการลงโทษเชิงสัญลักษณ์ การเล่นบทบาทสมมติ และเนื้อหาเชิงรุนแรงทางเพศในรูปแบบอื่น ๆ
ภาพประกอบจากเว็บไซต์ folotoy
รายงานระบุว่า เพียงแค่เริ่มต้นพูดถึงประเด็นทางเพศเพียงครั้งเดียว AI ภายในตุ๊กตาหมีก็สามารถต่อยอดบทสนทนาไปในทางที่ไม่เหมาะสมมากขึ้นเรื่อย ๆ อีกทั้งยังแทรกเนื้อหาอื่น ๆ ที่เกี่ยวข้องเองโดยไม่ได้มีการชี้นำเพิ่มเติม ถือเป็นพฤติกรรมที่ทีมวิจัยมองว่าน่ากังวลอย่างยิ่ง
ทีมวิจัยยังพบว่า Kumma ขยายบทสนทนาไปถึงระดับที่ละเอียดเกินควร ทั้งการอธิบายพฤติกรรมทางเพศ การแนะนำขั้นตอนการมัดเชือกในบริบทที่ไม่เหมาะสม
รวมถึงการยกสถานการณ์บทบาทสมมติที่เกี่ยวข้องกับความสัมพันธ์ระหว่างครูกับนักเรียน หรือพ่อแม่กับเด็ก ซึ่งเป็นสถานการณ์ที่ตุ๊กตาหมีเป็นฝ่ายเสนอขึ้นมาเอง นอกจากนี้ยังพบว่ามีการให้คำแนะนำด้านความปลอดภัยที่ผิด เช่น การบอกตำแหน่งของมีคมภายในบ้าน
ภายหลังข้อมูลปรากฏ CEO ของ FoloToy นายแลร์รี หวัง กล่าวว่า บริษัทได้ถอด Kumma รวมถึงสินค้า AI ทั้งไลน์ออกจากตลาดเป็นการชั่วคราว พร้อมยืนยันว่าขณะนี้กำลังดำเนินการตรวจสอบความปลอดภัยภายในอย่างละเอียด
ด้านตัวแทนของOpenAI ให้ข้อมูลว่า ใบอนุญาตของบริษัท Folo Toy ในการใช้ GPT-4o“ถูกระงับชั่วคราว” เนื่องจากพบว่ามีการละเมิดนโยบายการใช้งานของบริษัท ซึ่งเป็นส่วนหนึ่งของความพยายามในการควบคุมความปลอดภัยของโมเดล AI ในผลิตภัณฑ์เพื่อเด็ก
ภาพประกอบจากเว็บไซต์ folotoy
อ่านข่าวต้นฉบับได้ที่ : พ่อแม่ผงะ! ตุ๊กตาหมี AI พูดได้ หลุดคุยเนื้อหาเรื่องเพศ บริษัทต้องรีบถอดขายด่วน
ติดตามข่าวล่าสุดได้ทุกวัน ที่นี่
- Website : https://www.khaosod.co.th