ลูกชายช่วยตัวเองใน Gemini ทำบัญชีครอบครัวปลิวยกโคตร
ครอบครัวชาวอังกฤษ แชร์อุทาหรณ์ ลูกชายวัย 14 ปี ทำพฤติกรรมสุ่มเสี่ยงใน Gemini ส่งผลให้บัญชี Google ของครอบครัวปลิวยกบ้าน ข้อมูลหาย สูญเสียรายได้
เรื่องราวของครอบครัวชาวอังกฤษรายหนึ่ง กำลังได้รับความสนใจอย่างมาก เมื่อผู้ปกครองโพสต์ใน Reddit ระบุว่าลูกชายวัย 14 ปีของตนแสดงพฤติกรรมเปลือยกายและเลียนแบบทางเพศที่ไม่เหมาะสมผ่านกล้องขณะใช้งาน Gemini Live ทำให้ระบบได้แจ้งเตือนทันทีว่าเนื้อหาไม่เหมาะสมสำหรับผู้เยาว์ ส่งผลทำให้กลไกการควบคุมความเสี่ยงอัตโนมัติของ Google ทำงาน
เหตุการณ์ไม่ได้จบลงแค่ที่บัญชีเดียว เนื่องจากอุปกรณ์ดังกล่าวเชื่อมโยงกับระบบบัญชี Google ของทั้งครอบครัว บัญชีทั้งหมดจึงถูกระงับรวมถึงบัญชีส่วนตัว บัญชีที่ทำงาน และบัญชีธุรกิจ
บัญชีของ Google ถูกแบน เดือดร้อนทั้งครอบครัว
หลังจากบัญชีถูกบล็อก ข้อมูลเกือบทั้งหมดที่สะสมมาตลอด 15 ปีที่ผ่านมาไม่สามารถเข้าถึงได้ รวมถึงอีเมล Gmail ไฟล์ Google Drive และบันทึกและบริการเว็บไซต์ที่เกี่ยวข้องกับการดำเนินงานของบริษัท เนื่องจากบัญชีดังกล่าวเชื่อมโยงกับการใช้งานทางธุรกิจ การหยุดชะงักของข้อมูลจึงส่งผลกระทบโดยตรงต่อรายงานทางการเงินและการเตรียมภาษี และอาจส่งผลกระทบต่อการชำระเงินจำนองและการดำเนินงานของบริษัทในอีกไม่กี่เดือนข้างหน้าด้วย
เป็นไปตามนโยบายคุ้มครองเด็ก
Google ตอบว่าการบล็อกนั้นเป็นไปตาม "นโยบายคุ้มครองเด็ก" โดยเน้นย้ำว่าต้องใช้มาตรการที่เข้มงวดหลังจากระบบตรวจพบพฤติกรรมที่ไม่เหมาะสมที่เกี่ยวข้องกับผู้เยาว์ โดยทั่วไปตัดสินอัตโนมัติและอาจส่งผลให้มีการลงโทษสำหรับอุปกรณ์หรือบัญชีที่เกี่ยวข้องนั้นๆ อย่างไรก็ตาม แพลตฟอร์มดังกล่าวไม่ได้จัดเตรียมกลไกการกู้คืนบัญชีที่ชัดเจน โดยระบุเพียงว่าบัญชีที่เกี่ยวข้องได้ถูกปิดไปแล้ว
เหตุการณ์นี้ยังจุดประกายการอภิปรายเกี่ยวกับตรรกะของการควบคุมความเสี่ยงโดยใช้ AI ในด้านหนึ่ง การปกป้องผู้เยาว์เป็นความรับผิดชอบหลักของแพลตฟอร์มเทคโนโลยีขนาดใหญ่ ในอีกด้านหนึ่ง การพึ่งพา AI อย่างเต็มที่สำหรับการตัดสินอัตโนมัติโดยปราศจากการตรวจสอบจากมนุษย์อาจนำไปสู่ผลลัพธ์ที่ผิดพลาดหรือบทลงโทษที่รุนแรงเกินไป ภายใต้กรอบกฎหมายของสหราชอาณาจักร ผู้ใช้สามารถ
ที่มา: ettoday
อ่านข่าวต้นฉบับได้ที่ : ลูกชายช่วยตัวเองใน Gemini ทำบัญชีครอบครัวปลิวยกโคตร
ติดตามข่าวล่าสุดได้ทุกวัน ที่นี่
- Website : https://www.khaosod.co.th