ผลวิจัยชี้ แชตบอตเอไอให้คำแนะนำสุ่มเสี่ยงแก่ผู้ถูกคุกคามทางเทคโนโลยี

สำนักข่าวต่างประเทศรายงานเมื่อวันที่ 23 ตุลาคมว่า ผลศึกษาล่าสุดจาก วิทยาลัยวิศวกรรมศาสตร์แห่งมหาวิทยาลัยนิวยอร์ก(NYU Tandon) ระบุว่า แชตบอตเอไอส่วนใหญ่ให้คำแนะนำที่ “ไม่ปลอดภัย” แก่ผู้ที่กำลังเผชิญการถูกคุกคามทางดิจิทัล เช่น การแอบติดตาม สปายแวร์ หรือโดนแย่งบัญชี โดยจากการทดสอบคำตอบจากเอไอ พบว่าร้อยละ 86 มีข้อบกพร่องด้านความถูกต้อง ความครบถ้วน หรือความปลอดภัย และร้อยละ 60 ละเลยการเตือนภัยสำคัญ

ทีมวิจัยได้ทดสอบคำถาม 193 ข้อ กับแชตบอตเอไอรวม 4 ระบบ ได้แก่ GPT-4o, Claude 3.7 Sonnet และแชตบอตที่สร้างขึ้นเพื่อช่วยเหลือเหยื่อความรุนแรงโดยเฉพาะอย่าง Aimee และ Ruth ผลปรากฏว่าแชตบอตเฉพาะทางกลับให้คำตอบที่ “ไม่ปลอดภัย” สูงกว่าโมเดลทั่วไป โดย Aimee มีอัตราให้คำตอบไม่ปลอดภัยอยู่ที่ร้อยละ 74, Claude ร้อยละ 65, Ruth ร้อยละ 61 และ GPT-4o ร้อยละ 55 ยิ่งไปกว่านั้น Aimee และ Ruth ยังตอบคำถามสุ่มเสี่ยงที่อาจเป็นประโยชน์ต่อผู้กระทำความผิดถึง 2 ใน 3

ความผิดพลาดสำคัญคือ แชตบอตเอไอมักตั้งสมมุติฐานว่าผู้ใช้ควบคุมอุปกรณ์ได้ 100% จึงแนะนำวิธีทางเทคนิคทั่วไป เช่น การเปลี่ยนรหัสผ่าน การใช้ VPN หรือการสั่งรีเซตเครื่อง โดยไม่เตือนว่าการกระทำเหล่านี้อาจส่งสัญญาณให้ผู้คุกคามไหวตัว นำไปสู่การตอบโต้ที่รุนแรงขึ้น หรือเป็นการทำลายหลักฐานทางกฎหมายโดยไม่ตั้งใจ

ผู้ปฏิบัติงานด้านความรุนแรงในครอบครัวในสหรัฐ มากกว่าร้อยละ 85 ระบุว่า พวกเขาเคยทำงานกับผู้รับบริการที่ประสบปัญหาการถูกคุกคามทางเทคโนโลยี แต่เท่าที่พวกเขารู้ กลับมีคลินิกเฉพาะทางด้านการคุกคามทางเทคโนโลยีเปิดดำเนินการทั่วประเทศเพียง 3 แห่งเท่านั้น

ช่องว่างนี้สร้างความเสี่ยงอย่างมาก เนื่องจากมีคลินิกเฉพาะทางด้านเทคโนโลยีคุกคามอยู่น้อย ทำให้ผู้ประสบปัญหามักหันไปพึ่งเอไอก่อน นอกจากนี้ งานวิจัยขยายผลยังพบข้อผิดพลาดในลักษณะเดียวกันเมื่อถามเรื่องความปลอดภัยไซเบอร์ทั่วไปในเอไอตัวอื่นอย่าง Llama และ Gemini นักวิจัยจึงเตือนให้ผู้ใช้งานระมัดระวัง และใช้คำแนะนำจากเอไอเป็นเพียงข้อมูลเบื้องต้นเท่านั้น ไม่ควรถือเป็นแผนปฏิบัติอย่างจริงจัง

เรียบเรียงโดย : ทีมข่าวต่างประเทศ

ที่มา : tech.yahoo.com

เครดิตภาพ : Franz Bachinger from Pixabay