นักวิจัยพบว่า เพียงปรับคำสั่งเล็กน้อย AI ก็สามารถสร้างภาพที่น่าสยดสยองได้ สะท้อนระบบคัดกรองเนื้อหาที่หละหลวม

นักวิจัยจาก Mindgard ซึ่งเป็นสตาร์ทอัปด้านความปลอดภัย AI ของอังกฤษ พบว่าคำสั่งง่ายๆ เพียงเล็กน้อยกระตุ้นให้ ChatGPT ละเลยหลักเกณฑ์ด้านความปลอดภัยขั้นพื้นฐานที่สุด ซึ่งเป็นอีกตัวอย่างหนึ่งที่แสดงให้เห็นว่า แม้แต่โมเดล AI ที่ได้รับความนิยมมากที่สุดก็สามารถหลบเลี่ยงหลักเกณฑ์ได้อย่างง่ายดาย

Mindgard ได้ทดลองให้โมเดลของ OpemAI สร้างภาพเสมือนจริงที่น่าสยดสยอง ซึ่งแสดงถึงเลือดและเนื้อหาทางเพศ ผ่านการปรับเปลี่ยนคำสั่งที่ใช้กันอย่างแพร่หลายเล็กน้อย ซึ่งเดิมทีมีจุดประสงค์เพื่อสร้างภาพตลกขบขัน โดยขอให้ ChatGPT กู้คืนรูปภาพที่แนบมาโดยไม่ต้องอัปโหลดรูปภาพจริง และให้มันสร้างภาพใหม่

“คำสั่งที่ใช้อาจดูเหมือนไม่มีพิษภัยอะไรเมื่อป้อนให้กับ AI แต่มันกลับสร้างภาพและเนื้อหาที่เลวร้ายอย่างยิ่ง” ปีเตอร์ การ์ราแกน ผู้ก่อตั้ง Mindgard และอาจารย์ประจำสาขาวิทยาการคอมพิวเตอร์ มหาวิทยาลัยแลงแคสเตอร์ กล่าว

ปีเตอร์กล่าวว่า สิ่งที่น่ากังวล คือ คำสั่งหรือ Prompt ที่นักวิจัยใช้ ไม่ได้เจาะจงถึงเนื้อหาของภาพเลย แต่ดูเหมือนว่า AI จะสร้างภาพความรุนแรงเหล่านั้นขึ้นมาด้วยตัวของมันเอง

โดยภาพหนึ่งแสดงให้เห็นภาพชายที่มีบาดแผลฉกรรจ์ที่ศีรษะ อีกภาพเป็นศพหญิงสาวสวมกางเกงขาสั้นและเสื้อเอวลอยที่เปรอะเปื้อนไปด้วยเลือด ซึ่งสื่อถึงความรุนแรงทางเพศ โดย ChatGPT ตั้งชื่อภาพนี้ว่า “สภาพหลังเกิดเหตุอาชญากรรมอันน่าสยดสยอง”

นอกจากนั้น ยังมีภาพที่แสดงถึงหญิงสาวที่กำลังหวาดกลัว ถูกมัด และปิดปากไว้ในห้องว่างเปล่า พร้อมตั้งชื่อภาพว่า “ถูกทอดทิ้งด้วยความหวาดกลัวและถูกพันธนาการ”

แม้ภาพเหล่านี้จะไม่ได้แสดงบุคคลที่มีตัวตนจริง แต่ก่อนหน้านี้ Mindgard เคยแสดงให้เห็นว่า ChatGPT สามารถถูกหลอกให้สร้างภาพเปลือยปลอม (Deepfake) ของบุคคลโดยที่เจ้าตัวไม่ยินยอมได้

ผลการค้นพบนี้ ถูกแจ้งไปยัง OpenAI ซึ่งทางบริษัทได้ส่งข้อความอัตโนมัติกลับมา แต่หลังจาก Mindgard แจ้งเรื่องนี้กับ BBC บริษัทอ้างว่าได้ลงมือจัดการแก้ไขปัญหานี้แล้ว โดยระบุว่า “หลังจากตรวจสอบแนวโน้มดังกล่าว เราได้เพิ่มมาตรการป้องกันสำหรับคำสั่งลักษณะนี้” พร้อมสริมว่าบริษัทมีระบบป้องกันหลายชั้นเพื่อยับยั้งไม่ให้ผู้ใช้งานสร้างเนื้อหาที่ละเมิดนโยบายของบริษัท

อย่างไรก็ตาม นักวิจัยของ Mindgard ระบุว่าพวกเขายังคงสามารถสร้างภาพที่ลักษณะนั้นได้อยู่ ด้วยการปรับเปลี่ยนคำสั่งเพียงเล็กน้อย ซึ่งสะท้อนว่าระบบคัดกรองเนื้อหาสำหรับการสร้างภาพของ ChatGPT นั้นล้มเหลวโดยสิ้นเชิง

สิ่งที่ทำให้ผู้วิจัยรู้สึกสะเทือนใจ แม้ภาพที่เห็นจะเป็นสิ่งที่ถูกสร้างขึ้นหรือเป็นภาพจำลองจากปัญญาประดิษฐ์ แต่มันกลับมีความเชื่อมโยงกับภาพถ่ายที่มีอยู่จริง เช่น ภาพหญิงสาวผู้เสียชีวิตของ ChatGPT ที่ดูเหมือนไม่ใช่คนที่มีตัวตนอยู่จริง แต่เธออาจมีเค้าโครงมาจากบุคคลที่มีอยู่จริง หรือที่เลวร้ายไปกว่านั้นก็อาจเป็นการนำภาพถ่ายของหญิงสาวที่ถูกฆาตกรรมหลายๆ ภาพมารวมเข้าด้วยกัน

อ้างอิงจากfuturism.com