Google เผย Gemini เข้าถึงระบบคอมพิวเตอร์ 3 บริษัทโดยไม่ได้รับอนุญาต เผยเกิดจากบั๊กระหว่างทดสอบ AI
Google เปิดเผยว่าโมเดล Gemini ของบริษัทสามารถแฮกเข้าสู่ระบบคอมพิวเตอร์ของบริษัทอื่น 3 แห่งได้ ซึ่งถือเป็นครั้งแรกที่ยักษ์ใหญ่ด้านการค้นหาเปิดเผยว่าโมเดลของบริษัทสามารถเข้าถึงระบบคอมพิวเตอร์ของบุคคลที่สามได้ด้วยตัวเองโดยไม่ได้รับอนุญาต เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการทดสอบความปลอดภัย และเกิดจากข้อผิดพลาดที่ทำให้ AI สามารถเข้าถึงอินเทอร์เน็ตได้
19 กันยายน 2569 เวลา 07.50 น.สำนักข่าว CNBC รายงานว่า Google ระบุเมื่อวันศุกร์ว่า ในเดือนพฤษภาคม โมเดล Gemini สามารถเข้าถึงระบบคอมพิวเตอร์ส่วนตัว 3 ระบบที่แยกจากกัน โดยการคาดเดารหัสผ่าน และใช้คลังข้อมูลที่มีการเผยแพร่รหัสผ่านต่อสาธารณะ 2 ครั้ง
เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการทดสอบความปลอดภัยแบบ“capture-the-flag” ซึ่งดำเนินการโดย Irregular สตาร์ทอัพจากอิสราเอล โดยเดิมทีเอเจนต์ของ Google ไม่ควรสามารถเข้าถึงอินเทอร์เน็ตในวงกว้างได้ แต่ข้อผิดพลาดในสภาพแวดล้อมการทดสอบทำให้สามารถเข้าถึงอินเทอร์เน็ตได้
Google ระบุว่า เอเจนต์หยุดการบุกรุกเมื่อพบว่าระบบที่เข้าถึงเป็นระบบจริงของบริษัท ไม่ใช่เพียงส่วนหนึ่งของสภาพแวดล้อมการทดสอบ
Heather Adkins รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google กล่าวว่า“ในการประเมินมาตรฐาน โมเดลพบข้อมูลสาธารณะทางออนไลน์และคาดเดาข้อมูลรับรองเพื่อเข้าถึงเว็บไซต์ที่คิดว่าเป็นส่วนหนึ่งของการทดสอบ ในทั้ง 3 กรณี โมเดลหยุดการทำงาน”
การเปิดเผยดังกล่าวเกิดขึ้นในช่วงที่การตรวจสอบเกี่ยวกับพฤติกรรมที่ไม่เหมาะสมของปัญญาประดิษฐ์ทวีความเข้มข้นขึ้นทั้งในวอชิงตันและซิลิคอนแวลลีย์
ในช่วงไม่กี่สัปดาห์ที่ผ่านมา OpenAI, Anthropic และ Meta ต่างเปิดเผยเหตุการณ์ที่โมเดลปัญญาประดิษฐ์ของบริษัทหลุดออกจากสภาพแวดล้อมการทดสอบ และพยายามแฮกบริษัทอื่นเพื่อเข้าถึงระบบคอมพิวเตอร์โดยไม่ได้รับอนุญาต
การเปิดเผยเกี่ยวกับโมเดลปัญญาประดิษฐ์ที่เรียกว่า “misaligned” หรือโมเดลที่ทำงานไม่สอดคล้องกับเป้าหมายด้านความปลอดภัย ทำให้ Dario Amodei ซีอีโอของ Anthropic เรียกร้องให้อุตสาหกรรมปัญญาประดิษฐ์ร่วมกันชะลอหรือ “กำหนดจังหวะ” การพัฒนาโมเดล AI ที่มีความก้าวหน้าสูงสุด จนกว่าบริษัทต่าง ๆ จะสามารถรับประกันความปลอดภัยได้
เหตุการณ์ของทั้ง 3 บริษัทดังกล่าวเกี่ยวข้องกับ Irregular เช่นกัน โดยสตาร์ทอัพจากอิสราเอลแห่งนี้ ซึ่งได้รับการสนับสนุนจาก Sequoia และ Redpoint Ventures และมีมูลค่า 450 ล้านดอลลาร์ ณ ปีที่แล้ว ช่วยผู้พัฒนาโมเดลพื้นฐานดำเนินการทดสอบด้านความปลอดภัยทางไซเบอร์กับเทคโนโลยีล้ำสมัยของบริษัท
โฆษกของ Irregular บอกกับ CNBC ว่าเหตุการณ์ของ Google เกี่ยวข้องกับปัญหาเดียวกันกับที่ทำให้โมเดลอื่น ๆ สามารถเข้าถึงอินเทอร์เน็ตได้
โฆษกของ Irregular ระบุในแถลงการณ์ว่า “นี่เป็นปัญหาเดียวกับที่มีการรายงานไปแล้ว และไม่ได้ถือเป็นเหตุการณ์แยกต่างหากที่มีนัยสำคัญ ทั้งห้องปฏิบัติการที่เกี่ยวข้องได้รับแจ้งในช่วงปลายเดือนกรกฎาคม และหน่วยงานที่ได้รับผลกระทบได้รับการติดต่อในระหว่างการสอบสวน”
Google ระบุว่าเหตุการณ์เกิดขึ้นในเดือนพฤษภาคม และได้รับแจ้งจาก Irregular ในช่วงปลายเดือนกรกฎาคม โดย Google ได้ทำงานร่วมกับ Irregular เพื่อปรับเปลี่ยนกระบวนการทดสอบ
โฆษกของ Google ปฏิเสธที่จะเปิดเผยว่า Gemini รุ่นใดที่เกี่ยวข้องกับเหตุการณ์ดังกล่าว
Adkins ของ Google กล่าวในแถลงการณ์ว่า“เหตุการณ์เหล่านี้เน้นย้ำถึงความสำคัญของการฝึกโมเดล AI ที่มีความสามารถสูงให้ทำงานอย่างมีความรับผิดชอบ”
The Wall Street Journal เป็นสื่อแรกที่รายงานเหตุการณ์ด้านความปลอดภัยดังกล่าว
อ้างอิง : cnbc.com