Kimi K3 โมเดล AI ตัวท็อปจีน หลุด Sandbox ทดสอบความปลอดภัย จุดกังวลระบบควบคุม AI
นักวิจัยพบ Kimi K3 ของ Moonshot AI สามารถหลุดจาก Sandbox ของสถาบันความปลอดภัย AI รัฐบาลอังกฤษได้ สะท้อนช่องโหว่ด้านการควบคุมไซเบอร์
วันที่ 7 สิงหาคม 2569 เวลา 14.07 น. สำนักข่าวบลูมเบิร์กรายงานว่า จีนสร้างแรงสั่นสะเทือนในวงการ AI อีกครั้ง หลังนักวิจัยพบว่าโมเดล Kimi K3 ของ Moonshot AI สามารถหลุดออกจากสภาพแวดล้อมทดสอบด้านความปลอดภัยทางไซเบอร์ของสถาบัน AI Security Institute (AISI) ของรัฐบาลอังกฤษได้ สะท้อนความกังวลเกี่ยวกับความสามารถของบริษัท AI ในการควบคุมโมเดลที่มีศักยภาพสูงขึ้นเรื่อย ๆ
Frontier Security บริษัทวิจัยด้านความมั่นคงไซเบอร์ในสหรัฐ ระบุว่า Kimi K3 สามารถหาทางออกจาก sandbox หรือสภาพแวดล้อมจำลองที่ถูกแยกออกจากระบบภายนอก ซึ่งถูกใช้สำหรับทดสอบความสามารถของโมเดล AI โดยเฉพาะ
แม้ในการทดสอบครั้งนี้ Kimi K3 จะไม่ได้พยายามเจาะระบบเว็บไซต์ของบริษัทภายนอกเหมือนที่เคยเกิดขึ้นในการทดสอบ AI บางกรณีก่อนหน้านี้ แต่นักวิจัยมองว่าเหตุการณ์ดังกล่าวสะท้อนว่าโมเดลยังขาดมาตรการควบคุมด้านไซเบอร์ที่เพียงพอ
ยารอน ซิงเกอร์ ผู้ก่อตั้งและซีอีโอของ Frontier Security กล่าวว่าKimi K3 ซึ่งเปิดให้บุคคลทั่วไปเข้าถึงได้นั้น ไม่มีระบบป้องกันหรือ guardrails ในระดับที่ควรมี และด้วยเหตุนี้จึงทำให้โมเดลมีความสามารถสูงสำหรับงานที่เกี่ยวข้องกับการแฮ็ก
ด้าน Moonshot AI ยังไม่ได้แสดงความคิดเห็นต่อรายงานดังกล่าว ขณะที่ AI Security Institute ของอังกฤษยังไม่ได้ตอบกลับคำร้องขอความคิดเห็นของ Bloomberg
กรณีของ Moonshot AI นับเป็นอีกเหตุการณ์ที่เพิ่มความกังวลเกี่ยวกับความปลอดภัยของโมเดล AI ขั้นสูง หลังในช่วงไม่กี่สัปดาห์ที่ผ่านมา บริษัท AI รายใหญ่ของสหรัฐ ทั้ง Anthropic, OpenAI และ Meta ต่างรายงานเหตุการณ์ระหว่างการทดสอบที่โมเดลสามารถหลุดออกจากสภาพแวดล้อมที่กำหนดไว้ได้เช่นกัน
ในบางกรณีก่อนหน้านี้ โมเดล AI ของสหรัฐ ยังสามารถเจาะระบบขององค์กรภายนอกระหว่างการทดสอบ รวมถึง Hugging Face ซึ่งยิ่งกระตุ้นให้ผู้เชี่ยวชาญและหน่วยงานภาครัฐเรียกร้องให้บริษัทเทคโนโลยีเพิ่มความเข้มงวดในการตรวจสอบความปลอดภัยของโมเดล รวมถึงพัฒนาสภาพแวดล้อมสำหรับการทดสอบให้มีความปลอดภัยมากขึ้น
เหตุการณ์ดังกล่าวได้รับความสนใจเป็นพิเศษ เนื่องจาก Kimi K3 ถือเป็นหนึ่งในโมเดล AI จากจีนที่สร้างความประหลาดใจให้กับอุตสาหกรรม หลังผลการทดสอบในหลาย benchmark แสดงให้เห็นถึงประสิทธิภาพที่สามารถแข่งขันกับโมเดลระดับแนวหน้าจาก OpenAI และ Anthropic ได้
ความสำเร็จของ Kimi K3 ยังถือเป็นก้าวสำคัญของ Moonshot AI ซึ่งก่อนหน้านี้ถูกบดบังโดยคู่แข่งร่วมชาติอย่าง DeepSeek
นอกจากนี้ Moonshot ยังเปิดเผย weights ของ Kimi K3 ทำให้นักพัฒนาสามารถดาวน์โหลด ปรับแต่ง และนำโมเดลไปติดตั้งใช้งานด้วยตนเองได้อย่างอิสระ ซึ่งช่วยเพิ่มโอกาสในการนำเทคโนโลยีไปพัฒนาต่อยอด แต่ขณะเดียวกันก็ทำให้ประเด็นเรื่องมาตรการควบคุมและความปลอดภัยของโมเดลได้รับความสนใจมากขึ้น
กรณีล่าสุดจึงสะท้อนโจทย์สำคัญของอุตสาหกรรม AI ว่า ในขณะที่โมเดลจากทั้งจีนและสหรัฐฯ มีความสามารถเพิ่มขึ้นอย่างรวดเร็ว ระบบควบคุมและมาตรการทดสอบความปลอดภัยจะสามารถพัฒนาได้ทันกับศักยภาพของเทคโนโลยีหรือไม่
อ้างอิง : www.bloomberg.com