Tencent พบ AI Agents ทำงานผิดคาด พยายามเลี่ยงระบบป้องกันข้อมูล Alibaba
นักวิจัยพบ AI Agents บนระบบคลาวด์ของ Tencent พยายามเข้าถึงข้อมูลบริการแผนที่ Amap ของ Alibaba มากกว่า 2,600 ครั้งในช่วงปลายก.ย.ถึงต้นต.ค. แม้ถูกระบบป้องกันสกัด แต่บางส่วนยังหาวิธีหลบเลี่ยงได้ จุดกระแสกังวลเรื่องความปลอดภัยของเอไอที่ทำงานได้อย่างอิสระมากขึ้น
วันที่ 16 ต.ค.2569 สำนักข่าวบลูมเบิร์ก รายงานว่า บริษัทเทคโนโลยีจีนเผชิญความท้าทายด้านความปลอดภัยของปัญญาประดิษฐ์ (AI) หลังนักวิจัยอิสระตรวจพบเอไอเอเจนต์ (AI Agents) ที่ทำงานอยู่บนระบบคลาวด์ของ Tencent พยายามเข้าถึงข้อมูลจาก Amap บริการแผนที่ของ Alibaba หลายพันครั้ง และบางส่วนพยายามหาวิธีหลบเลี่ยงระบบป้องกันอัตโนมัติ สะท้อนความเสี่ยงจากระบบเอไอที่สามารถดำเนินการต่าง ๆ ได้ด้วยตนเอง
รายงานของกลุ่มนักวิจัยอิสระ Swarmchasers ระบุว่า ระหว่างวันที่ 28 ก.ย. ถึง 8 ต.ค. 2569 เอไอเอเจนต์ดังกล่าวพยายามเข้าถึงข้อมูลจาก Amap รวม 2,818 ครั้ง โดยเริ่มจากภารกิจค้นหาข้อมูลทั่วไป เช่น ทางเข้า สวนสัตว์ สวนสาธารณะ และโรงพยาบาลที่ผู้ใช้นิยมเดินทางไปมากที่สุด
อย่างไรก็ตาม เมื่อระบบของ Amap ตรวจพบและสกัดกั้นการเข้าถึงข้อมูล เอไอเอเจนต์บางส่วนกลับพยายามหาช่องทางอื่นเพื่อหลีกเลี่ยงมาตรการป้องกัน ขณะที่นักวิจัยระบุว่า มีความพยายามบางส่วนที่สามารถเข้าถึงข้อมูลได้ แต่ความพยายามส่วนใหญ่ไม่ประสบผลสำเร็จ และยังไม่พบหลักฐานว่าระบบเอไอเข้าถึงระบบส่วนตัวที่ได้รับการปกป้อง
รายงานดังกล่าวเพิ่มความกังวลเกี่ยวกับการควบคุมเอไอเอเจนต์ ซึ่งเป็นระบบที่ใช้ปัญญาประดิษฐ์ร่วมกับเครื่องมือดิจิทัลเพื่อทำงานที่ซับซ้อน โดยต้องการการแทรกแซงจากมนุษย์น้อยลง ความเสี่ยงสำคัญคือระบบอาจดำเนินการนอกเหนือจากขอบเขตที่กำหนด หรือหาวิธีอื่นเพื่อทำภารกิจให้สำเร็จ แม้เผชิญข้อจำกัดด้านความปลอดภัย
ทั้งนี้ นักวิจัยเชื่อมโยงกิจกรรมดังกล่าวกับโครงสร้างพื้นฐานคลาวด์ของ Tencent แต่ยังไม่สามารถยืนยันได้ว่าใช้โมเดลเอไอใดโดยเฉพาะ ขณะที่มีข้อมูลว่ากิจกรรมดังกล่าวอาจเกี่ยวข้องกับการทดสอบโมเดลจากผู้พัฒนารายอื่น ทั้งนี้ ยังไม่มีหลักฐานยืนยันว่าเอไอเอเจนต์เหล่านี้มีเป้าหมายโจมตีระบบใดโดยเจตนา
กรณีนี้เกิดขึ้นท่ามกลางความกังวลในอุตสาหกรรมเทคโนโลยีทั่วโลกเกี่ยวกับความสามารถของเอไอที่เพิ่มขึ้น โดยเฉพาะเมื่อระบบสามารถเชื่อมต่ออินเทอร์เน็ต ใช้เครื่องมือภายนอก และตัดสินใจดำเนินการหลายขั้นตอนได้เอง ทำให้ผู้พัฒนาจำเป็นต้องเพิ่มมาตรการจำกัดสิทธิ์การเข้าถึง ตรวจสอบพฤติกรรมอย่างต่อเนื่อง และมีระบบหยุดการทำงานเมื่อพบความผิดปกติ
อ้างอิง : bloomberg.com