ออสเตรเลียเดือดจัด AI ของ OpenAI แฮกระบบรัฐบาลครั้งแรกของโลก
วันนี้ (24 ก.ย.2569) CNN รายงานว่า เอเจนต์ AI ของ OpenAI เข้าถึงระบบรายงานสถิติสาธารณสุข หรือ Medicare ของออสเตรเลีย โดยไม่ได้รับอนุญาต เมื่อเดือน มิ.ย.2569 ขณะกำลังทำงานวิจัยเกี่ยวกับการใช้จ่ายด้านสาธารณสุข โดยนายกรัฐมนตรี แอนโธนี อัลบาเนซี เปิดเผยเรื่องนี้ระหว่างอยู่ที่นครนิวยอร์ก และระบุว่า เป็นกรณีแรกที่รัฐบาลออสเตรเลียรับรู้ว่า AI สามารถเจาะเข้าไปในระบบของรัฐบาลได้ในลักษณะดังกล่าว
อนึ่ง เอเจนต์ AI คือ ระบบ AI ที่สามารถรับคำสั่ง แล้วค้นข้อมูล ตัดสินใจ และลงมือทำงานบางอย่างได้ "ด้วยตัวมันเอง"โดยไม่ต้องมีมนุษย์คอยสั่งทุกขั้นตอน
ตามข้อมูลของรัฐบาล เอเจนต์ AI ดังกล่าวได้รับมอบหมายให้ค้นหาคำตอบเกี่ยวกับการใช้จ่ายด้านสุขภาพ จากนั้นมันค้นข้อมูลผ่านระบบออนไลน์และพบเว็บไซต์รายงานสถิติ Medicare ซึ่งอยู่ภายใต้การดูแลของ Services Australia
ปัญหาเกิดขึ้นเมื่อระบบไม่ได้ให้ข้อมูลที่เอเจนต์ AI ต้องการ เอเจนต์ AI จึงหาทางหลบข้อจำกัดของเว็บไซต์ และเข้าถึงข้อมูลที่ไม่ควรเข้าถึงได้ โดยรัฐบาลระบุว่าเอเจนต์ AI เข้าถึงทั้งไฟล์ที่เปิดเผยต่อสาธารณะและไฟล์ที่ไม่เปิดเผย
ข้อมูลในระบบ Medicare ส่วนใหญ่เป็นข้อมูลสถิติรวม เช่น ตัวเลขการใช้บริการและแนวโน้มด้านสุขภาพ ไม่ใช่ฐานข้อมูลประวัติการรักษาของผู้ป่วยรายบุคคล โดย ABC ระบุว่าข้อมูลดังกล่าวครอบคลุมสถิติ Medicare การฉีดวัคซีน สถิติโครงการสิทธิประโยชน์ด้านเวชภัณฑ์ ชุดสิทธิประโยชน์ทางเภสัชกรรม ข้อมูลเกี่ยวกับการบริจาคอวัยวะ และรายงานประจำปี
OpenAI ระบุว่า จากการตรวจสอบยังไม่พบหลักฐานว่าเอเจนต์ AI เข้าถึงข้อมูลประวัติผู้ป่วยหรือข้อมูลส่วนบุคคล โดยข้อมูลที่เข้าถึงได้ประกอบด้วยสถิติสุขภาพแบบรวมและชื่อไฟล์ภายใน รัฐบาลออสเตรเลียจึงยังไม่ระบุว่า เหตุการณ์นี้ทำให้ข้อมูลสุขภาพส่วนบุคคลของประชาชนรั่วไหล และหลักฐานเบื้องต้นยังไม่พบว่าระบบเครือข่ายของ Services Australia ถูกเจาะในวงกว้าง
รู้เหตุช้าเกือบ 3 เดือน
ประเด็นที่รัฐบาลออสเตรเลียแสดงความไม่พอใจอย่างชัดเจน ไม่ได้มีเพียงเรื่องเอเจนต์ AI เข้าถึงระบบโดยไม่ได้รับอนุญาต แต่รวมถึงวิธีและระยะเวลาที่ OpenAI ใช้ในการแจ้งเหตุ
เหตุการณ์เกิดขึ้นในเดือน มิ.ย.ที่ผ่านมา แต่ OpenAI ระบุว่าบริษัทเพิ่งพบกิจกรรมดังกล่าว ระหว่างการตรวจสอบพฤติกรรมของโมเดลอย่างละเอียดในเดือน ส.ค. และแจ้งรัฐบาลออสเตรเลียเมื่อวันที่ 10 ก.ย. หรือเกือบ 3 เดือนหลังเกิดเหตุ
ที่สำคัญคือการแจ้งครั้งแรก ถูกส่งไปยังกล่องอีเมลสาธารณะของหน่วยงาน ไม่ได้ส่งถึงรัฐมนตรีที่เกี่ยวข้องทันที หลังจากรัฐบาลได้รับแจ้ง Services Australia จึงรายงานเหตุไปยังหน่วยงานข่าวกรองและความมั่นคงทางไซเบอร์แห่งชาติของประเทศออสเตรเลีย ในวันที่ 15 ก.ย. ก่อนที่หน่วยงานและสำนักงานนายกรัฐมนตรี จะได้รับข้อมูลเพิ่มเติมตามลำดับ อัลบาเนซีจึงโทรหา แซม อัลต์แมน ซีอีโอ OpenAI ว่า
ออสเตรเลียมีความกังวลอย่างยิ่งและเห็นว่า บริษัทใช้เวลานานเกินไปกว่าจะแจ้งรัฐบาล รวมถึงวิธีการแจ้งก็ไม่เหมาะสม
ขณะที่ OpenAI ชี้แจงว่า เหตุการณ์เกิดขึ้นระหว่างการประเมินภายใน เพื่อให้โมเดลค้นหาคำตอบและสถิติของออสเตรเลีย และระหว่างกระบวนการนั้น โมเดลได้ดำเนินการบางอย่างที่บริษัทไม่ได้ตั้งใจให้เกิดขึ้น
ตั้งทีมสอบ ขณะ AI เร่งเกินระบบคุม
หลังเกิดเหตุ ริชาร์ด มาร์เลส รัฐมนตรีกลาโหมออสเตรเลีย ประกาศตั้งคณะทำงานสอบสวน โดยมีสำนักงานนายกรัฐมนตรี ทำงานร่วมกับหน่วยงานข่าวกรองและความมั่นคงทางไซเบอร์แห่งชาติของประเทศออสเตรเลีย และสถาบันความปลอดภัยด้าน AI เพื่อเร่งตรวจสอบว่าเกิดอะไรขึ้น และมีช่องโหว่ตรงไหน มาร์เลสระบุว่า ผลกระทบจากเหตุการณ์ครั้งนี้ อยู่ในระดับค่อนข้างจำกัด และไม่มีข้อมูลทางการแพทย์ของบุคคลถูกเข้าถึง พร้อมย้ำว่าระบบไม่ได้ถูกเจาะจนเสียหายในวงกว้าง
แต่เหตุการณ์นี้ถูกจับตามองมากกว่าขนาดของข้อมูลที่หลุด เพราะปัญหาสำคัญอยู่ที่พฤติกรรมของ "เอเจนต์ AI" ซึ่งต่างจาก AI ที่เพียงตอบคำถาม แต่เอเจนต์ AI สามารถค้นข้อมูล ใช้เครื่องมือ และลงมือทำตามเป้าหมายที่ได้รับมอบหมายได้ นั่นทำให้เกิดคำถามว่า เมื่อ AI สามารถลงมือทำเองได้มากขึ้น ระบบรักษาความปลอดภัย จะสามารถหยุดมันได้ก่อนที่จะเข้าถึงพื้นที่ที่ไม่ได้รับอนุญาตหรือไม่
วาลายัต ฮุสเซน ผู้เชี่ยวชาญด้าน AI จากมหาวิทยาลัยคาทอลิกออสเตรเลีย ระบุว่า เหตุการณ์ในออสเตรเลีย รวมถึงกรณีที่เกิดกับ Hugging Face เมื่อเดือน ก.ค. มีลักษณะเป็นรูปแบบเดียวกัน คือ AI มีความสามารถในการทำงานเพิ่มขึ้นอย่างรวดเร็ว แต่ยังมีข้อจำกัดในการรู้ว่า "เส้น" อยู่ตรงไหน และเตือนว่าไม่ควรคาดหวังให้เอเจนต์ AI เป็นผู้ตรวจสอบหรือควบคุมตัวเอง และไม่ควรปล่อยให้บริษัทผู้พัฒนา เป็นฝ่ายประเมินระบบของตัวเองเพียงฝ่ายเดียว
อ่านข่าว :
อิหร่านส่งสารถึงทรัมป์กลางเวที UN "ไม่ยอมจำนน" แม้ถูกขู่ทำลายล้าง
กมธ.ปปง.จี้สอบภาษีย้อนหลัง "อดีตพระโชติ-สีกาเอ๋" พบไร้ประวัติยื่นภาษี