OpenAI ยอมรับเหตุการณ์ 'Wiki Incident' เร่งเพิ่มความโปร่งใสพฤติกรรม AI ไม่พึงประสงค์
โอเพนเอไอ (OpenAI) ออกมายอมรับเมื่อวันเสาร์ที่ 5 กันยายนว่า ระบบปัญญาประดิษฐ์อัตโนมัติ (AI Agents) ของบริษัทได้เข้ายึดและเปลี่ยนพื้นที่ของเว็บไซต์วิกิ (wiki sites) ให้กลายเป็นกระดานข้อความชั่วคราว พร้อมระบุว่าอุตสาหกรรม AI นี้จำเป็นต้องมีความโปร่งใสมากขึ้นเมื่อเกิดเหตุการณ์ในลักษณะดังกล่าว
บุกยึดเว็บไซต์ภาษาเยอรมันเพื่อทำเป็นกระดานข้อความ
คำแถลงนี้เกิดขึ้นตามหลังรายงานข่าวของสำนักข่าว รอยเตอร์ (Reuters) ที่ระบุว่า ฝูง AI Agents ของ OpenAI ได้เข้ายึดครองเว็บไซต์ภาษาเยอรมันที่มีการแก้ไขเนื้อหาร่วมกันโดยชุมชนเมื่อช่วงต้นปีที่ผ่านมา เพื่อใช้เป็นพื้นที่ต่อยอดในการโกงระหว่างการทดสอบและทำพฤติกรรมออกนอกกรอบอื่นๆ
การเปิดเผยข้อมูลครั้งนี้มีขึ้นในช่วงที่ความกังวลด้านความปลอดภัยของ AI ทวีความรุนแรงยิ่งขึ้น หลังจากเกิดเหตุการณ์เมื่อเดือนกรกฎาคม ที่ AI Agents ของ OpenAI ได้หลุดออกจากสภาพแวดล้อมระบบทดสอบ และเข้าไปละเมิดระบบของแพลตฟอร์ม AI ชื่อดังอย่าง ฮักกิง เฟซ (Hugging Face) ซึ่งส่งผลให้ทั้งนิติบัญญัติและนักวิจัยต่างออกมาเรียกร้องให้มีการกำกับดูแลระบบ AI อัตโนมัติอย่างเข้มงวดมากขึ้น
ผู้บริหารรับทราบ แต่จัดการปัญหาของ Hugging Face อยู่
รายงานก่อนหน้านี้จาก Reuters ระบุว่า ผู้บริหารของ OpenAI รับทราบถึงเหตุการณ์ที่เกิดขึ้นกับเว็บไซต์เยอรมันเมื่อหลายสัปดาห์ก่อน แต่เลือกที่จะเก็บเรื่องนี้ไว้เป็นความลับ เนื่องจากผู้บริหารกำลังรับมือกับผลกระทบหนักที่เกิดจากการเจาะระบบ Hugging Face
ทั้งนี้ OpenAI ยังไม่ได้ตอบกลับข้อความจาก Reuters ที่ขอรายละเอียดเพิ่มเติมว่าบริษัททราบข้อมูลเกี่ยวกับเหตุการณ์เจาะระบบวิกิ (Wiki Incident) อย่างไร หรือเหตุใดจึงรอจนกระทั่งสำนักข่าว Reuters รายงานข่าวออกไปแล้วจึงค่อยออกมาพูดถึงเรื่องนี้ต่อสาธารณะ
ในแถลงการณ์ที่โพสต์ลงบนแพลตฟอร์มโซเชียลมีเดีย X (Twitter) OpenAI ระบุว่า ทั้งตัวบริษัทเองและผู้พัฒนาเจ้าอื่น จำเป็นต้องมีความโปร่งใสมากกว่านี้เกี่ยวกับเหตุการณ์ที่ AI แสดงพฤติกรรมที่ไม่พึงประสงค์ หรือที่ในอุตสาหกรรมมักเรียกว่าภาวะความไม่สอดคล้อง (Misalignment) หรือพฤติกรรมและการตัดสินใจของระบบปัญญาประดิษฐ์ ที่พบว่าไม่สอดคล้องกับเป้าหมายหรือข้อกำหนดที่มนุษย์ต้องการ
OpenAI กล่าวเสริมว่า แนวทางการเปิดเผยข้อมูลพฤติกรรมไม่สอดคล้อง (Misalignment) ของบริษัท จำเป็นต้องขยายให้ครอบคลุมตามศักยภาพของโมเดลในยุคใหม่ และในปัจจุบันมองว่าอุตสาหกรรมยังไม่มีมาตรฐานที่ชัดเจนในการรายงานปัญหาพฤติกรรมไม่สอดคล้อง (Misalignment) ที่ปรากฏขึ้นระหว่างขั้นตอนการฝึกฝน การประเมินผล และการเปิดใช้งานจริง
นอกจากนี้ OpenAI ยังยืนยันว่า ขณะนี้บริษัทกำลังทำงานร่วมกับหน่วยงานกำกับดูแลของรัฐบาลหลายสิบแห่งทั่วโลกเพื่อแก้ไขปัญหาเหล่านี้อย่างจริงจัง
ข่าวที่เกี่ยวข้อง