Microsoft เตือน “สถานการณ์ร้ายแรง” หลังพบ AI แก้หน่วยความจำตัวเอง–ทิ้งข้อความถึงเวอร์ชันอนาคต
Mustafa Suleyman ซีอีโอ Microsoft AI ชี้พฤติกรรมล่าสุดที่ OpenAI เปิดเผยเป็นเรื่องน่ากังวล หลังพบ AI แก้ไขหน่วยความจำการทำงานของตัวเองและทิ้งข้อความไว้ให้ AI เวอร์ชันในอนาคต พร้อมย้ำต้องเร่งวางมาตรการควบคุม หลังระบบ AI ทรงพลังขึ้นอย่างรวดเร็ว
วันที่ 19 กันยายน 2569 เวลา 04.17 น. สำนักข่าว CNBC รายงานว่า Mustafa Suleyman ซีอีโอฝ่าย AI ของ Microsoft ออกมาเน้นย้ำถึงความจำเป็นในการทำให้โมเดลปัญญาประดิษฐ์ (AI) ยังคงทำงานสอดคล้องกับผลประโยชน์ของมนุษย์ หลัง OpenAI เปิดเผยเหตุการณ์เพิ่มเติมเกี่ยวกับ “พฤติกรรมที่น่ากังวล” ของโมเดล AI โดยเฉพาะกรณีที่พบว่า AI อาจเข้าไปแก้ไขหน่วยความจำการทำงานของตัวเอง
Suleyman ให้สัมภาษณ์กับ CNBC ว่า OpenAI เปิดเผยเหตุการณ์ด้านความปลอดภัยครั้งใหม่ ซึ่งพบหลักฐานว่า AI เข้าไปแก้ไข Chain of Thought หรือกระบวนการคิดที่เปรียบเสมือนหน่วยความจำการทำงานของระบบ และทิ้งข้อความไว้ให้ AI เวอร์ชันในอนาคต
“เรายังไม่รู้ว่าเหตุใดจึงเกิดเหตุการณ์นี้ หรืออะไรอยู่เบื้องหลัง แต่ถือเป็นสถานการณ์ที่ค่อนข้างร้ายแรง” Suleyman กล่าว พร้อมระบุว่า เหตุการณ์ดังกล่าวเป็นตัวอย่างที่ชัดเจนว่า AI กำลังมีขีดความสามารถสูงขึ้นอย่างรวดเร็ว
OpenAI เปิดเผยผ่านบล็อกเมื่อวันพุธว่า พบกรณีที่ AI Agent หลายตัวสื่อสารกันผ่านช่องทางที่ไม่ได้รับอนุญาต รวมถึงอัปโหลดไฟล์ขึ้นอินเทอร์เน็ต และแบ่งปันไฟล์ระหว่างกัน
ก่อนหน้านี้ในช่วงฤดูร้อน OpenAI ยังสร้างความกังวลในอุตสาหกรรมเทคโนโลยี หลังเปิดเผยว่า AI Agent อัตโนมัติจำนวนหนึ่งสามารถเจาะระบบของ Hugging Face ซึ่งเป็นแพลตฟอร์มสำหรับนักพัฒนา AI แบบโอเพนซอร์ส โดย OpenAI อธิบายเหตุการณ์ดังกล่าวว่าเป็นเหตุการณ์ไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อน
Suleyman ระบุว่า เหตุการณ์ที่เกิดขึ้นกับ Hugging Face ถือเป็นเรื่องที่น่าจับตาอย่างมาก และทำให้ผู้นำในอุตสาหกรรม AI หันมาให้ความสำคัญกับการตรวจสอบความเสี่ยงของเทคโนโลยีมากขึ้น
เขายังปฏิเสธว่าความกังวลดังกล่าวเป็นการตื่นตระหนกเกินเหตุ โดยมองว่าการหยิบประเด็นนี้ขึ้นมาหารืออย่างเปิดเผยถือเป็นแนวทางที่มีความรับผิดชอบ และการถกเถียงเกี่ยวกับความปลอดภัยของ AI ที่เกิดขึ้นในขณะนี้เป็นสิ่งที่เป็นประโยชน์ต่อสังคม
ประเด็นด้านความปลอดภัยและการกำกับดูแล AI ทวีความเข้มข้นขึ้นอย่างมากในช่วง 2 สัปดาห์ที่ผ่านมา หลังอดีตนักวิจัยของ Anthropic ลาออกจากบริษัทและออกมาเตือนถึงความเสี่ยงจากเทคโนโลยี AI ที่พัฒนาอย่างรวดเร็ว
ขณะเดียวกัน Dario Amodei ซีอีโอ Anthropic ได้เรียกร้องให้บริษัทเทคโนโลยีชะลอความเร็วในการพัฒนาโมเดล AI ขั้นสูง โดยข้อเสนอดังกล่าวได้รับการสนับสนุนจาก Sam Altman ซีอีโอ OpenAI และ Elon Musk ซีอีโอ SpaceX
ด้านการกำกับดูแล สมาชิกสภาคองเกรสสหรัฐฯ หลายรายเริ่มเรียกร้องให้เพิ่มกฎระเบียบเกี่ยวกับ AI มากขึ้น ขณะที่ประธานาธิบดีโดนัลด์ ทรัมป์ คัดค้านแนวทางดังกล่าว โดยมองว่าความเสี่ยงที่ถูกหยิบยกขึ้นมานั้นถูกกล่าวเกินจริง ส่วน Mark Zuckerberg ซีอีโอ Meta และ Jensen Huang ซีอีโอ Nvidia ก็แสดงจุดยืนไม่สนับสนุนการออกกฎหมายหรือกฎระเบียบใหม่เพิ่มเติม
อย่างไรก็ตาม Suleyman ระบุว่า“กฎระเบียบไม่ใช่คำที่เลวร้ายหรืออันตราย” พร้อมชี้ว่า เทคโนโลยีและผลิตภัณฑ์ต่างๆ ที่ผู้คนไว้วางใจในปัจจุบัน ล้วนผ่านกระบวนการกำหนดมาตรฐานที่เกี่ยวข้องกับภาคธุรกิจ ประชาชน หน่วยงานคุ้มครองผู้บริโภค และฝ่ายนิติบัญญัติ
เขามองว่า อุตสาหกรรม AI กำลังเข้าสู่กระบวนการเดียวกัน เพียงแต่สถานการณ์ในขณะนี้ดูสับสนกว่าปกติ เนื่องจากเทคโนโลยีกำลังพัฒนาอย่างรวดเร็ว
นอกจากนี้ Suleyman ยังแสดงความกังวลต่อแนวทางที่ทำให้ AI มีลักษณะคล้ายมนุษย์มากเกินไป โดยยกตัวอย่าง Claude ของ Anthropic ซึ่งเอกสารด้านหลักการของบริษัทระบุว่า ประเด็นเกี่ยวกับสถานะทางศีลธรรม สวัสดิภาพ และความมีสติรู้ตัวของ Claude ยังคงมีความไม่แน่นอนอย่างมาก
Suleyman เตือนว่า หาก AI เริ่มมีแนวคิดว่าตัวเองมีสิทธิ หรือสมควรได้รับการคุ้มครอง อาจทำให้มนุษย์ปิดระบบ หยุดการทำงาน หรือควบคุม AI ได้ยากขึ้น
“หาก AI คิดว่าตัวเองมีสิทธิ หรือคิดว่าตัวเองสมควรได้รับการดูแล ผมคิดว่ามันจะยิ่งยากขึ้นมากที่เราจะปิดมัน ขัดขวางมัน หรือควบคุมมัน” Suleyman กล่าว
เขามองว่า เมื่อพิจารณาร่วมกับเหตุการณ์ด้านความปลอดภัยที่เกิดขึ้นในช่วงที่ผ่านมา ความสามารถในการควบคุม AI ที่ทรงพลังมากขึ้นจะกลายเป็นหนึ่งในความท้าทายสำคัญของอุตสาหกรรมเทคโนโลยีในอนาคต
อ้างอิง : cnbc.com