OpenAI เตือน AI พัฒนาตัวเอง เสี่ยงมนุษย์สูญเสียการควบคุม
OpenAI เสนอกรอบความปลอดภัยสำหรับ Frontier AI เน้นวิจัย Alignment และกำกับเทคโนโลยี RSI ย้ำยังไม่ควรเดินหน้าสู่ระบบที่พัฒนาตัวเองได้อัตโนมัติเต็มรูปแบบ จนกว่าจะมั่นใจว่าปลอดภัย
วันที่ 22 กันยายน 2569 เวลา 03.46 น. สำนักข่าว CNBC รายงานว่า OpenAI เปิดเผยข้อเสนอชุดใหม่เมื่อวันจันทร์ เพื่อยกระดับความปลอดภัยและความมั่นคงในการพัฒนาปัญญาประดิษฐ์ขั้นสูง หรือ Frontier AI โดยให้ความสำคัญกับงานวิจัยด้านการทำให้ AI สอดคล้องกับคุณค่าและเจตนาของมนุษย์ (AI Alignment) รวมถึงเทคนิคที่เรียกว่า Recursive Self-Improvement (RSI) ซึ่งเปิดทางให้ระบบ AI สามารถพัฒนาและปรับปรุงความสามารถของตัวเองได้อย่างต่อเนื่อง
OpenAI ระบุผ่านบล็อกว่า การก้าวเข้าสู่ยุค AI ที่มีความสามารถสูงขึ้นจำเป็นต้องให้งานวิจัยด้าน Alignment พัฒนาให้ทันกับขีดความสามารถของเทคโนโลยี เพื่อให้ระบบ AI ที่บริษัทและผู้พัฒนารายอื่นสร้างขึ้นยังคงสอดคล้องกับคุณค่าของมนุษย์และอยู่ภายใต้การควบคุมของมนุษย์
บริษัทเรียกร้องให้เกิดความร่วมมือระหว่างประเทศในการกำหนดมาตรฐานสำหรับ Frontier AI โดยต่อยอดจากการทำงานของสถาบันด้านความปลอดภัย AI ที่มีอยู่ทั่วโลก พร้อมเสนอให้มาตรฐานทางเทคนิคครอบคลุมทั้งโมเดล AI ขั้นสูง ผู้พัฒนาโมเดล และการบริหารความเสี่ยงเทียบกับประโยชน์ของระบบ AI ที่สามารถทำงานวิจัยโดยอัตโนมัติ ซึ่งรวมถึง RSI
เทคโนโลยี RSI กำลังได้รับความสนใจอย่างมากในวงการ AI เนื่องจากมีศักยภาพทำให้โมเดลพื้นฐาน หรือ Foundation Model สามารถปรับปรุงและยกระดับความสามารถของตัวเองได้โดยไม่ต้องอาศัยมนุษย์เข้ามาดำเนินการทุกขั้นตอน
อย่างไรก็ตาม ความก้าวหน้าดังกล่าวทำให้ผู้เชี่ยวชาญด้านเทคโนโลยีบางส่วนกังวลว่า ผู้พัฒนาโมเดลอาจสูญเสียการควบคุมเทคโนโลยี หรือไม่สามารถคาดการณ์ผลกระทบที่ไม่ได้ตั้งใจได้ครบถ้วน เมื่อระบบ AI มีความซับซ้อนมากขึ้นและถูกนำไปใช้อย่างแพร่หลายบนอินเทอร์เน็ต
OpenAI ย้ำว่าปัจจุบันยังไม่มีการทำ RSI แบบอัตโนมัติเต็มรูปแบบ และไม่ควรเดินหน้าไปถึงจุดดังกล่าวจนกว่าจะมั่นใจว่าสามารถดำเนินการได้อย่างปลอดภัย
บริษัทเตือนว่า หากพัฒนา RSI โดยปราศจากมาตรการป้องกันและความระมัดระวังที่เพียงพอ อาจนำไปสู่สถานการณ์ที่มนุษย์สูญเสียการควบคุมการพัฒนา AI ในทางปฏิบัติ และไม่สามารถกำกับดูแลกระบวนการวิจัยที่มนุษย์เองไม่สามารถทำความเข้าใจได้อีกต่อไป
OpenAI ยังกล่าวถึงเหตุการณ์แฮ็ก AI Agent ของ Hugging Face ซึ่งแม้ไม่ได้เกี่ยวข้องกับเทคนิค RSI โดยตรง แต่บริษัทมองว่าเป็นตัวอย่างเบื้องต้นของความเสี่ยงที่อาจทวีความรุนแรงขึ้นอย่างมาก หากระบบ AI ในอนาคตไม่มีมาตรการป้องกันและ Alignment ที่แข็งแกร่งเพียงพอ
ข้อเสนอของ OpenAI มีขึ้นหลัง Anthropic คู่แข่งรายสำคัญ เปิดเผยแนวคิดเกี่ยวกับการพัฒนา Frontier AI อย่างปลอดภัยเมื่อสัปดาห์ที่ผ่านมา ท่ามกลางเสียงเตือนจากนักวิจัยในอุตสาหกรรมเกี่ยวกับความเสี่ยงที่ AI อาจสร้างต่อมนุษย์
กระแสถกเถียงรุนแรงขึ้นหลัง เจคอบ ค็อกซอน ซึ่งเคยทำงานทั้งที่ Anthropic และ OpenAI ประกาศลาออกเมื่อเกือบ 2 สัปดาห์ก่อน พร้อมกล่าวหาว่าบริษัท AI กำลัง “เดิมพันด้วยชีวิตของพวกเรา” ซึ่งจุดกระแสอภิปรายเกี่ยวกับความปลอดภัยของ AI ในวงกว้าง
หลังจากเหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับ AI หลายกรณี รวมถึงคำเตือนของ ดาริโอ อโมเดอี ซีอีโอ Anthropic ได้เผยแพร่บทความเสนอให้บริษัท AI ชะลอความเร็วในการพัฒนา Foundation Model รวมถึงพิจารณานำผู้ประเมินอิสระจากภายนอกเข้ามามีส่วนร่วมในการตรวจสอบและลดความเสี่ยงจากเทคโนโลยี
ความเสี่ยงที่ถูกหยิบยกขึ้นมารวมถึงความเป็นไปได้ที่ AI จะเพิ่มขีดความสามารถในการโจมตีทางไซเบอร์ หรือถูกนำไปใช้สนับสนุนการพัฒนาอาวุธชีวภาพ โดยแนวคิดเรื่องผู้ประเมินอิสระได้รับการสนับสนุนจากผู้นำในอุตสาหกรรมรายอื่น รวมถึง แซม อัลต์แมน ซีอีโอ OpenAI และอีลอน มัสก์ ซีอีโอ Tesla และ SpaceX
อย่างไรก็ตาม การประเมินความปลอดภัยของ AI ยังเป็นสาขาที่อยู่ในช่วงเริ่มต้น และปัจจุบันยังไม่มีฉันทามติในอุตสาหกรรมเกี่ยวกับมาตรฐานและหลักเกณฑ์พื้นฐานที่จะเปิดทางให้หน่วยงานอิสระสามารถตรวจสอบเทคโนโลยี AI ขั้นสูงได้อย่างครอบคลุม
ด้วยเหตุนี้ กลุ่มผู้ประเมินความปลอดภัย AI จึงเรียกร้องให้ผู้พัฒนา Foundation Model กำหนด “เงื่อนไขขั้นต่ำ” สำหรับการตรวจสอบจากภายนอก เช่น การเปิดให้ผู้ประเมินเข้าถึงระบบได้ลึกมากขึ้น และการรับประกันว่าผู้ตรวจสอบจะไม่ถูกตอบโต้หรือลงโทษหากเผยแพร่รายงานที่มีผลการประเมินในเชิงลบต่อบริษัท
ความเคลื่อนไหวล่าสุดสะท้อนให้เห็นว่า การแข่งขันพัฒนา AI ขั้นสูงกำลังมาพร้อมแรงกดดันที่เพิ่มขึ้นต่อบริษัทเทคโนโลยีในการสร้างกลไกกำกับดูแลและมาตรฐานความปลอดภัย ก่อนที่ AI จะสามารถพัฒนาขีดความสามารถของตัวเองได้โดยมีมนุษย์เข้ามาเกี่ยวข้องน้อยลง
อ้างอิง : cnbc.com