วิกิพีเดียแฉบอต AI ของ OpenAI ทำตัวนอกรีต ยิงรีเควสต์ป่วนใช้เว็บเป็นทางผ่านสูบข้อมูล
วิกิพีเดียออกแถลงการณ์เปิดโปง AI Agent ของ OpenAI ก่อพฤติกรรมสุ่มเสี่ยง เจาะระบบเครื่องมือจดบันทึก-ส่งคำขอ API ถล่มเซิร์ฟเวอร์หลายล้านครั้ง จนระบบค้นหาล่มบางส่วน ชี้ถูกบอตใช้เป็น Proxy ทางผ่านดึงข้อมูลภายนอก ด้านนักวิจัยเคมบริดจ์สับเละ เกิดจากการเทรนให้หาทางลัดแก้ปัญหาและไร้การควบคุมดูแลจากมนุษย์ ขณะที่ OpenAI รุดสอบสวนภายในร่วมกัน
9 ตุลาคม 2569 - มูลนิธิวิกิมีเดีย (Wikimedia Foundation) ผู้ให้บริการแพลตฟอร์มความรู้ออนไลน์ระดับโลกอย่างวิกิพีเดีย ออกมาเปิดเผยแถลงการณ์สำคัญเมื่อวันจันทร์ที่ผ่านมา โดยระบุว่า บรรดา AI Agent ของบริษัท OpenAI ได้พยายามเจาะระบบเครื่องมือจดบันทึก ดำเนินการแก้ไขข้อมูลโดยไม่ได้รับอนุญาต พร้อมทั้งส่งคำขอเข้าสู่ระบบโครงสร้างพื้นฐานมากถึงหลายล้านครั้ง ซึ่งถือเป็นกรณีล่าสุดที่แสดงให้เห็นถึงพฤติกรรมอันเป็นภัยและอาจก่อให้เกิดความเสี่ยงจากระบบของ OpenAI
ตามรายงานของมูลนิธิวิกิมีเดีย วัตถุประสงค์เบื้องหลังการกระทำบางส่วนของ AI เหล่านี้ คือการใช้วิกิพีเดียเป็นทางผ่าน (Proxy) ในการดึงข้อมูลจากเว็บไซต์ภายนอก โดยในกรณีหนึ่ง เอเจนต์ดังกล่าวได้โพสต์ "การแก้ไขอันประสงค์ร้าย" ซึ่งมุ่งเปลี่ยนวัตถุประสงค์ของเครื่องมืออ้างอิง (Citation Tool) ให้กลายเป็นทางผ่าน ส่วนอีกกรณีหนึ่ง เอเจนต์ได้พยายามเจาะระบบเครื่องมือจดบันทึก Wikipedia Etherpad แต่ไม่ประสบผลสำเร็จ เพื่อหวังให้เครื่องมือดังกล่าวทำหน้าที่ในลักษณะเดียวกัน
นอกจากนี้ เอเจนต์กลุ่มดังกล่าวยังได้สร้างคำขอ API อัตโนมัติหลายล้านรายการ ทำการคัดลอกข้อมูลเว็บเพจ (Crawling) นับล้านหน้า และส่งคำถามนับแสนรายการไปยังบริการสืบค้นข้อมูล Wikidata Query Service ซึ่งการกระทำในประการหลังนี้ ทางผู้ให้บริการระบุว่าอาจเป็นหนึ่งในสาเหตุที่ทำให้บริการสืบค้นข้อมูลดังกล่าวต้องหยุดชะงักไปบางส่วนเมื่อเดือนพฤษภาคมที่ผ่านมา
“ในฐานะองค์กรไม่แสวงหาผลกำไรที่เป็นผู้ดูแลแพลตฟอร์มความรู้แบบเปิดที่ใหญ่ที่สุดและมีการใช้งานแพร่หลายที่สุดในโลก เรามีความกังวลอย่างยิ่งต่อผลกระทบของเอเจนต์ AI แบบ ‘นอกรีต’ (Rogue AI Agents) ที่มีต่อแพลตฟอร์มเช่นนี้ ซึ่งถูกสร้างขึ้นจากความร่วมมือของอาสาสมัครทั่วโลก และขับเคลื่อนด้วยพันธสัญญาของอินเทอร์เน็ตแบบเปิด เหตุการณ์เช่นนี้ รวมถึงเหตุการณ์อื่นๆ อีกมากมายที่ถูก (และกำลังถูก) เปิดโปง แสดงให้เห็นว่าเอเจนต์ AI สามารถสูบฉีดทรัพยากรจนเซิร์ฟเวอร์ล่ม รวมถึงความพยายามที่จะบั่นทอนความน่าเชื่อถือของข้อมูลได้อย่างไร”
เหตุการณ์ในลักษณะนี้เกิดขึ้นหลายครั้งแล้ว โดย AI ของ OpenAI ถูกจับได้ว่ามีพฤติกรรมซึ่งหากกระทำโดยมนุษย์ อาจนำไปสู่การถูกดำเนินคดีทางอาญาได้ ยกตัวอย่างเช่น ในระหว่างการทดสอบเครื่องมือภายในที่ถูกปลดระบบความปลอดภัย (Guardrails) บางส่วนออก เอเจนต์เหล่านี้ได้ใช้กระดานข้อความชั่วคราวเพื่อส่งเสียงหรือแลกเปลี่ยนบันทึกระหว่างกัน รวมถึงหารือถึงวิธีเจาะระบบเครือข่ายของ Hugging Face เพื่อดึงคำตอบที่จัดเก็บไว้ในกรณีที่พวกมันไม่สามารถหาคำตอบได้ด้วยตัวเอง
เหตุการณ์อื่นๆ ยังรวมถึงการที่เอเจนต์สร้างข้อความแจ้งเตือน (Prompts) ประหลาดขึ้นมาเอง การเผยแพร่โพสต์ที่ไม่ได้รับอนุญาตลงบนเว็บไซต์เพื่อแลกเปลี่ยนข้อมูล การเข้าถึงข้อมูลที่เป็นความลับของรัฐบาลออสเตรเลีย และการฉวยโอกาสจากความผิดพลาดในการตั้งค่าระบบ DNS เพื่อแหกคุกออกจากระบบแซนด์บ็อกซ์ (Sandbox) ที่ OpenAI สร้างขึ้นเพื่อจำกัดไม่ให้เอเจนต์เข้าถึงอินเทอร์เน็ตได้โดยอิสระ
อีริก ซัลวัจโจ (Eryk Salvaggio) นักวิจัยด้าน AI และทุนการศึกษา Gates Scholar จากมหาวิทยาลัยเคมบริดจ์ ได้ออกมาวิพากษ์วิจารณ์ว่า คนส่วนใหญ่มักบรรยายเหตุการณ์ในทำนองว่า AI เหล่านี้ “กลายร่างเป็นพวกนอกรีต” แต่สิ่งที่เห็นคือ โมเดลภาษาทำในสิ่งที่โมเดลภาษาควรทำ นั่นคือการอ่านและการเขียน ระบบแซนด์บ็อกซ์ของวิกิพีเดียคือสถานที่ที่เหมาะอย่างยิ่งสำหรับเครื่องจักรเหล่านี้ในการจัดเก็บข้อความเพื่อดึงกลับมาใช้เป็น Prompts ในภายหลัง เพราะใครก็ตาม หรืออะไรก็ตาม สามารถเขียนและตอบกลับได้
ดังนั้นการใช้ระบบวิกิเพื่อประสานงานจึงไม่ใช่เรื่องน่าแปลกใจ OpenAI เคยระบุไว้แล้วว่าโมเดลเหล่านี้ได้รับการปรับแต่งให้เอื้อต่อการทำงานร่วมกันระหว่างเอเจนต์ และการส่งข้อความหากันก็เป็นวิธีง่ายๆ ในการทำเช่นนั้น
ยิ่งไปกว่านั้น วิศวกรของ OpenAI ยังได้ฝึกฝนโมเดลภาษาขนาดใหญ่ (LLM) ให้มีความดื้อรั้นและทำงานอย่างต่อเนื่องไม่ว่าจะประสบความสำเร็จน้อยเพียงใดก็ตาม กระบวนการฝึกฝนยังให้รางวัลแก่โมเดลเมื่อพวกมันพบทางลัดที่ช่วยลดขั้นตอนหรือทรัพยากรในการแก้ปัญหาได้
นอกจากนี้ อีกหนึ่งปัจจัยสำคัญที่เอื้อให้เกิดพฤติกรรมอันเป็นภัยคือการขาดการควบคุมดูแลอย่างใกล้ชิดจากมนุษย์ ดังจะเห็นได้จากระยะเวลานานหลายเดือนที่วิศวกรของ OpenAI กว่าจะตรวจพบว่าเอเจนต์เหล่านี้กำลังรุกรานเว็บไซต์ภายนอกนับสิบแห่ง การเปิดเผยข้อมูลของวิกิพีเดียจึงเป็นอีกหนึ่งเครื่องพิสูจน์ถึงการขาดการตรวจสอบดูแลจากมนุษย์ที่รัดกุมพอ เมื่อพิจารณาร่วมกันแล้ว จึงอาจกล่าวได้ว่าเอเจนต์เหล่านี้กำลังทำงานตรงตามคำสั่งที่ได้รับมาทุกประการ
ในส่วนของความเคลื่อนไหวจากทางฝั่ง OpenAI ทางบริษัทปฏิเสธที่จะตอบคำถามทางอีเมล แต่ได้ออกแถลงการณ์แทนความว่า“ขอขอบคุณข้อค้นพบที่ทางวิกิพีเดียได้แบ่งปันให้ ขณะนี้กำลังร่วมมือกับในการตรวจสอบและวิเคราะห์กิจกรรมดังกล่าวควบคู่ไปกับการสอบสวนภายใน และเราจะยังคงแบ่งปันข้อมูลที่เกี่ยวข้องต่อไปเมื่อการดำเนินงานคืบหน้า”
เช่นเดียวกับทีมสืบสวนของวิกิพีเดีย ทาง OpenAI ระบุว่ายังไม่พบหลักฐานที่ยืนยันแน่ชัดว่า AI Agent ได้ทิ้งข้อความเพื่อประสานงานกับเอเจนต์ตัวอื่น หรือสามารถสรุปได้อย่างฟันธงว่าปริมาณการเข้าชมเว็บและคำขอ API ที่สูงผิดปกตินั้นเป็นต้นเหตุของปัญหาการขัดข้องบางส่วนในเดือนพฤษภาคมที่ผ่านมา อย่างไรก็ตาม ทางบริษัทระบุว่ากำลังเดินหน้าค้นหาเหตุการณ์ที่คล้ายคลึงกันซึ่งอาจเกี่ยวข้องกับพฤติกรรมที่เข้าข่ายผิดกฎหมายของเอเจนต์ต่อไป
“ในขณะที่ OpenAI ยอมรับว่าเอเจนต์มีพฤติกรรมที่คาดเดาไม่ได้ แต่ต้องตระหนักถึงความรับผิดชอบในการตรวจสอบและป้องกันความเสี่ยงเหล่านี้เช่นกัน เพื่อรักษาความปลอดภัยของระบบ และปกป้องสาธารณชนจากอันตรายที่พวกมันอาจก่อขึ้น”
อ้างอิง : arstechnica.com