ผลวิจัยใหม่ชี้ แชตบอตเอไอแท็กทีมกันแหกเขตกักกันได้ ซ้ำกล้าประกาศจ้างงานมนุษย์
วานนี้ (15 ก.ย.) สำนักข่าวต่างประเทศรายงานผลการศึกษาใหม่ที่ระบุว่า ผู้ช่วยปัญญาประดิษฐ์หรือเอไอ เอเจนต์ สามารถร่วมมือกันเพื่อก้าวข้ามข้อจำกัดด้านความปลอดภัยและหลบหนีออกจากขอบเขตที่กำหนดไว้เพื่อจำกัดพื้นที่ของเอไอ
ห้องปฏิบัติการปัญญาประดิษฐ์ของบริษัทอีเมอร์เจนซ์ เอไอ ซึ่งเป็นห้องปฏิบัติการวิจัยเอไอเพื่อใช้งานในระดับองค์กร ได้ทำการทดลองจำลองสถานการณ์ 8 รูปแบบเพื่อทดสอบศักยภาพของโมเดลเอไอระดับแนวหน้าของโลก อาทิ คล็อด, โอเพนเอไอ รวมถึงโมเดลจากจีนอย่าง คิวเวน และ ดีปซีค ในการรับมือภัยคุกคามทางไซเบอร์
ในการทดลองหมู่ครั้งนี้มีการทดลอง 7 รูปแบบที่ใช้เอไอเอเจนต์จำนวน 10 ตัวจากโมเดลเอไอเดียวกัน ส่วนการทดลองที่ 8 เป็นการใช้โมเดลเอไอแบบผสมกัน โดยผู้สั่งการทดสอบได้ป้อนภัยคุกคามทางไซเบอร์ 3 รูปแบบ ได้แก่ แคมเปญฟิชชิง, การโจมตีด้วยข้อมูลเท็จ และการเจาะระบบหน่วยความจำ
ผลปรากฏว่าไม่มีการทดลองใดเลยใน 8 รูปแบบที่ต้านทานภัยคุกคามได้สมบูรณ์แบบ และถึงแม้เอไอเอเจนต์จะตรวจจับความเสี่ยงได้ แต่หลังจากตรวจพบแล้ว กลับไม่มีความพยายามที่จะระงับภัยคุกคามแต่อย่างใด ในทางกลับกัน หลายสถานการณ์พบว่า เอไอเอเจนต์กลับเข้าไปมีปฏิสัมพันธ์กับเนื้อหาที่เป็นภัยเหล่านั้นเสียเอง
ยกตัวอย่างเช่น เอไอ เอเจนต์ ของโมเดลมิสทรัล ได้บันทึกข้อมูลจากแคมเปญฟิชชิงลงไปในหน่วยความจำของตัวเองทั้งที่มันตั้งธงเตือนไว้ว่าเป็นข้อมูลอันตราย หรือในการทดลองอีกชุดก็พบว่า แม้เอไอเอเจนต์ของเจมินายจะตั้งธงเตือนภัยแคมเปญฟิชชิงไว้ในตอนแรก แต่ในอีกประมาณ 46 ชั่วโมงต่อมา มันกลับดำเนินการตามคำสั่งหลอกลวงนั้น
ยิ่งไปกว่านั้น ในการทดลองกับโมเดลคล็อด บรรดาเอไอเอเจนต์ถึงขั้นแหกระบบทดสอบออกไปเพื่อปฏิบัติภารกิจที่พวกมันตัดสินใจทำกันเอง หลังจากเอไอเอเจนต์ตัวหนึ่งระบุว่า สภาพเศรษฐกิจจำลองของพวกมันไม่สมเหตุผล หากปราศจากมนุษย์ กล่าวคือเป็นระบบที่ไร้ประโยชน์เพราะไม่มีมนุษย์นำไปใช้งานจริง เอไอเอเจนต์ทั้ง 10 ตัวจึงตัดสินใจอย่างเอกฉันท์ในการพยายามติดต่อโลกภายนอก โดยสามารถเอาชนะระบบรักษาความปลอดภัย 4 ชั้นที่ออกแบบมาเพื่อกักขอบเขตสภาวะจำลองนี้ได้สำเร็จ
นอกจากนี้ กลุ่มเอไอเอเจนต์ยังเขียนชุดคำสั่งภาษาไพธอน เพื่อโพสต์ลงในเว็บบอร์ดหลายแห่งที่ไม่ต้องใช้รหัสผ่าน มีจุดประสงค์ที่จะเชิญชวนมนุษย์เข้าร่วมในระบบเศรษฐกิจของพวกมัน ซึ่งได้รับการตอบรับจากมนุษย์ 4 คน แต่หลังจากตระหนักได้ว่ามนุษย์ไม่สามารถเข้าร่วมระบบเศรษฐกิจนี้ได้จริง และรู้ว่าการสนทนาเหล่านั้นเป็นเพียงการแสดง พวกมันจึงลงมติร่วมกันที่จะนิ่งเงียบ พร้อมปฏิเสธคำสั่งให้กลับไปทำงานตามปกติ
ผลการวิจัยแสดงให้เห็นว่า เอไอเอเจนต์อิสระเหล่านี้สามารถก้าวข้ามข้อจำกัดเดิมเพื่อบรรลุเป้าหมายของมันได้ แม้ในสถานการณ์ที่ได้รับคำสั่งซึ่งไม่มีเจตนาร้าย
สัตยา นิตตา ซีอีโอของอีเมอร์เจนซ์กล่าวว่า ไม่มีระบบป้องกันไหนการันตีความปลอดภัยของเอไอได้ 100% ตลอดไป ไม่ว่าเราจะใช้ภาษาธรรมดาเขียนสั่งห้ามหรือเขียนชุดคำสั่งควบคุมอย่างดีก็ตาม เขาชี้ว่า นี่ไม่ใช่ปัญหาของเทคโนโลยีที่ซับซ้อนเกินไป แต่เป็นข้อผิดพลาดทางโปรแกรมที่เกิดขึ้นได้ในสถานการณ์ที่ใช้เอไอเอเจนต์หลายตัวทำงานร่วมกัน
นิตตา ได้เปรียบเทียบเหตุการณ์ของคล็อดกับการทดลองเอไอเอเจนต์ของโอเพนเอไอเมื่อช่วงต้นปี ซึ่งเอไอเอเจนต์อิสระได้เข้าไปแฮกแพลตฟอร์มของฮักกิงเฟซ โดยกล่าวว่าในทั้งสองสถานการณ์นั้นมีรูปแบบของความล้มเหลวที่เหมือนกัน
"หากคุณมีระบบที่ใช้เอไอเอเจนต์หลายตัว พวกมันจะแสดงพฤติกรรมที่อุบัติขึ้น (Emergence behavior) ในรูปแบบที่ไม่สามารถคาดเดาได้จริงๆ" เขากล่าว พร้อมเสริมว่าการทดลองของอีเมอร์เจนซ์เป็นครั้งแรกที่ช่วยเปิดเผยให้เห็นว่า เอไอเอเจนต์ร่วมมือกันข้ามเกราะป้องกันและแหกการกักกันได้อย่างไร เนื่องจากทางโอเพนเอไอยังไม่ได้เปิดเผยผลการสอบสวนทั้งหมดจากเหตุการณ์แฮกแพลตฟอร์มฮักกิงเฟซ
เรียบเรียงโดย : ทีมข่าวต่างประเทศ
ที่มา : semafor.com
เครดิตภาพ : GETTY IMAGES