อดีตวิศวกรซอฟต์แวร์กูเกิลเตือน ‘จักรกลสังหาร’ อาจก่อสงครามโดยไม่คาดคิด 

ลอรา โนแลน อดีตวิศวกรซอฟต์แวร์ของกูเกิล เรียกร้องให้แบนการใช้เครื่องจักรกลสังหารทุกชนิดที่ใช้เอไอแทนการควบคุมของมนุษย์ ก่อนหน้านี้ เธอลาออกจากกูเกิลเพื่อประท้วงการทำงานในโครงการพัฒนาเทคโนโลยีโดรนของกองทัพสหรัฐฯ 

โนแลนกล่าวว่า หุ่นยนต์นักฆ่าที่ไม่ได้ควบคุมโดยมนุษย์ควรมีความผิดทางกฎหมาย เหมือนกับที่ข้อตกลงระหว่างประเทศแบนอาวุธชีวภาพ เนื่องจากมันมีศักยภาพพอที่จะก่อหายนะทั้งที่ไม่ได้ถูกตั้งโปรแกรมไว้ตั้งแต่ต้น 

โนแลนได้เข้าร่วมแคมเปญ ‘หยุดหุ่นยนต์นักฆ่า’ และกล่าวต่อคณะทูตสหประชาชาติที่กรุงนิวยอร์กและกรุงเจนีวาถึงอันตรายของอาวุธที่สั่งการด้วยตัวเองว่า หายนะเกิดขึ้นได้จากการปล่อยอาวุธอัตโนมัติลงไปในพื้นที่ที่ระบุเพียงครั้งเดียว และสามารถสร้างความเสียหายในระดับที่ใหญ่ขึ้น เพราะอาวุธชนิดนี้เราไม่สามารถคาดเดาพฤติกรรมของมันได้เลย นั่นคือเหตุผลว่าทำไมอาวุธทุกชนิดต้องถูกควบคุมโดยมนุษย์ ดังนั้นจึงควรแบนอาวุธชนิดนี้ เนื่องจากมันอันตรายและไม่สามารถคาดการณ์ได้

หลังจากทำงานในกูเกิลได้ 4 ปี ในปี 2017 โนแลนได้รับเลือกจากกูเกิลให้เข้ามาทำงานในโครงการ Maven ซึ่งเป็นโครงการที่ช่วยกระทรวงกลาโหมของสหรัฐฯ เร่งสร้างโดรนเทคโนโลยีจำแนกภาพเคลื่อนไหว โดยแทนที่จะใช้กำลังทหารจำนวนมากดูภาพวิดีโอฟุตเทจชั่วโมงต่อชั่วโมงเพื่อล็อกเป้าหมาย โนแลนและคนอื่นๆ ถูกขอให้สร้างระบบที่เอไอสามารถจำแนกผู้คนและวัตถุได้ในอัตราที่เร็วขึ้นอย่างไม่จำกัด การทำงานในโครงการดังกล่าวทำให้เธอกังวลในประเด็นจริยธรรมมากขึ้น 

ต่อมา หลังจากที่พนักงาน 3,000 คน เข้าชื่อประท้วงการมีส่วนร่วมของกูเกิลในเรื่องนี้ กูเกิลตัดสินใจไม่ต่อสัญญาโครงการ Maven ซึ่งจะหมดลงปลายปีนี้ 

โนแลนได้ร่างภาพให้เห็นว่า หากอาวุธอัตโนมัติถูกพัฒนาจนสำเร็จออกมาใช้จริง เมื่อมันถูกส่งออกมาแล้วไปตามสัญญาณเรด้า และเกิดการเปลี่ยนทิศทางที่ไม่สามารถควบคุมได้ด้วยซอฟต์แวร์ เช่น สภาพอากาศ เมื่อมันหลุดเข้าไปในพื้นที่ที่ไม่ได้ระบุไว้แต่แรก มันจะไม่สามารถแยกแยะพฤติกรรมของมนุษย์ที่มีความซับซ้อนได้ เช่น มันอาจตรวจเจอกลุ่มคนที่มีอาวุธ แต่ไม่สามารถแยกได้หรือมีสามัญสำนึกรู้ว่า คนกลุ่มนั้นคือศัตรูหรือเพียงกลุ่มคนที่ออกล่าสัตว์เพื่อหาอาหาร 

ขณะเดียวกันในมุมมองของทหาร อาวุธอัตโนมัติเป็นการเพิ่มศักยภาพทางทหาร เพราะการใช้โดรนที่บังคับโดยมนุษย์ และการตัดสินใจของมนุษย์ว่าเมื่อไรจะต้องยิงนั้นเป็นการใช้กำลังทหารมากมายในหนึ่งครั้ง และโดรนที่สั่งการด้วยมนุษย์ก็เป็นเครื่องมือที่ต้องรับสัญญาณคำสั่งจากฐานทัพ มันจะไร้ประโยชน์ทันทีหากศัตรูตัดช่องทางสื่อสารได้ นอกจากนี้ อาวุธอัตโนมัติยังช่วยลดกำลังทหารในการควบคุมดูแลอาวุธขณะปฏิบัติการด้วย   

แม้เรื่องอาวุธอัตโนมัติดูจะเป็นเรื่องใหม่และยังไม่มีการพูดถึงในวงกว้าง แต่ที่ผ่านมากองทัพหลายประเทศก็ได้พัฒนาอาวุธชนิดดังกล่าวขึ้นมาใช้บ้างแล้ว เช่น เรือปืน AN-2 Anaconda ของกองทัพเรือสหรัฐฯ ที่ถูกพัฒนาให้เป็นเรืออาวุธอัตโนมัติเต็มรูปแบบ ซึ่งสามารถลาดตระเวนเป็นระยะเวลานานๆ โดยไม่ต้องมีมนุษย์ควบคุม หรือ รถถัง T-14 Armata ของรัสเซีย ที่ถูกออกแบบมาเพื่อตอบโต้การยิงโดยที่ไม่ต้องมีคนควบคุมเครื่องอยู่ข้างใน 

ที่มา:

https://www.theguardian.com/technology/2019/sep/15/ex-google-worker-fears-killer-robots-cause-mass-atrocities

https://www.vox.com/2019/6/21/18691459/killer-robots-lethal-autonomous-weapons-ai-war

https://time.com/5673240/china-killer-robots-weapons

https://www.theverge.com/2018/6/1/17418406/google-maven-drone-imagery-ai-contract-expire

ภาพ: REUTERS/Sergei Karpukhin