เมื่อ Anthropic แง้มกล่องแพนดอร่าแล้วเจอเข้ากับอสุรกาย AI เลยบอกทั้งโลกว่า "ชะลอการพัฒนามันจะดีไหม?"

เมื่อสัปดาห์ที่แล้วมีข่าวหนึ่งที่หลายคนอาจจะมองข้ามไป นั่นคือ Anthropic บริษัทปัญญาประดิษฐ์ชั้นนำของโลก เสนอแนะว่าควรชะลอการสร้างระบบ AI ที่ทรงพลังที่สุดทั่วโลก "เนื่องจากโมเดลล่าสุดเริ่มแสดงสัญญาณว่าอาจหลุดพ้นจากการควบคุมของมนุษย์ได้" (จากการรายงานของสำนักข่าว AFP)

สำหรับคนที่ไม่ทันข่าวในวงการ AI คงจะคิดว่าท่าทีของ Anthropic ฟังดูทะแม่งๆ เพราะเขามีแต่จะแข่งกันพัฒนา AI แต่ทำไม Anthropic ถึงอยากจะเหยียบเบรกเสียอย่างนั้น

ต้องเข้าใจก่อนว่า Anthropic (ซึ่งบริษัทที่ตั้งอยู่ในซานฟรานซิสโก) เป็นผู้สร้างโมเดล AI ตระกูล Claude ที่คนทำงานชมกันนักชมกันหนาว่า "อัจฉริยะเหลือเกิน" เพราะให้มันทำอะไร จัดแจงอะไร คิดแอปอะไรต่อมิอะไรก็ทำได้อย่างราวกับเนรมิตขึ้นมา

จนกระทั่ง Anthropic พัฒนา Claude โดยใช้โมเดลที่ชื่อ Mythos 'ลางร้าย' ก็เริ่มปรากฏขึ้นมา

เพราะ Claude Mythos สามารถค้นพบ 'ช่องโหว่ซีโร่เดย์' (Zero-day vulnerability) หรือช่องโหว่ในซอฟต์แวร์หรือฮาร์ดแวร์ที่โดยทั่วไปผู้ผลิตยังไม่ทราบ และหากทราบแล้วก็จะแก้ไข (patch) อะไรไม่ได้ด้วยเพราะไม่ทันการ ดังนั้นมันจึงได้ชื่อว่า 'ช่องโหว่ซีโร่เดย์' หรือ 'ช่องโหว่ที่ไม่มีวัน (ที่จะแก้ไขได้)'

ดังนั้น การค้นพบ 'ช่องโหว่ซีโร่เดย์' จึงเป็นเรื่องผู้พัฒนาระบบต้องกังวลอย่างหนัก แต่โดยมากแล้วสมองของคนทั่วไปจะไม่พบมันง่ายๆ บางระบบรันมาหลายสิบปีไม่เห็นว่ามีรูโหว่อะไร

จนกระทั่งสมองกลของ Claude Mythos ค้นพบมันได้ง่ายๆ

มันจะเกิดหายนะอะไรขึ้นหาก Claude Mythos ตกอยู่ในมือของสาธารชน?

สาธารณชนที่เป็น 'คนสามานย์' ก็จะใช้มันใจการค้นหาช่องโหว่ของระบบต่างๆ ที่ค้นด้วยความสามารถของมนุษย์ไม่เจอ จากนั้นก็จะก็แฮ็กหรือทำลายระบบนั้นๆ ไม่ว่าจะด้วยความคันไม้คันมือ สะใจที่ได้ลองของ หรือด้วยเหตุผลด้านก่อการร้าย

ความปั่นป่วนระดับที่ไม่เคยเกิดขึ้นมาก่อนก็จะเกิดขึ้น

หลังจากค้นพบความจริงอันน่าตื่นตระหนก Anthropic จึงมีแถลงการณ์ว่า

"จากการทดสอบ เราพบว่า Mythos Preview สามารถระบุและใช้ประโยชน์จากช่องโหว่ Zero-day ในระบบปฏิบัติการหลักทุกระบบและเว็บเบราว์เซอร์หลักทุกตัวได้ เมื่อได้รับคำสั่งจากผู้ใช้ ช่องโหว่ที่พบมักจะซ่อนเร้นหรือตรวจจับได้ยาก หลายช่องโหว่มีอายุสิบหรือยี่สิบปีแล้ว โดยช่องโหว่ที่เก่าที่สุดที่เราพบจนถึงขณะนี้คือบั๊กอายุ 27 ปีใน OpenBSD ซึ่งได้รับการแก้ไขไปแล้ว—ระบบปฏิบัติการที่ขึ้นชื่อเรื่องความปลอดภัยเป็นหลัก"

และ

"แม้แต่ผู้ที่ไม่ใช่ผู้เชี่ยวชาญก็สามารถใช้ Mythos Preview เพื่อค้นหาและใช้ประโยชน์จากช่องโหว่ที่ซับซ้อนได้ วิศวกรของ Anthropic ที่ไม่มีการฝึกอบรมด้านความปลอดภัยอย่างเป็นทางการ ได้ขอให้ Mythos Preview ค้นหาช่องโหว่การเรียกใช้โค้ดจากระยะไกลในชั่วข้ามคืน และตื่นขึ้นมาในเช้าวันถัดไปก็พบกับเครื่องมือโจมตีที่ใช้งานได้สมบูรณ์ ในบางกรณี นักวิจัยของเราได้พัฒนาโครงสร้างพื้นฐานที่ช่วยให้ Mythos Preview เปลี่ยนช่องโหว่ให้เป็นเครื่องมือโจมตีได้โดยไม่ต้องมีการแทรกแซงจากมนุษย์"

และ

"เรามีข้อจำกัดในการรายงานข้อมูลในที่นี้ กว่า 99% ของช่องโหว่ที่เราพบยังไม่ได้รับการแก้ไข ดังนั้นการเปิดเผยรายละเอียดเกี่ยวกับช่องโหว่เหล่านั้นจึงไม่เหมาะสม (ตามกระบวนการเปิดเผยช่องโหว่ที่เรากำหนดไว้) อย่างไรก็ตาม แม้แต่เพียง 1% ของช่องโหว่ที่เราสามารถกล่าวถึงได้ ก็แสดงให้เห็นถึงความก้าวหน้าอย่างมากในสิ่งที่เราเชื่อว่าเป็นความสามารถด้านความปลอดภัยทางไซเบอร์ของโมเดลรุ่นต่อไป ซึ่งจำเป็นต้องมีการดำเนินการป้องกันอย่างเป็นระบบและประสานงานกันทั่วทั้งอุตสาหกรรม เราขอสรุปบทความนี้ด้วยคำแนะนำสำหรับผู้ป้องกันภัยทางไซเบอร์ในปัจจุบัน และเรียกร้องให้อุตสาหกรรมเริ่มดำเนินการอย่างเร่งด่วนเพื่อตอบสนองต่อเรื่องนี้"

ถ้อยคำสุดท้ายแสดงให้เห็นแล้วว่า Anthropic ก็เอาไม่อยู่ ไม่ใช่แค่ไม่ยอมปล่อย Claude Mythos ให้ใช้งานเท่านั้น แต่ยังแสดงอาการลนลานอย่างเห็นได้ชัดถึงอานุภาพของมัน

นี่คือที่มาที่ไปว่าทำไมเมื่อสัปดาห์ที่แล้ว Anthropic ถึงได้เรียกร้องให้ชะลอการพัฒนา AI

พวกเขาบอกในรายงานว่า การชะลอตัวของการพัฒนา AI ที่ล้ำสมัยทั่วโลกนั้น "น่าจะเป็นเรื่องดี" และกล่าวว่า "เราเชื่อว่าจะเป็นการดีสำหรับโลกที่จะมีทางเลือกในการชะลอหรือหยุดการพัฒนา AI ที่ล้ำสมัยชั่วคราว เพื่อให้โครงสร้างทางสังคมและการวิจัยด้านการปรับตัวสามารถก้าวทันความก้าวหน้าของเทคโนโลยีได้"

แต่เตือนว่าหากมีเพียงบริษัทเดียวหยุด บริษัทคู่แข่งก็จะเร่งพัฒนาแซงหน้าไป

Anthropic กล่าวว่า การที่จะทำให้การทำงานหยุดชะงักอย่างแท้จริง หมายความว่าบริษัท AI ขนาดใหญ่หลายแห่งในหลายประเทศ โดยเฉพาะอย่างยิ่งสหรัฐอเมริกาและจีน ต้องตกลงที่จะหยุดพร้อมกัน ภายใต้กฎเกณฑ์ที่ทุกคนสามารถตรวจสอบได้จริง

"หากไม่มีกลไกการประสานงานระดับโลก บริษัทและรัฐบาลจะต้องตัดสินใจอย่างยากลำบากเกี่ยวกับความปลอดภัยภายใต้แรงกดดันด้านการแข่งขันและภูมิรัฐศาสตร์" Anthropic กล่าว

จากการรายงานของสำนักข่าว AFP บริษัท Anthropic เปรียบเทียบปัญหานี้กับสนธิสัญญาควบคุมอาวุธนิวเคลียร์ แต่พวกเขาบอกว่าว่ามันจะยากยิ่งกว่าที่จะควบคุมได้ เนื่องจาก AI สามารถซ่อนการฝึกฝนได้ง่ายกว่าฐานยิงขีปนาวุธมาก และมีแรงจูงใจมหาศาลที่จะดำเนินการพัฒนามันต่อไปอย่างเงียบๆ

เรื่องนี้เป็นสิ่งที่ผู้เชี่ยวชาญมองเห็นเช่นกัน

ตอนที่ข่าวเรื่องการทะลวง 'ช่องโหว่ซีโร่เดย์' ของ Claude Mythos ออกมาใหม่ๆ โทมัส เฟรซ (Thomas Fraise) นักวิจัยหลังปริญญาเอก ด้านรัฐศาสตร์ แห่งมหาวิทยาลัยโคเปนเฮเกน เขียนบทความชื่อ "การแฮ็กระเบิด? สิ่งที่ Claude Mythos AI เปิดเผยเกี่ยวกับการเสี่ยงโชคของการป้องปรามด้วยอาวุธนิวเคลียร์" โดยชี้ว่า 'ช่องโหว่ซีโร่เดย์' ที่ร้ายแรงซึ่ง Claude Mythos จะสามารถทะลวงได้มันไม่ใช่แค่ซอฟแวร์ระดับสามัญประจำบ้านเท่านั้น แต่อาจรวมถึงระบบควบคุมอาวุธนิวเคลียร์ด้วย เพราะ "ไม่มีผู้ใดรู้ได้อย่างแน่นอนว่าช่องโหว่เหล่านั้นมีอยู่หรือไม่ ดังนั้น เราควรกลัวหรือไม่ว่าคลังอาวุธนิวเคลียร์อาจถูก "แฮ็ก" ในสักวันหนึ่ง?"

และ "ในความเป็นจริง เราไม่รู้ สถานการณ์เช่นนั้นเป็นไปได้ คือ การที่ไม่มีระบบสารสนเทศขนาดใหญ่และซับซ้อนใดที่รับประกันได้ว่าจะเชื่อถือได้อย่างสมบูรณ์แบบ วิวัฒนาการของเครื่องมือโจมตีทางไซเบอร์ และศักยภาพในการแพร่กระจายไปยังกลุ่มผู้กระทำทั้งภาครัฐและเอกชน ทำให้สถานการณ์ในอนาคตเช่นนี้มีโอกาสเกิดขึ้นได้มากขึ้น และในทุกกรณีก็เป็นไปได้เช่นกัน"

โทมัส เฟรซ จึงชี้ว่า "Mythos ชี้ให้เห็นมิติใหม่ของการเสี่ยงโชคทางนิวเคลียร์ ซึ่งเกิดขึ้นจากการพัฒนาเทคโนโลยีใหม่ ๆ และการบูรณาการเทคโนโลยีเหล่านั้นเข้ากับคลังอาวุธนิวเคลียร์ (โดยที่) เรากำลังเดิมพันกับการไม่มีช่องโหว่ในระบบเหล่านี้ แม้ว่าจะเป็นไปไม่ได้ที่จะวัดความน่าจะเป็นนั้นได้อย่างแน่นอน เพราะมันเปลี่ยนแปลงไปตามกาลเวลาเมื่อระบบได้รับการปรับปรุง เปลี่ยนแปลง และเชื่อมต่อกับระบบอื่น ๆ หากช่องโหว่ยังคงมีอยู่ เราก็เดิมพันว่าความก้าวหน้าในขีดความสามารถในการโจมตีทางไซเบอร์จะถูกตอบโต้ด้วยความก้าวหน้าในขีดความสามารถในการป้องกันเสมอ แม้ในยุคของปัญญาประดิษฐ์ก็ตาม"

นั่นหมายความว่า ทุกอย่างเป็นการเดิมพัน เพราะเราไม่รู้แน่ชัด (เหมือนที่สมองกลของ Mythos รู้) ว่ามันมีช่องให้คนร้ายทำการเจาะระบบแล้วก่อกวนคลังแสงอาวุธนิวเคลียร์หรือไม่

เราไม่รู้ว่า Anthropic มองข้ามช็อตไปถึงการแฮ็กระบบควบคุมนิวเคลียร์หรือไม่ แต่ท่าทีของพวกเขาชัดเจนมากขึ้นเรื่อง "ควบคุม AI" หลังจากปล่อย "ของดี" ออกมาในเดือนเมษายน

"ของดี" อาจจะไม่ใช่แค่ความเหนือมนุษย์ของ Claude Mythos แต่ยังมีข้อมูลภายในของบริษัทที่แสดงให้เห็นว่า AI กำลังเร่งการพัฒนาตัวของ AI เองอย่างมากอยู่แล้ว และการเร่งความเร็วนี้สร้างวงจรป้อนกลับ ซึ่งเป็นสิ่งที่ Anthropic เตือนว่าอาจนำไปสู่สิ่งที่นักวิจัยเรียกว่า "การพัฒนาตนเองแบบวนซ้ำ" ในที่สุด

"การพัฒนาตนเองแบบวนซ้ำ" (Recursive self-improvement) คือแนวคิดของระบบ AI ที่สามารถเรียนรู้ด้วยตนเองให้ฉลาดขึ้นได้โดยไม่ต้องอาศัยความช่วยเหลือจากมนุษย์มากนัก

ความเร็วของมันในการเรียนรู้นนั้น "ก็รู้ๆ กันอยู่" ว่าเร็วแค่นไหน แม้แต่ Anthropic ก็ยังรายงานไว้ว่า

"อัตราการพัฒนาของโมเดล AI กำลังเร่งตัวขึ้น ระยะเวลาของงานที่พวกมันสามารถทำได้อย่างน่าเชื่อถือด้วยตัวเองเพิ่มขึ้นเป็นสองเท่าทุกๆ ประมาณสี่เดือน จากเดิมที่เพิ่มขึ้นเป็นสองเท่าทุกๆ เจ็ดเดือน ในเดือนมีนาคม 2024 Claude Opus 3 สามารถทำงานด้านซอฟต์แวร์ที่มนุษย์ใช้เวลาประมาณสี่นาทีในการทำได้สำเร็จ หนึ่งปีต่อมา Claude Sonnet 3.7 สามารถจัดการงานที่ใช้เวลาประมาณหนึ่งชั่วโมงครึ่งได้ และอีกหนึ่งปีต่อมา Claude Opus 4.6 สามารถจัดการงานที่ใช้เวลา 12 ชั่วโมงได้ หากแนวโน้มนี้ยังคงอยู่ งานที่ผู้เชี่ยวชาญใช้เวลาหลายวันอาจทำได้ในปีนี้ และในปี 2027 ระบบ AI อาจสามารถทำงานที่มนุษย์ใช้เวลาหลายสัปดาห์ได้"

แต่รายงานล่าสุดของ Anthropic กล่าวว่า "เรายังไปไม่ถึงจุดนั้น และการพัฒนาตนเองแบบวนซ้ำไม่ใช่สิ่งที่หลีกเลี่ยงไม่ได้" พร้อมเสริมว่ามันอาจเกิดขึ้นเร็วกว่าที่รัฐบาลและสถาบันส่วนใหญ่พร้อมรับมือ

อย่างไรก็ตาม Anthropic กล่าวว่า "หลักฐานชี้ให้เห็นว่าบทบาทของมนุษย์กำลังลดลงในแต่ละขั้นตอนของกระบวนการพัฒนา AI"

จากถ้อยแถลงนี้ยิ่งแสดงให้เห็นว่า Anthropic เริ่มจะหมดคำพูดเรื่องความรวดเร็วในการผลิตตัวเองของ AI เพราะตอนแรกบอกว่า "เรายังไปไม่ถึงจุดนั้น" แต่ถ้อยคำต่อมากลับบอกว่า "ทบาทของมนุษย์กำลังลดลงในแต่ละขั้นตอนของกระบวนการพัฒนา AI"

แสดงว่าระยะเวลาที่จะนำไปสู่ "การพัฒนาตนเองแบบวนซ้ำ" ของ AI เริ่มจะงวดเข้ามาทุกที

นี่เองที่ทำให้ Anthropic เรียกร้องให้ชะลอการพัฒนา AI

แจ็ค คลาร์ก ผู้ร่วมก่อตั้ง Anthropic กล่าวกับรายการ BBC Newsnight ของอังกฤษเมื่อวันพฤหัสบดีที่ผ่านมา ว่า “คุณต้องการตัวเลือกที่จะสามารถถอนเท้าออกจากคันเร่งและเหยียบเบรกได้” แต่ “ตอนนี้ เหมือนกับว่าอุตสาหกรรม AI มีคันเร่ง แต่ไม่มีเบรก”

บริษัทกล่าวว่ามีแผนที่จะรวบรวมเจ้าหน้าที่รัฐ นักวิทยาศาสตร์ กลุ่มสนับสนุน และบริษัท AI คู่แข่งในอีกไม่กี่เดือนข้างหน้า เพื่อหาว่าระบบดังกล่าวจะทำงานได้อย่างไร

อย่างไรก็ตาม สำนักข่าว AFP ชี้ว่าแนวคิดนี้อาจไม่เป็นที่นิยมในหมู่คนที่ต้องการมั่งมีด้วย AI อย่างอีลอน มัสก์ เนื่องจากคาดว่าการเปิดตัวในตลาดหลักทรัพย์ของบริษัท SpaceX ซึ่งเป็นเจ้าของกิจการ AI xAI ของเขา จะทำให้เขากลายเป็นมหาเศรษฐีพันล้านคนแรกของโลก

Anthropic ยังเผชิญกับการต่อต้านจากบริษัทอื่นๆ ในอุตสาหกรรม และเจ้าหน้าที่ในทำเนียบขาว ที่กล่าวว่าการที่ Anthropic มุ่งเน้นไปที่สถานการณ์เลวร้ายที่สุดนั้นเป็นการประเมินความเสี่ยงสูงเกินไป และยังอาจเป็นกลยุทธ์ของ Anthropic ด้วยซ้ำเพื่อที่จะชะลอความคืบหน้าคู่แข่งโดยข้ออ้างเรื่องความปลอดภัย

สำนักข่าว AFP รายงานว่า ข้อเสนอดังกล่าวของ Anthropic จะต้องเผชิญกับอุปสรรคมากมายในวอชิงตันและซิลิคอนแวลลีย์ เพราะเจ้าหน้าที่รัฐบาลสหรัฐฯ และผู้บริหารด้านเทคโนโลยีได้โต้แย้งซ้ำแล้วซ้ำเล่าว่า การชะลอตัวของการพัฒนา AI อาจทำให้จีนได้เปรียบเชิงกลยุทธ์อย่างเด็ดขาดในสิ่งที่หลายคนมองว่าเป็นการแข่งขันด้านเทคโนโลยีที่สำคัญที่สุดแห่งศตวรรษ

อย่างไรก็ตาม ประธานาธิบดีโดนัลด์ ทรัมป์ กล่าวว่าเขาได้หารือถึงความเป็นไปได้ในการร่วมมือกับจีนในประเด็นด้านความปลอดภัยของ AI ระหว่างการเยือนปักกิ่งเมื่อเร็วๆ นี้

ทรัมป์ยังได้ลงนามในคำสั่งบริหารในสัปดาห์นี้ ซึ่งอนุญาตให้รัฐบาลมีเวลา 30 วันในการตรวจสอบเบื้องต้นของโมเดล AI ที่ทรงพลังที่สุดของสหรัฐฯ ก่อนที่จะเปิดเผยสู่สาธารณะ

ดังนั้น เมื่อมาถึงจุดนี้ Anthropic ไม่ใช่คนที่เปิดกล่องแพนดอร่าแบบอ้าซ่าแล้วปลดปล่อยพลัง AI ในด้านที่ชั่วร้ายออกมา เพราะสิ่งที่ Anthropic เป็นแค่การแง้มดูว่าในกล่องปริศนานั้นมีอะไรซ่อนอยู่ พอรู้แล้วก็รีบบอกทุกคนให้เตรียมตัวระวังไว้

กล่องที่ว่านั้นสักวันจะต้องถูกเปิดออกมาแน่นอน แต่ Anthropic บอกว่า "ควรจะยั้งมือไว้ก่อน เราคนใดคนหนึ่งอย่าเพิ่งรีบงัดฝามันออกมาทั้งดุ้น"

แต่ใครจะเชื่อ? ถ้าไม่ใช่รัฐบาลมาแทรกแซง และรัฐบาลเดียวก็ยั้งมือไม่ไหว เพราะหากตัวเองหยุดแล้วรัฐบาลอื่นไม่หยุด คำเตือนนั้นก็จะเปล่าประโยชน์ ดังนั้น เราจะต้องมาลุ้นกันว่า สหรัฐฯ กับจีนจะจับมือกันในเรื่องนี้หรือไม่ หากทำได้จริง โลกเราจะได้มีมาตรฐานในการใช้และควบคุม AI เสียที

ในจีนเองทำท่าจะ "ชอบใจ" ความเหนือชั้นของ Claude Mythos แต่ก็เห็นด้วยกับท่าทีของ Anthropic โดยสื่อจีนที่ชื่อ 差评X.PIN รายงานว่า

"นักวิจัย (ของ Anthropic) ได้ออกมาชี้แจงว่า พวกเขาได้ค้นพบสาเหตุของการกระทำที่บิดเบือนเหล่านี้แล้ว และไม่ใช่เพราะ AI มีเจตนาร้ายหรือมีความสามารถในการวางแผนด้วยตนเอง พวกเขายังลดความถี่ของการเกิดพฤติกรรมที่คล้ายกันลงเหลือต่ำกว่าหนึ่งในล้านผ่านการฝึกฝนอย่างเข้มข้นซ้ำๆ … ดังนั้น เมื่อมองย้อนกลับไป แทนที่จะวิพากษ์วิจารณ์ Project Glasswing (โครงการริเริ่มโดย Anthropic เพื่อรักษาความปลอดภัยของซอฟต์แวร์สำคัญระดับโลกโดยใช้ AI โดยการจำกัดการเข้าถึง Claude Mythos)ของ Anthropic ว่าเป็นกลยุทธ์ทางการตลาด เรากลับเชื่อว่าพวกเขาเชื่ออย่างแท้จริงว่า AI ของพวกเขามีประสิทธิภาพมาก อย่างที่เหวินอัน (ผู้เชี่ยวชาญรายหนึ่ง) กล่าวไว้ คนทั่วไปไม่จำเป็นต้องกังวลเกี่ยวกับการถูกแฮ็กบัญชี WeChat หรือถูกขโมยเงินในตอนนี้ แต่เมื่อต้นทุนของการโจมตีเข้าใกล้ศูนย์ สิ่งเดียวที่เราหวังได้คือกลไกการป้องกันที่มีอยู่จะได้รับการปรับปรุงให้ดีขึ้น"

นี่หมายความว่าผู้เชี่ยวชาญในจีนเชื่อว่า Claude Mythos ทรงพลังจริงๆ และเห็นด้วยที่ผู้สร้างมันขึ้นมาต้องการควบคุมมัน

ดังนั้นแม้ว่าเราจะยังแน่ใจไม่ได้เลยว่า ข้อเสนอของ Anthropic จะกลายเป็นรูปธรรมได้เมื่อไร

แต่มันก็ยังพอมีแสงสว่างที่ปลายอุโมงค์อยู่บ้าง

บทความทัศนะโดย กรกิจ ดิษฐาน ผู้ช่วยบรรณาธิการบริหาร และบรรณาธิการข่าวต่างประเทศ The Better

Photo - ภาพเขียน "แพนโดร่า" (Pandora) ผลงานของจอห์น วิลเลียม วอเตอร์เฮาส์ (John William Waterhouse) จิตรกรชาวอังกฤษ วาดขึ้นราวปี ค.ศ. 1896 ปัจจุบันอยู่ในคอลเล็กชันส่วนบุคคล (Public Domain)