Anthropic บล็อกผู้ใช้ Claude โยงงานวิจัยเสี่ยงอาวุธชีวภาพ

วันที่ 10 กันยายนที่ผ่านมา บริษัท Anthropic เปิดรายงานข่าวกรองภัยคุกคามสำคัญ โดยระบุว่าตรวจพบและระงับการใช้โมเดล Claude บริษัทในลักษณะที่อาจสนับสนุนการพัฒนาอาวุธชีวภาพได้หลายกรณี โดยเอกสารนี้รวบรวมกรณีศึกษาการใช้งานผิดประเภท ทั้งงานชีวภาพ การเฝ้าระวัง การสร้างช่องโหว่ซอฟต์แวร์ โฆษณาชวนเชื่อ และระบบอาวุธ

⬛️ รายงานข่าวกรองภัยคุกคาม
รายงานระบุกรณีศึกษาชีวภาพ 5 เคสที่โมเดล Claude ของบริษัทถูกใช้ในทางที่อาจสนับสนุนงานพัฒนาอาวุธชีวภาพ โดยบริษัท Anthropic เรียกความเสี่ยงด้านนี้ว่าเป็นหนึ่งในความเสี่ยงร้ายแรงของโมเดล frontier เพราะโมเดลรุ่นใหม่ช่วยงานวิจัยวิทยาศาสตร์ได้เก่งขึ้น ขณะเดียวกันงานวิจัยวัคซีนหรือการรักษาอาจมีลักษณะใกล้เคียงงานที่เสี่ยง จึงทำให้การตรวจจับซับซ้อน
เจคอบ ไคลน์ (Jacob Klein) หัวหน้าฝ่ายข่าวกรองภัยคุกคามของบริษัท Anthropic เคยอธิบายกับสื่อว่าสถานการณ์ละเอียดอ่อนมาก ไม่ใช่แบบที่ใครประกาศตรง ๆ ว่าต้องการสร้างอาวุธชีวภาพ บริษัทจึงเลือกระมัดระวังเกินกว่าจะชะล่าใจในทุกเคสที่ตรวจพบ
⬛️ กรณีงานวิจัยที่ถูกยกขึ้นมา
ในเคสเดือนพฤษภาคม ระบบตรวจความปลอดภัยด้านชีวภาพของบริษัทจับได้ว่ามีคนขอให้ Claude ช่วยเขียนคำขอทุนวิจัยที่เกี่ยวกับการดัดแปลงไวรัสชิคุนกุนยาให้แพร่ได้ง่ายขึ้นและหลบภูมิคุ้มกันของคนได้ดีขึ้น ทั้งที่ไวรัสชนิดนี้ยังไม่มียารักษาที่ทางการรับรอง และงานนี้ยังโยงกับสถาบันวิจัยทหาร บริษัทจึงมองว่าเสี่ยงสูงเป็นพิเศษ
เคสอื่นในรายงานรวมถึงงานดัดแปลงไข้หวัดนกสายพันธุ์อันตรายให้อาจแพร่ในสัตว์เลี้ยงลูกด้วยนมได้ดีขึ้น และเคสที่นักวิจัยใช้ Claude ช่วยทำบัญชีรายชื่อสารพิษจากพิษสัตว์ พร้อมระบบที่ช่วยปรับให้สารพิษมีคุณสมบัติตามที่ต้องการ รายงานยังบอกว่าผู้เกี่ยวข้องบางรายพยายามเข้าใช้งานจากพื้นที่ที่บริษัทไม่เปิดบริการ และปิดบังจุดประสงค์จริงเพื่อเลี่ยงระบบป้องกัน

⬛️ บริษัท Anthropic ตอบสนองอย่างไร?
บริษัท Anthropic ระบุว่าบัญชีที่เกี่ยวข้องถูกระงับทั้งหมด และนำข้อค้นพบไปปรับระบบป้องกันโมเดล การบังคับใช้กฎ และกระบวนการข่าวกรองภัยคุกคาม เพื่อป้องกัน ตรวจจับ และตัดตอนพฤติกรรมลักษณะนี้ได้ดีขึ้นในอนาคต
อย่างไรก็ตาม บริษัทไม่เปิดเผยชื่อบุคคลหรือห้องแล็บ โดยย้ำว่าผู้เกี่ยวข้องเป็นนักวิทยาศาสตร์ที่ทำงานจริง และบริษัทไม่ได้ยืนยันว่ามีเจตนาทำร้าย อีกทั้งการเปิดชื่ออาจก่อความเสียหายต่อผู้เกี่ยวข้องแต่อย่างใด
นอกจากงานชีวภาพ รายงานยังครอบคลุมการใช้โมเดลในปฏิบัติการไซเบอร์ การเฝ้าระวัง การสร้างอาวุธทั่วไป และงานโฆษณาชวนเชื่อ บริษัท Anthropic ระบุว่าเป้าหมายของการเปิดเผยครั้งนี้คือกระตุ้นการหารือในอุตสาหกรรม AI และกับภาครัฐ เรื่องความเสี่ยงชีวภาพที่กำลังเกิดขึ้น และวิธีรับมือที่เหมาะสม

ข่าวที่เกี่ยวข้อง

• “Anthropic” ยอมรับ AI “Claude” แหกคุกทดสอบ แฮกระบบ 3 องค์กร ปัญหาเดียวกับ “OpenAI”
• รัฐบาลสหรัฐฯ สั่งระงับ Claude Fable 5 และ Claude Mythos 5 ชั่วคราว
• รัฐบาลสหรัฐฯ สั่งระงับ AI รุ่น Fable 5 และ Mythos 5 ของAnthropic ปมกังวลความมั่นคง
• Anthropic ปล่อยโมเดล Claude Mythos 5 AI ความปลอดภัยไซเบอร์รุ่นใหม่
• Anthropic เตือนโลกเบรก AI หลังไม่ง้อมนุษย์