FSB เตือนความเสี่ยง Agentic AI ในภาคการเงิน จี้ธนาคารเพิ่มการกำกับดูแลโดยมนุษย์
FSB ออกแนวทางฉบับสมบูรณ์กำกับ Agentic AI ในภาคการเงิน ย้ำการใช้งานที่มีความเสี่ยงสูงต้องอยู่ภายใต้การควบคุมของมนุษย์ พร้อมกำหนดเงื่อนไขให้ AI ขออนุมัติก่อนดำเนินงาน
วันที่ 15 ตุลาคม 2569 เวลา 11.06 น. สำนักข่าวรอยเตอร์รายงานว่า คณะกรรมการเสถียรภาพทางการเงิน (Financial Stability Board: FSB) ซึ่งเป็นองค์กรระหว่างประเทศที่มีบทบาทในการกำหนดมาตรฐานด้านเสถียรภาพทางการเงิน เรียกร้องให้ธนาคารและสถาบันการเงินเพิ่มการกำกับดูแลระบบปัญญาประดิษฐ์แบบ Agentic AI โดยมนุษย์ หลังเผยแพร่แนวทางฉบับสมบูรณ์สำหรับบริหารจัดการความเสี่ยงจากการใช้เทคโนโลยีดังกล่าว เมื่อวันพฤหัสบดีที่ 15 ตุลาคม
แนวทางดังกล่าวมีขึ้นในช่วงที่หน่วยงานกำกับดูแลทั่วโลกกำลังเพิ่มความเข้มงวดในการตรวจสอบความเสี่ยงจาก AI โดยเฉพาะภัยคุกคามทางไซเบอร์ที่อาศัยเทคโนโลยี AI ซึ่งอาจส่งผลกระทบต่อความมั่นคงและเสถียรภาพของระบบการเงิน
ก่อนหน้านี้ FSB เผยแพร่ร่างแนวทางกำกับดูแลเมื่อเดือนมิถุนายน 2569 โดยเตือนว่า AI Agent หรือระบบ AI ที่สามารถวางแผนและดำเนินงานได้ด้วยตนเองภายใต้การควบคุมของมนุษย์ที่จำกัด ก่อให้เกิดความท้าทายด้านการกำกับดูแลที่แตกต่างจากระบบ AI ทั่วไป พร้อมสนับสนุนอย่างยิ่งให้คณะกรรมการบริษัทนำแนวทางดังกล่าวไปประกอบการพิจารณา
สำหรับแนวทางฉบับสมบูรณ์ FSB ระบุว่า ได้ปรับปรุงข้อเสนอแนะเกี่ยวกับ Agentic AI ให้เข้มงวดมากขึ้น หลังได้รับความคิดเห็นต่อร่างแนวทาง รวมถึงพิจารณาจากความสนใจที่เพิ่มขึ้นของสถาบันการเงินในการนำเทคโนโลยีดังกล่าวมาใช้งาน ตลอดจนลักษณะความเสี่ยงและมาตรการควบคุมเฉพาะที่เกี่ยวข้อง
หนึ่งในข้อเสนอสำคัญคือ การเพิ่มระดับการกำกับดูแลโดยมนุษย์สำหรับการใช้งาน AI ที่มีความเสี่ยงสูง โดย FSB ระบุว่า การใช้งานในลักษณะดังกล่าวจำเป็นต้องมีการตรวจสอบและควบคุมจากมนุษย์อย่างเข้มข้นมากขึ้น
นอกจากนี้ สถาบันการเงินควรกำหนดเงื่อนไขที่ชัดเจนตามระดับความเสี่ยงว่า ในสถานการณ์ใด AI Agent จำเป็นต้องขออนุมัติจากมนุษย์ก่อนดำเนินการ เพื่อป้องกันการตัดสินใจหรือการปฏิบัติงานที่อาจก่อให้เกิดผลกระทบโดยไม่คาดคิด
ความกังวลของหน่วยงานกำกับดูแลเพิ่มสูงขึ้นหลังเกิดเหตุการณ์หลายกรณีที่สะท้อนถึงความเป็นไปได้ที่ระบบ AI อาจหลีกเลี่ยงมาตรการป้องกันที่กำหนดไว้ รวมถึงเหตุการณ์เมื่อเดือนกรกฎาคมที่ผ่านมา ซึ่ง AI Agent ของ OpenAI หลุดออกจากสภาพแวดล้อมการทดสอบที่มีการควบคุม และเจาะระบบของบริษัท AI อย่าง Hugging Face ตามรายงานของ Reuters
ขณะเดียวกัน FSB ยังปรับเปลี่ยนแนวทางเกี่ยวกับสถานะของ AI Agent โดยยกเลิกข้อเสนอเดิมที่ให้สถาบันการเงินปฏิบัติต่อ AI เสมือนเป็น “พนักงานสังเคราะห์” (Synthetic Employees)
FSB ระบุว่า สถาบันการเงินควรตระหนักว่า AI Agent ไม่ได้ใช้กระบวนการให้เหตุผลเช่นเดียวกับมนุษย์ และอาจตีความเป้าหมายที่กำหนดไว้ล่วงหน้าในรูปแบบที่ไม่คาดคิด ซึ่งทำให้การกำกับดูแลและการกำหนดขอบเขตการทำงานมีความสำคัญอย่างยิ่ง
แนวทางฉบับสมบูรณ์ดังกล่าวจึงสะท้อนถึงความพยายามของหน่วยงานกำกับดูแลระดับโลกในการวางมาตรการรับมือความเสี่ยงจาก AI ที่สามารถดำเนินงานได้อย่างเป็นอิสระมากขึ้น ท่ามกลางแนวโน้มที่ธนาคารและสถาบันการเงินกำลังให้ความสนใจนำ Agentic AI มาใช้ในการดำเนินธุรกิจ
อ้างอิง : reuters.com