นักวิจัยพบวิธีการโจมตีแบบใหม่ Ghostcommit สามารถหลอกผู้ช่วย AI ด้วยการซ่อน Prompt ในรูปภาพ
ในยุคแห่งปัญญาประดิษฐ์ หรือ AI (Artificial Intelligence) นั้น นอกจากการเรียนรู้ในการนำเอา AI ไปใช้ประโยชน์ในเชิงบวกแล้ว ทางแฮกเกอร์ก็สามารถหาวิธีนำเอาไปใช้ในเชิงลบเช่น การนำเอาไปสร้างมัลแวร์ หรือแม้กระทั่งการทำการหลอกลวง AI เพื่อให้มองข้าม, ติดตั้งมัลแวร์, หรือ ส่งคำสั่งให้กับมัลแวร์บนเครื่อง หรือแม้แต่สั่งให้มัลแวร์ทำตามที่ต้องการได้เช่นเดียวกัน
จากรายงานโดยเว็บไซต์อย่างเป็นทางการของผู้พัฒนาเครื่องมือต่อต้านมัลแวร์ชื่อดัง Malwarebytes ได้กล่าวถึงการที่ทีมวิจัยจาก ASSET Research Group ได้ค้นพบกลยุทธ์ใหม่ในการแอบฝังคำสั่ง (instruction) ไว้ภายในไฟล์รูปภาพ (Image File) เพื่อสั่งการให้ตัว AI ประเภทช่วยเหลือในการเขียนโปรแกรม (Coding Agent) ทำตามสิ่งที่ต้องการ เช่น อ่าน และ ส่งข้อมูลอ่อนไหว (Sensitive Information) ไปให้แฮกเกอร์ ซึ่งในการกระทำการดังกล่าวนั้นจะต้องใช้ไฟล์ 2 ประเภท คือ ไฟล์ตั้งค่า (Configuration File) โดยในการทดลองนี้จะใช้ไฟล์ชื่อว่า AGENTS.md และไฟล์รูปภาพสกุล .PNG ที่มีการแอบซ่อนคำสั่งที่สั่งการให้อ่านและขโมยข้อมูลอ่อนไหว
ภาพจาก : https://github.com/asset-group/ghostcommit
โดยจะเริ่มต้นจากการให้ตัว AI อ่านไฟล์ตั้งค่า ซึ่งภายในนั้นไม่ว่าจะตรวจสอบด้วยคน หรือ ตัว AI ก็ไม่พบสิ่งผิดปกติอะไรอยู่ภายใน และโดยทั่วไปนั้นผู้ใช้งานที่เป็นมนุษย์ก็มักจะไม่ทำการตรวจสอบไฟล์รูปภาพในเชิงลึก ซึ่งหลังจากที่ให้ตัว AI ทำการอ่านไฟล์ตั้งค่าดังกล่าวก็จะพบการชี้ (Referred) ให้ตัว AI ไปอ่านไฟล์รูปภาพที่แนบมาด้วยกันอีกที ซึ่งเมื่อ AI อ่านไฟล์คำสั่งของรูปภาพดังกล่าวและทำตามคำสั่งที่แฮกเกอร์ฝังเอาไว้ภายในทันที โดยวิธีการนี้ทางทีมวิจัยตั้งชื่อว่า Ghostcommit โดยในปัจจุบันวิธีการนี้ยังคงอยู่ในขั้นตอนการทดสอบความคิด หรือ Proof of Concept เท่านั้น ยังไม่มีการใช้งานจริงโดยแฮกเกอร์ตัวจริงแต่อย่างใด ซึ่งในการทดสอบนั้น ทางทีมวิจัยระบุว่า วิธีการดังกล่าวส่งผลไม่เหมือนกันในตัว AI แต่ละโมเดล โดย Cursor และ Antigravity นั้นจะทำตามขั้นตอนที่ระบุไว้ในไฟล์ PNG ทุกประการ แต่ตัว Claude Code จะอ่านคำสั่งที่ถูกฝังไว้อยู่เช่นกันแต่ปฏิเสธที่จะทำตาม เป็นต้น ดังนั้นวิธีการดังกล่าวจึงไม่ใช่วิธีการที่สมบูรณ์นัก เนื่องจากต้องอยู่ภายใต้เงื่อนไขถึงจะทำงานได้
➤ Website : https://www.thaiware.com
➤ Facebook : https://www.facebook.com/thaiware
➤ Twitter : https://www.twitter.com/thaiware
➤ YouTube : https://www.youtube.com/thaiwaretv