ซีอีโอ OpenAI เตือน ‘ChatGPT Agent’ ยังอยู่ในขั้นทดลอง เสี่ยงโดนขโมยข้อมูลส่วนตัว

OpenAI เพิ่งเปิดตัว ChatGPT Agent นวัตกรรมล่าสุดซึ่งเป็นที่คาดหวังว่าจะนำมิติใหม่มาสู่การทำงานร่วมกันระหว่างมนุษย์กับเทคโนโลยีเอไอ กระนั้น แซม อัลท์แมน ซีอีโอของ OpenAI ก็ออกมาโพสต์เตือนผู้ใช้บนแพลตฟอร์มเอ็กซ์ (ทวิตเตอร์) ว่าควรใช้งานเอไอเวอร์ชันใหม่เอี่ยมนี้อย่างระมัดระวัง

ChatGPT Agent ได้รับการยกย่องว่าเป็นก้าวสำคัญของเอไอ โดยมันสามารถทำหน้าที่ได้หลากหลายกว่าแชตบอตทั่วไป มันสามารถจัดการงานที่ซับซ้อนและมีหลายขั้นตอนโดยใช้คอมพิวเตอร์เสมือนของตัวเอง ทำงานคล้ายกับผู้ช่วยดิจิทัลที่ดูแลได้หลายเรื่องตั้งแต่จองตั๋วเครื่องบินไปจนถึงเลือกซื้อของขวัญให้เพื่อน นอกจากนี้ยังสามารถเตรียมรายงานจากข้อมูลที่ป้อนเข้าไปและแปลงเป็นโครงงานที่พร้อมนำเสนอได้อีกด้วย

อัลท์แมนอธิบายว่า "มันสามารถใช้เวลาคิดได้นานๆ ใช้เครื่องมือบางอย่าง คิดต่อแล้วลงมือดำเนินการ จากนั้นก็คิดต่อไปอีก" โดยเน้นย้ำถึงความสามารถในการให้เหตุผลขั้นสูงและการตัดสินใจอย่างต่อเนื่องซึ่งเป็นการผสมผสานระหว่างโมเดล Deep Research และโมเดลปฏิบัติการของ OpenAI ที่ได้รับการปรับปรุงให้มีประสิทธิภาพสูงสุด

แต่อัลท์แมนก็เปิดเผยอย่างตรงไปตรงมาว่าผู้ใช้งาน ChatGPT Agent ควรมีความระมัดระวัง โดยอธิบายว่า "ผมจะอธิบายสิ่งนี้ให้ครอบครัวของผมฟังว่ามันคือเทคโนโลยีที่ล้ำสมัยและเป็นการทดลอง…ไม่ใช่สิ่งที่เราควรใช้สำหรับงานที่มีความเสี่ยงสูง หรือต้องใช้ข้อมูลส่วนตัวจำนวนมาก"

ความซื่อสัตย์ของอัลท์แมนไม่ใช่เรื่องใหม่ เท่าที่ผ่านมา เขามักจะชี้ให้เห็นถึงข้อบกพร่องของ ChatGPT อยู่เสมอ ไม่ว่าจะเป็นการสร้างข้อมูลหลอกหรือการตอบสนองที่เน้นเอาอกเอาใจผู้ใช้

อลัท์แมนชี้ว่า OpenAI ได้สร้างมาตรการป้องกันที่แข็งแกร่งขึ้นกว่าเดิมในการใช้งาน Agent แต่เขาก็ยอมรับว่า "ไม่สามารถคาดการณ์ทุกสิ่งได้"

การที่ Agent สามารถทำงานและสั่งการงานต่างๆ ได้หลายอย่างด้วยตัวเอง หมายความว่า การตัดสินใจของมันสามารถส่งผลกระทบได้ในโลกของความเป็นจริง โดยเฉพาะอย่างยิ่งหากได้รับสิทธิ์การเข้าถึงมากเกินไป อัลต์แมนยกตัวอย่างว่า ถ้าสมมติว่ายอมให้ Agent เข้าถึงอีเมลของเราและสั่งให้ "จัดการเรื่องต่างๆ" โดยไม่มีการติดตามผล อาจนำไปสู่ผลลัพธ์ที่เลวร้าย เช่น มันอาจคลิกลิงก์อีเมลหลอกลวง หรือตกเป็นเหยื่อของแก๊งต้มตุ๋นทางอีเมลที่มนุษย์สามารถดูออกได้ในทันที แต่ Agent ทำไม่ได้

อัลท์แมนแนะนำให้ผู้ใช้ให้สิทธิ์การเข้าถึงแก่ Agent เพียงเท่าที่จำเป็นเท่านั้น เช่น เมื่อต้องการให้มันจองร้านอาหาร ก็ควรให้สิทธิ์แค่การเข้าถึงปฏิทิน หรือหากต้องการให้สั่งซื้อเสื้อผ้า ก็ไม่จำเป็นต้องให้สิทธิ์เข้าถึงอะไรเลย กุญแจสำคัญคือการใช้งานอย่างมีสติและรอบคอบเป็นหลัก

ที่มา : economictimes

เครดิตภาพ : AFP