不只生吉卜力！ChatGPT還可造假發票、帳單 專家憂詐騙工具增
美國人工智慧（AI）科技巨頭OpenAI在3月25日時推出一項新的原生圖片生成功能，一經推出就引起全球熱潮，吉卜力風格生成圖風潮還一度導致ChatGPT網站大當機，讓執行長阿特曼（Sam Altman）發文求饒說：我們的GPU都快融化啦！」然而有科技專家發現這項新功能竟然還可以假造發票和帳單，經測試後看起來就和真的發票一樣，擔憂詐騙集團能犯案的工具又增加。
知名科技網紅暨創投家達斯（Deedy Das）在個人社群X上貼出一張在舊金山牛排館的假收據，他說這是他使用ChatGPT生圖功能所產生的，並寫下：「你可以用生圖功能製作假收據。以往現實中的驗證流程仰賴『真實影像』作為證明，但那個時代已經結束了，造假變得更加逼真和難以辨識。」
其他網友也紛紛貼出假收據或是帳單的照片，發現皺巴巴的發票以及有污漬的收據，通通難不倒ChatGPT，製造出來的成品就像是真實的。外媒《TechCrunch》網站也測試一家餐廳的假收據，但發現與原先收據的標點符號以及數字排列出現誤差，暴露出假收據的證明。然而該網站也表示，這只是AI運算上的小錯誤，要修正並非難事，甚至只要使用修圖軟體就可以達到造假的效果。
OpenAI發言人克里斯汀森（Taya Christianson）回應了《TechCrunch》表示所有由ChatGPT製作的影像都包含元數據，表明其出處。她補充說，若用戶違反使用政策，OpenAI會「採取行動」，且一直在從現實世界的使用和反饋中「學習」，不會讓新功能變成詐騙工具。
《TechCrunch》更進一步問到，為何允許用戶能夠生成假發票和帳單以及是否違反禁止詐欺的使用政策時，克里斯汀森表示OpenAI的目標是給予用戶「盡可能多的創作自由」，AI假收據除了用於詐欺，也可能出現在「教導民眾理財知識」等非詐欺情境，以及用來創作原創藝術和產品廣告。
留言 6