中國詐騙者巧用 AI 產圖，退款詐騙手法層出不窮
隨著人工智慧技術的迅速發展，中國的詐騙者正利用 AI 生成的圖像來獲取退款。根據報導，這些詐騙者不僅使用 AI 生成的照片，還結合真實的帳號資訊（如電子郵件、電話號碼和地址）來創建合成身分，透過自動化的身分檢查和人為審核來獲得退款。
在中國社群媒體平台小紅書上，WIRED發現了多篇來自電子商務賣家和客服代表的貼文，抱怨他們收到的退款請求中包含AI生成的虛假圖像。這些詐騙者利用AI生成的圖像來偽造商品損壞的證據，並以此向商家要求退款。例如，一位顧客聲稱購買的床單被撕成碎片，但運送標籤上的中文字卻顯得毫無意義。另一位顧客則發送了一張咖啡杯的照片，杯子上出現的裂痕看起來像是紙撕裂的痕跡。
商家報告指出，AI生成的損壞照片主要在幾個產品類別中被濫用，包括新鮮食品、低價美容產品和易碎物品，如陶瓷杯。由於商家通常不要求顧客在退款前退回這些商品，因此更容易成為退款詐騙的目標。
在一個案例中，一位在抖音上銷售活蟹的商家收到了顧客發來的照片，顯示她購買的大部分蟹已經死亡，而另外兩隻則逃脫了。顧客甚至發送了影片，顯示死蟹被人用手指戳。然而，商家發現這些影片有問題，因為蟹的腿朝上並不符合實際情況。最終，商家將詐騙報告給警方，警方確認影片確實是偽造的，並拘留了該顧客八天。
此問題並非中國獨有。根據位於紐約的詐騙檢測公司Forter的估計，自2024年初以來，使用AI修改的圖像在退款請求中的使用量已增加超過15%。Forter的首席執行長Michael Reitblat表示，趨勢始於2024年中，但在過去一年中隨著圖像生成工具的廣泛可用性而加速發展。
商家和物流公司正在採取相關措施。一些賣家開始使用AI工具來檢測退款請求中的照片是否被篡改，並進行人為審核。然而，這些工具目前仍不完美，且即使有聊天機器人的確認，電子商務平台也不一定會支持賣家。Reitblat警告說，零售商可能最終會收緊退貨政策來應對，但這將損害誠實顧客的購物體驗。
電子商務是依賴信任的本質，AI的廣泛可用性使得在「假設大多數人都是誠實」的前提下運作變得越來越困難。現有的防範措施，如AI浮水印，往往過於容易被去除。為了讓以人為本的系統繼續運作，電子商務平台需要找到應對之道，無論是新的驗證規則、修訂退款政策，還是加強對AI驅動詐騙的問責機制。
（首圖來源：pixabay）