AI 詐騙手法不斷升級，將導致哪些後果？
人工智慧的崛起，從各方面改變了人們既有的生活方式，然而，科技革新的背後，卻也意味著一定程度的犧牲及考驗。
2023 年 12 月，美國監管機構組成的「金融穩定監督委員會（Financial Stability Oversight Council，FSOC）」宣布，考量到人工智慧的應用若缺少嚴密的實施及監控，將為金融體系帶來難以挽回的風險，因此正式將 AI 歸類為「新興漏洞」。
可見，人工智慧的發展即便刺激了金融業的創新，並逐步提高作業程序的效率，但使用相關科技的金融公司，卻也因人工智慧模型的「不透明性」，而面臨著隨「方便」而來的資料安全、消費者保護及隱私風險挑戰。
與此同時，作為消費者的我們，在享受著 AI 應用帶來的「方便紅利」之際，卻也在不知不覺中，將自身資料放諸無邊無際的網路世界中，成為有心人士眼中的首要目標。就這樣，一直到深陷詐騙謎團的那一刻，才驚覺自己享受到的，實為包有糖衣的「AI 毒藥」。
最終，隨著受害者有增無減，受騙的消費者們逐漸步上前所未見的「深度懷疑時代（Deep Doubt Era）」，間接影響著社會信任的組成。
你的聲音被複製了？AI 語音詐騙正盛行
去（2024）年 9 月，英國銀行 Starling Bank 與市調中心 Mortar Research 發布一份調查報告，指出利用 AI 進行聲音複製的詐騙事件數正逐步上升，預計影響規模將超過數百萬人。
事實上，假扮他人進行詐騙的手法並非首見，根據《CBS News》報導，美國聯邦貿易委員會（Federal Trade Commission）的數據顯示，去年涉及商業冒名的詐騙案件就已造成逾 7.52 億美元（約新台幣 248 億元）的損失。儘管這並非新聞，但人工智慧技術的加入，無疑讓事情變得更為複雜。
科技發展至今，語音複製技術的革新，讓有心人士能藉著短短幾秒鐘的音檔，就可完美複製出特定對象的說話方式，並以此欺騙其家人及親友。
Starling Bank 警告，隨著社群網站發展，愈來愈多使用者習慣在網路上發布含有自己聲音的檔案，卻未意識到此舉將讓自己更容易被有心人士利用。聲音一旦被複製，犯罪分子便有機會從受害者身邊的親友下手，利用難以辨別真偽的聲音與其家人對話，以達到詐騙之目的。
英國電信推出「機智防詐武器」：話很多的 AI 奶奶
那麼，作為消費者的我們，難道就只能坐以待斃嗎？英國電信公司 O2 於去年 11 月推出的 AI 奶奶「黛西（Daisy）」告訴我們，事實並非如此。
根據《CNN》報導，Daisy 奶奶的任務正是與詐騙者「聊天」，透過仿真人對話的方式，盡可能「浪費」對方的時間及心力，減少詐騙事件的發生。
由此可見，Daisy 奶奶的出現可說是 AI 技術運用的正面例子。會這樣說是因為，AI 奶奶的建立背後結合了多種人工智慧模型，藉各類模型各司其職，Daisy 得以在消費者未輸入任何指令的情況下，自行與詐騙者進行互動。不論是即時監聽，抑或親自回覆詐騙電話等行為，她皆可自行達成，用其逼真的嗓音及對話方式，成功「欺騙」眾多詐騙者。
O2 在新聞稿中表示，Daisy 奶奶作為「反整詐騙者（Swerve the Scammers）」計畫的一環，推出至今已成功讓多位詐騙者以為自己找到了完美的詐騙目標，連續接聽超過 40 分鐘的電話。
這個例子告訴我們，AI 科技的推出實為雙面刃，一方面可能會被有心人士利用，作為有力的詐騙工具；卻也可以保護人們，免受日益複雜的數位詐騙危機侵害。由此可見，單看新科技的推出難以判斷其「好壞」，一切皆會因使用者目的而有所不同。
詐騙猖獗，社會邁入「深度懷疑時代」
隨著人工智慧造成的風暴持續蔓延，前述提到的聲音複製詐騙，及利用圖像合成手法進行詐騙的「深偽（Deepfake）」技術，讓許多民眾心生畏懼，間接推動社會逐漸步入「媒體懷疑主義（Media Skepticism）」的時代，這也是許多報導所稱的「深度懷疑時代（Deep Doubt Era）」。
儘管民眾對網路內容抱有遲疑之行為，早就可追溯回數十年前，但人工智慧技術的出現，確實讓有心人士得以更輕易地產製出令人信服的虛假資訊（Disinformation）。真假界線更加模糊不清之際，人們對資訊的懷疑程度可說是上升至全新境界。
有趣的是，早在 2019 年時，Danielle K. Citron 及 Robert Chesney 兩位美國法律學者就曾在論文中提到，深度懷疑的出現讓「騙子們」能更輕鬆地逃避傳遞錯誤消息的責任。Citron 和 Chesney 並將此概念命名為「騙子的紅利（Liar‘s Dividend）」。
不過，對事事抱有遲疑明明是件好事，也確實可以減少詐騙事件的發生機率，但為什麼學者一提到「深度懷疑」時，總明顯語帶擔憂？其原因便在於，「深度懷疑」一詞強調的是人們因 AI 技術的推出，而變得難以信任「任何人工產製」的內容，其中也包含了實為正確資訊的內容。
全民懷疑，將導致哪些後果？
過去僅存在於學術場域間的概念，已在近年成為社會無法忽略的慘痛事實，民眾對內容的廣泛懷疑，甚至間接引發了另項公共危機：民眾更有可能將「事實」誤認為「人工智慧產出的錯誤消息」；又或是站在事實面前，卻僅因真相與自身信念相斥，而選擇將它貼上「謠言」的標籤。
「深度懷疑時代」的到來，讓 AI 應用已不只是另部有趣的惡搞影片，或某個法律應用爭議，其可能造成的影響已上升至社會信任層面。當整體社會愈加步入深度懷疑的世界，這不僅會強化民眾對媒體的不信任，更嚴重者，甚至會侵蝕民主對話的重要基底。
試想，若人人變得只願意接收與自己立場相符的資訊，而不願打開雙耳接收所有的可能性，我們對「事實」的共同認知將變得更為主觀，而大聲傳遞真相的一端也將被冠上「不理性」的標籤。
或許，在真相與虛構愈來愈難分辨之際，從個人到企業，我們能做的便是隨時保持警惕，並逐漸在新日常中尋找平衡。
【延伸閱讀】
● 你的密碼到底有多「祕」？了解「駭客產業鍊」，可能會讓你大吃一驚！
●「沒有常識的天才」：為什麼這麼多專家對 AI 一夕改觀，甚至已預見毀滅？
※本文由換日線授權刊登，未經同意禁止轉載
留言 1