您曾經在網路看過標榜高獲利，邀請群眾免費加入群組的廣告嗎？小心，這可能是來自機器人帳號，以AI自動投放的詐騙訊息。您知道嗎？靠技術AI，短短5秒鐘，就能生成一則詐騙文宣，現在數發部啟動打詐計畫，他們如何透過AI技術對抗詐騙，帶您一起來看。
這是一場AI對抗AI的，反詐騙戰爭，他是國家資通安全研究院的打詐專家江禹賢，2024年1月，他和一群夥伴透過AI技術，分析超過500萬筆詐騙廣告，運用大數據分析，在各大網路平台，掃蕩同樣由AI生成的詐騙訊息，免費、飆股、加入群組一對一線上服務，五花八門的投資廣告，字字句句說得動聽，但這些字眼，在資安院詐騙情資資料庫中，全被判定為高風險關鍵字，遭到AI偵測下架的詐騙訊息，一天高達5千到1萬筆。
資安院追查發現，截至2024年7月，曾經投放過詐騙廣告的粉專，約有1萬6千個，從其中1千個帳號進一步分析，揪出具有類似特徵，但尚未投放過詐騙廣告的帳號數量，高達10萬，進而推估出藏身幕後的詐騙機器人帳號，恐怕超過百萬大軍，您知道透過AI技術，生成一則詐騙廣告文宣，需要多久時間嗎？答案是5秒鐘，假如附加圖片，也只要15秒，生成式AI，讓詐騙廣告投放，進階為「自動化經營」，假訊息無時無刻四處流竄，向各大網路平台大舉入侵，究竟民眾是如何一步步，踏入詐騙陷阱？
數位發展部發現，絕大多數的詐騙集團，先利用開放式社群平台，以AI投放大量詐騙廣告，以種種誘因，吸引群眾加入封閉式群組，再透過一對一私訊，說服民眾匯款，等受害者驚覺有異，詐騙集團早已洗錢逃逸，但封閉性群組及通訊軟體私訊，都是公權力難以及時伸張的灰色地帶，想有效打擊詐騙，必須從源頭防治，過去仰賴人工，得花上半個月公文往返，確認屬實，才能下架詐騙廣告。
如今借重AI，兩天之內就能完成，2024年5月，網路平台假冒金融投資的廣告，光是一週就高達7萬9千多筆，8月時降至不到2萬筆，假冒名人的訊息，也少了8成，從4萬1千多則，縮減為7448則，科技日新月異，AI詐騙風險，可能比你我想像中，更加危急。
2024年5月，新北市淡水區崁頂里里長吳庭岳，收到一則手機陌生訊息，內容令他非常震驚，曾經從事警務工作5年的吳庭岳，收到訊息後，一度不知所措，但他冷靜下來，發現恐嚇訊息中，暗藏AI後製加工過的痕跡，事後吳庭岳將受害經過PO上網，這才發現受害里長不只他一人，一旦公眾人物公開資料，被詐騙集團盯上，加上AI技術推波助瀾，對治安造成的危害，難以想像，打開區公所網站。
搜尋里長照片，進入AI換臉網頁，上傳素材，短短不到10秒鐘，變造合成的照片，就能輕鬆完成，AI不只能夠盜用你的容貌，還能仿造所有人的聲音，只要你手中，握有某人的一段錄音，再上傳網路聲音合成器，就能利用對方的聲音，說出他從未說過的話，最可怕的是，這些深偽軟體，在網路上就能免費使用，水能載舟亦能覆舟，怎麼利用，全看人心。
當眼見不一定為憑，耳聽不一定為真，深偽內容氾濫，正悄悄在台灣掀起一場科技犯罪風暴，AI生成畫面，或許真假難辨，但科技公司，透過影像雜訊分析及色彩偵測技術，抽絲剝繭找出破綻。
當原本立意良善的科技，成為詐騙集團的犯罪工具，民眾該如何自保？AI技術發展，對全球及社會，帶來前所未有的衝擊，個資保護就顯得格外重要，歐盟早在2016年，通過一般個人保護規則，簡稱為GDPR，要求企業設立隱私長，若發生個資外洩事件，需在72小時內，通知資料當事人，並通報主管機關，將資料保護視為企業責任。
2024年8月，全球第一部監管人工智慧的法案，歐盟的人工智慧法正式生效，其中以深偽技術製作的內容，必須明確標註，期盼遏止AI騙局，當科技被濫用，社會信任被攻陷，AI詐騙與AI打詐間的對決，將是一場矛與盾的艱難戰役，政府健全法制、企業自主管理、民眾加強防詐意識，都是必要解方，缺一不可，翻轉詐騙之島，台灣還有許多挑戰與難題，仍需繼續努力。
留言 0