AI帶來新挑戰，烏克蘭外交部長9月遭深偽冒充與美國參議院連線，台灣AI詐騙量暴增，從政治人物到財經人物都遭殃，刑事局副局長林信雄表示，已購置深偽檢測軟體，有信心達95%判別率，數發部次長林宜敬則表示，AI風險分級框架因歐美見解分歧，社會仍須討論，意指年底恐不及提出。
《經濟日報》10月底針對AI深偽技術發展，製作專題《AI社會新挑戰》報導社會面對AI可能發生的侵權危機，包括AI詐騙報案件數創新高、深偽影片以假換真。AI衝擊社會，專家也呼籲應先舉行辯論再擬法，獲得廣泛迴響。近期再爆出前立委高嘉瑜、羅致政都爆出深偽影片，國際也傳出疑似「假」烏克蘭外長即時視訊跟美國參議院連線，詢問是否支持遠程導彈射向俄羅斯領土，議員在談話過程察覺異樣喊停。
AI深偽問題獲得立法院高度關注，18日邀國安局局長蔡明彥、副局長張元斌、數發部政務次長林宜敬、警政署刑事局林信雄及法務部調查局副局長吳富梅至外交及國防委員會，就「AI技術在資安、深偽影片及錯誤訊息之影像評估及因應」報告，議題圍繞名人遭深偽並製作假訊息及AI詐騙氾濫議題。
數發部次長林宜敬表示，各政府機構都在逐步導入零信任防禦機制，並「用AI之道還AI之身」，以AI提高識別阻擋攻擊，對AI錯假訊息，則會自然語言處理、大數據分析、人工智慧人機器學習等技術，快速識別分析，並做傳播鏈的拓樸與追蹤。其次是透過整合多種深偽偵測方法，如細節變化、臉部變造、邊緣變造，快速辨識偵測影音真偽。
數發部旗下資安署官員坦言，目前各部門導入零信任防禦機制中，但有一定困難度，因為使用者每次登入都要重重輸入，增加困難度，因此確實受到阻力，但資安署仍照三階段進行，目前已經完成12個AI級機關導入，年底前預計完成共47個AI級機關導入。
立委洪孟楷提醒，AI技術發達，政府必須注意若國防指揮中心跟前線部隊聯繫管道被AI入侵變造聲音，可能有下達錯誤指令，國安局副局長張元斌表示，AI發展快速確實會產生很多想像不到狀況，包括植入惡意程式碼，國安局已成立AI小組，會持續注意掌搜，發現新樣態會提供給相關部會因應。
立委黃國昌詢問目前部會對深偽的辨識力，刑事局警察局副局長林信雄指出，已經採購兩套檢測軟體，但沒辦法百分之百辨識深偽影片，但透過檢測流程搭配開源軟體，有信心辨識率95%以上。
立委王鴻薇表示，台灣名人詐騙9~10月每月超過4,000多件，台灣一個月遭詐騙財損高達15億元，國安局副局長張元斌表示，深偽問題氾濫無法阻擋，重點是如何應處，政府已經成立機制，國安局掌握後會辨偽、溯源跟清理，也就是請平台業者下架，機制早已有，但要快速因AI詐騙數量非常大，後續需要技術引入，未來會不斷引用最新技術，相關警察機關也會建立能量機制。
提高AI治理能力，歐美都各已提出國家級AI風險分級數發部原規定在今年底前要提出台版「AI風險分級框架」，數發部次長林宜敬透露，由於社會還需要更多討論，且歐美對此規範分歧，台版恐將延後公布。
林宜敬指出，歐洲跟美國非常不同，歐盟對各行業設定不同風險層級，最高層級即禁止用AI，美國則以分類方式發布行政指引，做產業類別用AI風險定義，美方不希望有明確分類跟禁止，美國也向各自由國家表達不希望其他國家跟進歐盟機制，因為可能遭限制的多是美國公司。
林宜敬表示，台版AI風險分級框架還有很多討論空間，在國外也是熱烈討論議題，數發部會配合國科會的主導，努力做該做的事情。
11月15日META將一批財經粉專下架，甚至連證交所粉專都遭殃，對此內政部警政署副局長林信雄指出，刑事局通報META一批假粉專網站黑名單，META海外執行單位篩選機制出問題，誤反將白名單粉專下架，數發部緊急聯繫後當晚協助各粉專恢復。
立委洪孟楷表示，META 是上市公司，警政署平常要幫忙查證提供粉專白名單跟黑名單，上周烏龍事件，數發部還得連夜接受陳情通知META恢復粉專，他質疑台灣兩部會形同幫META工作，打詐APP上線後，9成通報來自META，應該要求META積極內部管理。
數發部表示，這確實是各國頭痛問題，META在台灣法遵2人，跟業務部門各自獨立運作，後來數發部也直接找新加坡亞太總部跟加州總部聯繫，希望透過美國輿論壓力，11月底打詐專法施行，未來再有任何詐騙事件就能直接開罰平台。