隨著AI技術加速發展，資訊創作不僅變得更快，還更加「以假亂真」。一張照片、一段文字，甚至一段語音，都可能以精緻手法誤導大眾。這些原本用來便利生活的技術，卻成了假訊息製造者手中的「最強武器」，讓世界陷入真假難辨的資訊迷霧。
為破解這場資訊危機，全民查假會社聯手二十一世紀基金會及中華傳播管理學會，舉辦了年度論壇「假訊息，真AI！」。這場論壇集合業界專家、媒體從業者、政策制定者與學界代表，大數據股份有限公司創辦人暨執行長金志丞擔任專題演講，共同對抗假訊息這個數位時代的「大魔王」。
真假難辨？AI的「魔法秀」與現實風險
網路溫度計DailyView
生成式AI原本是科技界的寵兒，從幫你寫企劃案到製作搞笑迷因，樣樣得心應手。然而，當它落入壞人之手，卻變成了一台生產假訊息的「超級複製機」，瞬間讓謠言以光速席捲社交媒體。從「外星人來了」的新聞，到「政要醜聞」的影像，無不精緻到令人信以為真。
AI技術的崛起讓創作門檻大幅降低，從文字、圖片到音頻，創造真實感的手段越來越精湛。大數據(股)公司執行長金志丞以一個引人深思的例子說明 AI的潛力，一題高中教師甄試考題，AI僅用45秒便給出了正確答案，效率之高讓人瞠目。然而，AI的速度與真實感，亦為假訊息帶來更多機會。預估到2030年，全球暢銷書或許已由AI寫作完成發表。一項針對2778位全球AI專家的調查，通用人工智慧（AGI，Artificial General Intelligence），也就是具備人類級智慧、能跨領域解決問題的AI系統，最早可能在21世紀末出現。金志丞認為「內容提供者首當其衝，會被影響！『真』何謂真？『假』也不知何謂假？」Google「AI教父」辛頓（Geoffrey Hinton）2023年宣布離開谷歌（Google）人工智慧（AI）研究部門，擔心AI變得太聰明，無法被控制。Gartner今年研究指出，2028年企業們對於判別假信息的發展將花費超過五千億美金，超過資安與行銷預算的一半。
假訊息戰爭重災區「台灣」 我們的挑戰與機會
台灣不幸成為資訊戰的「最前線」，正處於這場信息戰的風暴中心；根據哥德堡大學的研究，台灣已連續11年成為境外假訊息攻擊的首要目標。金志丞分析，AI生成假訊息的效率驚人，傳統的人工查核方式已遠遠無法跟上，這使得台灣在國際間成為最需要提升媒體識讀的地區之一。
＃用技術對抗技術！黑盒vs.白盒之戰
網路溫度計DailyView
要對抗假訊息，AI本身也成為我們的盟友。金志丞介紹了兩種對抗策略：
黑盒方法：依據語言模式與邏輯，分析文章可能的AI特徵，也就是檢測可疑內容。
白盒技術：在生成過程中嵌入「浮水印」，讓AI內容自帶「身份證」。OpenAI的研究顯示，白盒技術的準確率可達99.9%，但因擔憂破解風險，尚未全面推出。
＃圖譜揭密：假訊息如何「悄悄話式」擴散
金志丞舉例「從社群帳號的一些互動，找出可能假訊息的脈絡」，現在可以加入AI技術，訓練機器人從社群帳號的頭貼或貼文，像是人臉真實辨識，將特徵做成紀錄，萃取之後反覆訓練，加註領域專家標記，完成一整套的邏輯傳播訓練，每個帳號就有可能判斷真假。金志丞再以圖論技術（Graph Theory）分析假訊息的傳播模式，以社群為例，真實訊息往往透過廣泛而快速的擴散到達大眾，而假訊息則偏向於小圈子內「悄悄傳播」，形成類似「資訊死胡同」的現象。這些洞察不僅揭示了假訊息的傳播策略，也為未來的偵測系統提供了新線索
全民識讀力大升級！共創真實透明的未來
網路溫度計DailyView
全球各個國家都有事實查核資料庫，像是台灣有全民查假會社，金志丞認為未來應該要「結合真實事實查核資料庫，再結合AI自然語言處理技術，自動化比對流程，它可以加速人為與AI判別，打造更健康的資訊環境！」
21世紀基金會副董事長高思博、副執行長周韻采，《全民查假會社》召集人谷玲玲，以及中華傳播管理學會常任理事賴祥蔚的指導下，本次論壇深入探討了假訊息對社會的深遠影響。《全民查假會社》強調，假訊息不僅僅是技術層面的挑戰，其數量與複雜性日益增長，正逐步削弱大眾對資訊的信任，甚至威脅國際政治穩定。研究指出，假訊息的傳播速度快於真實資訊，且更容易引發情緒共鳴，留下深刻印象。面對這樣的挑戰，各界的共同努力勢在必行，運用生成式AI等技術，結合事實查核與媒體識讀教育，才能減少假訊息的破壞力，為社會打造一個真實透明的資訊生態。
留言 0