AI助長造假太厲害，社群媒體到年底可能逾八成訊息「攏是假」！我們該如何因應？
劉煥彥
圖片 Shutterstock、以色列Cyber Week官網、劉煥彥攝影 提供
以色列向來被視為資安大國，但連身在全球資訊科技最尖端的以色列都發現，AI助長訊息及影片造假實在太厲害，估計到今年底之前，所有社群媒體上的訊息高達8~9成都是假的，或由各類科技生成的。 不僅如此，2025年夏天以色列在與伊朗的12天戰爭中發現，伊朗光在這12天就對以國發動幾乎1200次社交工程行動（網路戰），不僅侵入公路監視鏡頭以掌握以國交通變化、駭入停車場監控鏡頭好掌握以方重要人員的動態，甚至試圖假造以色列本土防衛指揮部的訊息，誤導民眾不在飛彈來襲時進入避難所，藉此影響以色列的民心士氣。 以色列國家資安局（INCD）警告，全球第一場不費一槍一彈、純粹由網路技術進行的戰爭（cyber-based war）遲早會來臨，只有及早準備才能有效降低衝擊。
前以色列總理班奈特：在社群媒體看到的訊息，有可能九成是假的
2025年12月初在以色列特拉維夫大學舉行的年度資安周（Cyber Week），是以色列最重要的資安產業展覽及論壇。具備許多以色列成分及技術的美國資安業者Brinker，是參展業者之一。
2023年才成立的Brinker，自許為一家「敘事情報公司」（narrative intelligence company），是個運用AI技術消除假消息威脅的平台，可以自動化蒐集在公開領域的線上消息，比對及抓出可能的虛偽訊息，保護企業品牌、公眾人物及公民營機構不受數位威脅。
Brinker共同創辦人及執行長Daniel Ravner在Cyber Week會場接受《今周刊》訪問時指出，綜合許多市場調查顯示，到了2026年底，80~90%的社群媒體內容都會是假的，因為從文字、照片到影片，都有可能是AI生成的。
▲前以色列總理班奈特於2025年Cyber Week演講。（圖片來源：Cyber Week官網）
有科技業背景的前以色列總理班奈特（Naftali Bennett）也表示，隨著AI技術日新月異，在社群媒體看到的訊息有可能九成是假的，「但看起來很自然，因為有看似與人類一樣的機構名稱或人名，背後其實是AI，它們會建立起身分、設定人設，並且花時間添加素材，看起來就像真的」。
伊朗配合飛彈攻擊，以假訊息攻勢及駭客滲透基礎設施，網攻以色列
在資安周發表專題演講的以色列國家資安局局長Yossi Karadi，則是提出了去年與伊朗12天戰爭中，伊朗配合飛彈攻擊、同步對以色列發動的網路戰手法，包括假訊息攻勢及駭客滲透社會基礎設施。
▲以色列國家資安局局長Yossi Karadi於2025年Cyber Week演講。（圖片來源：Cyber Week官網）
第一，在為期12天的以色列「雄獅崛起」行動期間，伊朗發動了幾乎1200次社交工程攻勢，每一次都接觸到成千上萬的以色列國民，意味在12天期間每一位以色列人就被網路攻擊了好幾次。
第二，以色列頗負盛名的魏茲曼科學院（Weizmann Institute of Science，類似台灣的中央研究院），有多棟大樓遭伊朗飛彈擊中，而伊朗駭客在飛彈攻擊前先入侵的目標大樓附近的道路監視器，以掌握攻擊成效，甚至還發電郵恐嚇科學院的教職及研究人員。
第三，伊朗在有一次飛彈攻擊時，同步發出大規模的手機簡訊，偽裝成以色列軍方本土防衛指揮部（home front command）的訊息，要大家不用跑到避難室躲飛彈，或是發出謊稱油料存量與糧食不足的通知，就是要打擊以色列的民心士氣。
第四，伊朗還入侵了以色列的部分停車場監視器及道路監視器，以掌握以色列要員的行蹤，好制定攻擊這些重要人物的計畫。
第四代網路作戰「最令我擔心」
Yossi Karadi認為，現在的網路作戰（cyber warfare）已經從第一代進化至第四代，也就是他稱之為不費一槍一彈、純粹由網路技術進行的戰爭（cyber-based war，CBW），而CBW也是他最擔心的。
「想像一下，有個國家正遭受各種數位手法圍攻，不但發電廠停擺造成全國停電、通訊網路全部掛掉、運輸癱瘓，連供水也有問題。」
「在這樣的世界中，不存在有實體的前線，因為老舊的數位基礎建設就是前線。或許有人覺得這聽起來太像科幻小說，但大家都還記得，當我們未能對外來威脅有正確的想像，未能對會發生的戰爭型態做好準備，最後發生了什麼事（編按：2023年10月的哈瑪斯大規模恐攻，造成以色列1200多人喪生，逾3000人受傷）。」
「如果我們不能想像中第一場CBW會是什麼模樣，我們就無法好好因應。」
▲以色列國家資安局局長Yossi Karadi於2025年Cyber Week演講。（圖片來源：劉煥彥攝影）
資安業者Brinker：重點並非抓出假消息之技術，更要看前後脈絡、背後動機
針對假訊息當道，而且只會愈來愈猖獗的現況，在部分資安業者眼中就是全新的機會。
資安業者Brinker共同創辦人及執行長Daniel Ravner指出，該公司的AI平台不僅抓出假訊息，更重要的是同步掌握這類訊息的周邊狀況（context），研判背後動機，以綜合判斷假訊息是否真的會傷害當事人。
「舉例來說，若有人傳了一張美國時代雜誌的封面圖片，上面有改造過的川普照片，這是假的嗎？當然。但這是惡意的嗎？不是，這只是一張雜誌封面圖片而已。」
「還有一種狀況，例如有人發訊息海嘯要來了，趕快離開屋子，還附上一支影片。這支影片是貨真價實的，但卻是三年前的海嘯影片。就這個案例來說，影片是真實的，但背後動機100%是有問題的。」
「假設有人傳了一個影像，說是川普下個星期要訪問台灣，我們系統會同步搜尋在網路是否真有這樣的訊息或討論出現，綜合多種工具的判斷，最後給你一個機率評分。」
▲資安業者Brinker共同創辦人暨執行長Daniel Ravner（左）與董事長Benny Schnaider（右）。（圖片來源：劉煥彥攝影）
Daniel Ravner說明，Brinker的AI技術核心，是判斷假訊息的背後動機，研判這是否會傷害到當事人、當事企業或機構，而不是只注重技術面，判斷某個網路消息是否是假訊息。
隨著AI技術日新月異，社群平台上的訊息真偽攻防戰，勢必成為長期的拉鋸戰，也將成為AI時代難以擺脫的現象。
同時，以色列與各方敵人在網路戰及假消息領域的持續攻防，也可能成為各國重要的觀察指標。
本文暫不授權媒體夥伴
延伸閱讀：
別以為中共對台劇本僅軍事選項！華府智庫：經濟戰、網攻與灰色手段恐齊發 建議台灣可從「這三大面向」因應
更多今周刊文章
不是0052、00881，主題型ETF績效誰最猛？這檔殖利率破12％、股價漲贏台積電…達人揭2026布局關鍵
2026 WBC賽程、WBC轉播！經典賽直播哪裡看？台日大戰3/6開打…台灣隊賽程、先發名單、戶外直播資訊