選戰裡憑藉AI產生垃圾訊息、詐騙時利用AI生成名人聲音⋯⋯，日常生活裡人工智慧的負面用途層出不窮，企業端遇上的挑戰也是如此。網路攻擊規模擴大，手段也跟著進化，資安戰場已從小規模攻防，上升到國家級的網路戰爭，再加上地緣政治和AI各自補上的柴火，2025年的企業資安，應該怎麼做？
發掘人工智慧的產業應用，就像打開潘朵拉的盒子，它固然替各行各業帶來前所未有的創新，但也開啟資安領域的全新戰場。
去年（2023）年末許多分析師與報告曾示警，生成式AI不只幫助一般工作者，駭客也能從中得益，藉此增加為惡的生產效率。隨著生成式AI從概念驗證進展到落地部署階段，拓展出AI Agent（AI代理）、提倡模型選擇（choices）等論述，攻擊者能夠鎖定的標的與攻擊手段，也相應的變得更加多元。
生成式AI往哪成長、駭客就跟著到哪
「企業界導入AI的比例愈來愈高，AI Agent的使用也會越來越頻繁，相對的駭客一定會針對AI Agent當攻擊目標，」趨勢科技資深技術顧問簡勝財以今年下半年的熱門話題AI Agent為例，簡潔地解釋駭客與時俱進的手段。
先前人們主要關注ChatGPT、Claude等對話式AI服務，或者串接API的產品，帶有惡意者不管是將攻擊挹注於提示詞中，還是想盡辦法消耗服務背後的運算資源，都是針對提示詞下苦功。隨著平台替服務加入多模態能力，在圖像內加入惡意提示也是時常見到的新手段。
現在市場熱點放在AI Agent，設法在Agent執行任務過程中加入有毒內容、從中攔截，便是接下來需要注意的方向。
簡勝財提醒，AI生成的幻覺（hallucination）也是可能的攻擊標的，例如對話式AI服務有時會在撰寫程式時，援引實際上並不存在的套件，發動攻擊者發現後，就有可能產製擁有相同名稱的套件，若ChatGPT等服務調用後，便能將其推入系統中，達到駭客目的。
簡勝財指出，生成式AI讓網路釣魚變得客製化，用於攻擊活動的假訊息也變得更為逼真。曾子軒攝
Fortinet北亞區資深技術總監劉乙另外提到，現在人工智慧的自適應性（self-adaptive）很強大，有辦法自動化，還能夠適應環境、改變自己，藉此躲避偵查。
「不管是釣魚、深偽還有密碼等，它（AI）開始有快速變化，最主要就是自動生成。」劉乙指出，以Fortinet這樣的資安防護廠商來說，利用機器學習、深度學習等技術的重點在於防禦與辨別，試圖分類上門者是否為資安威脅，進攻方則盡全力避開偵查。
更讓人擔憂的是，進攻者即便被防守者逮到，慘遭滑鐵盧也不是大問題。「（駭客）就再來自動生成一次就好，直到生成到發現大部分都被躲避了。」
川普上任地緣政治風險更大，國家級駭客加強攻擊
如果說AI是資安攻防的重要工具，那麼地緣政治就是資安攻防的重要背景與催化劑。
TeamT5首席分析師李庭閣分享，已經在今年台灣和美國的總統大選，分別看到由AI生成的虛假文字、圖片與影像，再加上川普回任總統，世界局勢的混亂、地緣政治的對立，預期會帶來更多資安挑戰。
李庭閣強調，AI不只是攻擊者專屬，房戶端也能利用影像辨識和自然語言處理技術辨識惡意行為。曾子軒攝
他觀察，有許多攻擊是由國家發起，且鎖定的目標是一般企業，「現在最厲害的網路駭客其實是政府支持的駭客，因為他們才真正有資源。」以市場上流傳的攻擊武器來說，部分要價高達數百萬美元，需要夠大的資本與潛在利益才能負擔。
這背後反映出的現實是，地緣政治的衝突已經從傳統的軍事領域延伸至網路空間，而國家級駭客的活動也變得愈來愈頻繁，且具有針對性。
呼應李庭閣說法，簡勝財補充，今年就有看到中國駭客攻擊美國政府單位，其他還有針對關鍵基礎設施、民間企業的攻擊。他表示過往由政府支持的攻擊並不是以獲利為目標，但以北韓駭客組織Lazarus來說，就是做到企業化、專業化，不只是破壞、癱瘓，更透過勒索賺得盆滿缽滿。
「網路有一個比較特別的點，軍隊其實沒辦法保護我們的企業的。」李庭閣表示，在這樣的背景下，地緣政治風險將會帶動資安事件發生的頻率與強度，提升應對攻擊駭客攻擊的能力變更為重要。
伴隨著AI和地緣政治的影響，劉乙指出，網路犯罪服務（Cybercrime as a Service, CaaS）已經成形，駭客做到專業分工，找到漏洞後發起自動化攻擊，把進攻流程拆解成多個模組，再將各個模組以服務的形式進行販售，形成了一個「駭客軍火商」市場。
劉乙認為，AI進展對資安攻防的影響不只是技術演進，根本上來說更帶動駭客行為模式的轉變。曾子軒攝
其他如勒索軟體即服務（Ransomware-as-a-Service）、網路釣魚即服務（Phishing-as-a-Service）等，都幫助駭客快速發動攻擊，在在降低了攻擊門檻。
有AI助陣、國家級駭客朝向經濟利益的轉變，再加上駭客市場益發成熟，使得企業更容易成為待宰羔羊。面臨資安防禦新挑戰，無論規模，都必須重新審視自身的資安防護措施，才能在這個日益複雜的網路犯罪環境中生存下去。
延伸閱讀：
留言 0