AI 代理程式成資安首要風險 企業導入面臨治理挑戰

商傳媒｜吳承岳／台北報導

企業在擁抱人工智慧（AI）帶來的生產力效益時，也面臨資安領域的巨大挑戰。根據弗雷斯特研究公司（Forrester）的最新報告，AI 代理程式（AI agents，指能自主執行任務的 AI 系統）已成為 2026 年企業資安的首要威脅。這些系統在企業內部以「影子操作者」的身份活動，卻缺乏有效的治理與監控機制。同時，雖然資安團隊正加速採用 AI 工具來防禦攻擊，但普遍仍缺乏成熟的實作與治理框架，也催生了像 Neo 這樣的新創公司，獲得高額融資以提供 AI 代理程式的安全解決方案。

弗雷斯特研究公司分析師 Jitin Shabadu 指出，2026 年五大新興資安威脅中，有三個與企業內部未經治理的個人 AI 代理程式有關。他表示，這些代理程式可以高速存取企業數據，卻不在現有監管框架內。傳統為人類使用者設計的身份與存取管理（IAM）系統，無法有效追蹤 AI 代理程式的行為，例如它們不會觸發多因素驗證（MFA），也無法產生可供資安資訊與事件管理（SIEM）系統解析的會話日誌。Shabadu 提到：「如果你們的服務台可以重設憑證，瀏覽器擴充功能中的 AI 代理程式可能已經在執行資安團隊永遠不會在警報佇列中看見的任務。」此外，國家級行為者也正利用 AI 自動化攻擊，例如與中國有關的行為者被發現使用 Claude 進行網路間諜活動，而與伊朗有關的組織則鎖定美國的關鍵基礎設施可程式邏輯控制器（PLC）。

根據一項針對 536 名資安與 IT 專業人員的全球調查顯示，儘管資安團隊正加速採用 AI 工具來增強其「紅隊演練」（red teams，負責模擬攻擊以找出系統弱點）能力，但僅有 27% 的受訪者認為其 AI 實作已臻成熟。超過四分之三（78%）的受訪者在過去一年曾遭遇或懷疑有 AI 輔助的攻擊，且高達 95% 認為威脅行為者正在使用 AI。這凸顯了企業在 AI 治理、威脅偵測與員工培訓方面存在的巨大差距。報告指出，越來越多先進的 AI 模型，使得網路犯罪分子能在數小時內發現並利用新的漏洞。

面對這些新興挑戰，資安新創公司 Neo 近期已募資達 1 億美元。Neo 的目標是開發軟體，協助資安團隊識別與管理企業內部的 AI 代理程式、AI 應用程式及具備自主功能的傳統程式。該公司共同創辦人暨執行長尼克·華納（Nick Warner）表示，傳統資安系統是為可預測的軟體行為而設計，而 AI 代理程式的快速普及正改變這一模式。高德納諮詢公司（Gartner）預測，到 2026 年底，企業應用程式中具備代理程式功能的比例可能從 2025 年的 5% 大幅增長至 40%。此外，網路資安公司 Rubrik 的 AI 總經理 Dev Rishi 也強調，AI 系統的非確定性行為使其難以透過靜態規則進行防護，反而需要「以 AI 保護 AI」。他舉例 Rubrik 的 Semantic AI Governance Engine (SAGE) 就是利用 AI 規範其他 AI 代理程式行為的專門治理層。

AI 創新者與資安專業人員之間存在著根本性的衝突。AI 開發者為提高生產力，希望 AI 代理程式能廣泛存取企業數據與應用程式（例如 Salesforce、GitHub 等），以實現更大自動化和商業價值；但資安團隊則擔憂隨之而來的資料外洩或 AI 誤判等風險。Rubrik 的 Dev Rishi 指出，許多企業甚至因此預防性地阻擋 AI 創新。他強調，這兩方雖然目標一致，但需要建立一個統一的 AI 治理框架，讓資安團隊能定義並執行政策，而 AI 開發者則能在此框架內創新，確保 AI 代理程式在可接受的範圍內運作。這種合作模式可彌補資安團隊過去因缺乏有效執行方法，導致必須設定過於嚴苛限制的問題。