AI 代理讓資安挑戰升溫，Palo Alto：企業須先掌握可視性與自動化治理
隨著生成式 AI 與 AI 代理工具快速進入企業日常作業，資安議題也從傳統帳號、密碼與端點防護，進一步延伸至機器身分、AI 代理權限與自動化治理。
Palo Alto Networks 台灣區總經理尤惠生表示，台灣企業導入 AI 的速度正在加快，其中科技業腳步最快，金融業因虛擬資產代管、法規與數位服務需求，也帶動 IT 與資安需求升溫；製造業、船廠等傳統產業也開始使用 AI 工具，只是部分企業若採用開源工具或缺乏控管，反而可能放大被攻擊風險。
尤惠生指出，AI 對企業工作流程的改變已相當明顯，科技業幾乎已大量使用 AI 協助寫程式，但也因此衍生新的安全問題。他舉例，曾有企業使用 AI 代理進行開發工作，但因代理程式在半夜執行任務時判斷錯誤，甚至刪除部分研發資料，直到隔天早上才被發現。這類案例反映，AI 代理具備自主執行能力後，企業若沒有清楚知道代理程式可以存取哪些資料、由誰授權、發生異常時能否即時停用，就可能讓原本提升效率的工具成為風險來源。
在 AI 協助開發逐漸普及後，軟體安全也面臨新挑戰。尤惠生表示，過去寫程式需要具備一定訓練與基礎知識，但現在只要會下指令，就能讓 AI 產生程式碼，這讓開發門檻大幅降低，也讓品質不一、缺乏檢查的程式碼變多。他形容，這就像當年部落格與自媒體興起後，人人都能發表內容，也讓假訊息更容易出現；如今 AI 讓人人都能產出程式碼，也可能讓漏洞與錯誤更快速擴散。
據 Palo Alto Networks 調查，企業內部機器身分與人類身分的比例已達 109：1，高於去年的 82：1，且 77％企業預期此比例仍會攀升。同時，已有 99％企業使用 AI 代理，其中 40％ AI 代理已具備存取企業內部資料的權限。
不過，數企業對已部署的機器身分仍缺乏一致管控，僅 37％企業有能力撤銷 AI 代理憑據，只有 30％企業能針對 AI 代理行為建立不可竄改稽核日誌。
尤惠生認為，企業面對 AI 資安變化，核心仍是「看得到才管得到」。他強調，第一步是建立可視性，掌握企業內部有哪些 AI 工具、機器身分、API 金鑰與憑證正在運作；第二步則是盡量透過平台與自動化方式管理，並保留完整關聯軌跡，確保日後能追查是哪個代理、在什麼時間、存取了什麼資料。
尤惠生指出，企業不應只期待 AI 自動解決所有資安問題，因為 AI 工具「出錯是必然」，重點在於企業能否快速修正；若模型不夠成熟，甚至可能「越修越糟」。在這樣的背景下，資安工具本身也必須跟上 AI 帶來的變化。Palo Alto Networks 目前也將多個大型 AI 模型整合至自有工具，用於協助大型客戶尋找漏洞、進行修補後複查，並進一步判斷後續需要補強哪些工具或流程。
另一方面，企業內部使用 AI 的場景也愈來愈廣。尤惠生提到，AI 已可協助產出簡報、會議摘要、業務訓練情境，甚至協助回覆動輒數十頁到上百頁的 RFP 標案文件，確實能提高工作效率。不過他也提醒，AI 仍會出現一定程度的錯誤，企業內部文件若完全仰賴 AI 產出卻未人工檢查，仍可能導致內容錯誤或判斷失準。
更進一步來看，當 AI 不只是協助產出內容，而是開始被賦予存取資料、呼叫工具、執行流程等能力後，資安風險也會從「內容是否正確」擴大到「權限是否受控」。企業導入 AI 代理後，必須清楚掌握這些代理程式能存取哪些系統與資料、由誰負責管理，以及在發生異常時能否即時撤銷權限。
Palo Alto Networks 建議，企業應從機器身分安全成熟度著手，先盤點清楚所有秘密資訊、憑據金庫、工作負載與 AI 代理，再逐步推動集中管理、憑據輪替、身分式驗證與大規模治理。Palo Alto Networks 並引用 Unit 42 全球事件回應報告指出，AI 輔助攻擊最快可在 25 分鐘內從初始入侵推進至資料竊取，若企業偵測與撤銷權限的速度跟不上攻擊者行動，就難以有效保障 AI 代理安全。
尤惠生表示，AI 為企業帶來高效率，但「用得越多，危險也越高」。企業接下來的重點，不只是導入更多 AI 工具，而是要在可視性、自動化、稽核軌跡與身分治理上建立基礎，才能在享受 AI 帶來效率的同時，避免讓自主運作的機器與代理程式成為新的資安破口。
（首圖來源：科技新報）