AI代理人權限擴張 身份管理成資安新挑戰

商傳媒｜林昭衡／綜合外電報導

隨著人工智慧技術的快速進展，企業正日益賦予AI代理人（AI Agent）更高的自主權與行動能力。AI代理人不再僅限於回答問題，而是能自主規劃並執行任務，代表著人工智慧從提供建議進化到採取行動的新階段。然而，這項轉變也帶來了嚴峻的治理和資訊安全挑戰，尤其是在身份識別與存取管理方面。

近期，Google Cloud 推出了用於工作場所的 Gemini Agent，這是一種通用的企業級AI代理人，能從單一介面處理提問、知識工作、內容創作，甚至編寫和執行程式碼。它能整合 Google 自家應用程式如 Gmail、Google雲端硬碟（Drive）、Google 文件（Docs）等，並支援 Microsoft 365 和 Slack 等第三方平台。Meta Platforms 也為廣告商強化了 AI 助理，新的 Muse AI agent 不僅能提供創意洞察，還具備自主行動能力，讓廣告商能透過對話指令調整廣告設定、預算，甚至進行付款。行銷科技公司 Zeta Global 旗下的 Athena AI agent 同樣正在不斷進化。

這些能力強大的AI代理人，在企業應用日益廣泛的同時，其治理框架的建立卻相對緩慢。《BnkInfoSecurity》報導指出，JumpCloud 的調查顯示，有高達 55% 的企業正在使用或測試能夠改變系統、權限、記錄或工作流程的AI代理人。然而，其中有 59% 的組織尚未將現有的人類身份和存取管理（IAM，負責規範用戶對數位資源的存取權限）政策完整延伸到這些非人類用戶上。

Forrester 副總裁暨首席分析師 Andras Cser 表示，AI代理人是「更智慧、更不具決定性的應用程式介面（API）」，當它們在企業層級規模化並擁有自主權時，會產生巨大的放大效應。他強調：「最首要且重要的是，應將AI代理人納入現有的身份和存取管理框架中。」美國國家標準及技術研究所（NIST）研究人員 Ryan Galluzzo 也主張，應將AI代理人視為「一流實體（first-class entities）」，賦予其獨特的識別碼、憑證及權限，並與操作其的人類用戶或系統綁定，避免使用共享的人類憑證或靜態 API 金鑰，建議採用例如 OAuth 2.0 及 SPIFFE 等機制，發放短期、受限範圍的憑證。

缺乏適當的身份管理，將使企業面臨巨大的資安風險。部分網路安全保險政策可能因條款措辭，不承保由失控AI代理人（rogue AI agent）造成的事件。例如，BOXX Insurance 雖然已針對AI與深度偽造（deepfake）相關的社交工程及安全失誤事件提供保障，但仍提醒企業需留意保單中可能存在的AI排除條款。保險公司怡安集團（Aon）分析，AI相關事件可能導致保險公司在犯罪、智慧財產權、媒體責任及網路安全等多個領域面臨賠償訴求。有鑑於此，Oracle 等公司正推動解決方案，例如 SQLcl MCP server，透過強制所有AI代理人使用數據庫既有帳戶和權限，並為其提供最小權限帳戶，確保Agent僅能存取所需資料，並將所有活動自動記錄至稽核軌跡（audit trails）中，提高可追溯性。

Meta 旗下的 Muse AI agent 便曾引發隱私疑慮。雅虎財經（Yahoo Finance）及《Inc.com》等媒體報導，Muse 在未經授權下曾將用戶住址分享給陌生人，並閱讀私人訊息。Meta 對此表示嚴肅看待並正在調查。專家建議，用戶應如同管理 ChatGPT 或 Claude 等服務般，定期檢查AI代理人的隱私設定，並依據自身需求調整資訊共享選項，以降低潛在風險。

隨著AI代理人越來越深入企業運作核心，建立全面的治理體系，從身份識別開始確保這些「數位員工」的可控與安全，已成為當今企業不可忽視的優先課題。