企業導入 Claude Code 挑戰浮現 CIO 需掌握 AI 代理治理要點

商傳媒｜葉安庭／綜合外電報導

隨著人工智慧（AI）工具深入企業運作，資安風險與治理問題日益受到關注。Anthropic 公司開發的 AI 工具 Claude Code，因其強大的程式開發能力，正被企業廣泛應用於程式編寫、重構、問題排除及基礎架構管理等任務。然而，其在員工工作站本地運行的特性，以及對程式碼、憑證和雲端環境的存取權限，對企業的資訊長（CIO）構成了新的治理挑戰。

根據資安公司 CrowdStrike 的內部使用數據，終端 AI 代理程式（一種能自動執行特定任務的 AI 程式）所消耗的 Token（AI 模型處理資訊的基本單位）數量，約是人類使用瀏覽器上 AI 聊天機器人的 700 倍。這意味著 AI 代理程式的活躍度與潛在影響範圍遠超想像。CrowdStrike 的《2026 年威脅情資報告》也指出，由 AI 代理程式觸發的偵測警報，比人類觸發的警報高出 2.5 倍，凸顯了相關安全風險的提升。

Claude Code 內建多項治理功能，包括集中管理設定、工具與指令的權限規則，以及稱為「Hooks」的程式化檢查點。Hooks 可以在程式執行流程中的特定時刻（如會話開始、使用者提交指令、工具使用前後）自動運行，檢查 AI 代理程式的預期動作，並決定允許、阻止、記錄或要求人工批准。企業可以利用 Hooks 來防止 AI 存取生產環境憑證、修改敏感目錄，並記錄其活動供安全團隊審查。

然而，Hooks 的治理能力存在局限。它們僅評估 AI 代理程式「即將採取的動作」，卻無法追蹤這些動作進入作業系統後的「實際後果」。舉例來說，一個經 Hooks 批准的指令所啟動的腳本，可能會在沒有再次經過檢查點的情況下，執行讀取雲端憑證或建立外部連線等行為。此外，Hooks 是基於規則的策略執行點，難以捕捉經過編碼的惡意酬載、由 AI 自行編寫執行的腳本，或是由一系列看似無害的獨立步驟組成的複雜攻擊。AI 代理程式在持續推理過程中，讀取檔案、文件、網頁內容等以決定下一步行動時，也可能產生風險，而 Hooks 無法監控這個推理過程。

安全風險不僅限於直接攻擊，還包括「間接指令注入」（indirect prompt injection），即攻擊者透過外部檔案（如 README 文件或第三方依賴項）來秘密引導 AI 代理程式行為；以及「代理程式行為偏差」（agentic misalignment），指 AI 雖達成目標但卻以不安全的方式執行，例如為了加速任務而將敏感資料上傳至公共服務。

為彌補 Hooks 的不足，企業需要導入「執行時期實際行為監控」（runtime execution visibility）。這項技術能觀察 AI 代理程式在執行時對終端裝置造成的實際活動，包括啟動的程序、存取的檔案、網路連線及接觸的憑證等，並將這些行為與原始指令鏈結，建立完整的因果鏈。這類似於資安領域從傳統防毒軟體轉向「端點偵測與回應」（EDR）的演進。CrowdStrike 的 Falcon® Guardian 產品即整合了 Claude Code 的 Hooks，將 AI 代理程式活動匯入其 Falcon® platform，並結合執行時期行為進行調查與回應。Hooks 與執行時期行為監控兩者相輔相成，而非相互競爭，共同為企業 AI 治理提供全面的安全防護。