助金融業安全導入代理AI 金管會發布諮詢文件

金管會今天(13日)正式發布「金融業運用代理AI安全諮詢文件」，針對金融業導入代理 AI(Agentic AI)的安全治理、風險分級及安全控管等關鍵面向展開為期30天的公開徵詢，期盼凝聚各界共識，協助金融業在兼顧創新與安全的前提下，穩健推動代理AI應用。

金管會表示，近年人工智慧(AI)技術快速發展，代理AI相較於過去以生成回覆為主的聊天式AI，具備了自主規劃步驟、呼叫工具以及跨系統存取資料以推進任務的能力。金融業如果能妥善運用，將可大幅提升營運效率並推動服務創新；但若缺乏適當的管理機制，恐將導致目標偏離原始目的、工具誤用、越權、敏感資料外洩，甚至引發錯誤的連鎖擴大效應。

為協助金融業安全導入此項新興技術，金管會參考國際間安全框架，於風險導向、比例原則及技術中立立場，從文件中提出3大面向的諮詢重點。包括安全治理面，強調應以「應用場景」為管理單位，釐清業務目的、責任分工、可存取資料與工具、可執行動作、異常處置與停用機制，並依風險高低配置覆核與監控。

風險分級面聚焦提出以「資料敏感度」、「動作影響」及「能力邊界／可擴散性」等三軸進行風險分級，採取「就高不就低」原則，並將分級結果納入生命週期管理，作為後續監督與查核的共同語言。

在安全控管面上，將代理AI視為具行動能力之「非人類身分與工作負載」，針對身分、設備、網路、資料、行為控制等面向提出基本與進階的安全要求。

金管會強調，本文件旨在提醒金融業重視代理AI的安全議題，並作為共同討論的基礎，並非要取代現行法令、監理規範或金融業既有的內部控制要求。考量代理 AI 技術、應用型態及治理模式仍處於快速發展階段，適切的治理與控制作法仍須透過實務經驗持續檢視。