金融業「養龍蝦」 金管會發布AI代理人指引
[NOWNEWS今日新聞] 近年人工智慧(AI)技術快速發展，其中代理AI相較於以生成回覆為主的聊天式AI，具備規劃步驟、呼叫工具、跨系統存取資料以推進任務的能力，金管會今（13）日發布「金融業運用代理AI安全諮詢文件」，強調金融業若能妥善運用代理AI，將有助於提升營運效率與推動服務創新，但反之，若缺乏適當管理，可能導致目標偏離原始目的、工具誤用或越權、敏感資料外洩，或因多步流程造成錯誤連鎖擴大等效應。
金管會說明，為協助金融業安全導入代理AI，此文件經參考國際間安全框架，並本於風險導向、比例原則及技術中立立場，提出安全治理、風險分級、安全控管等3大面向諮詢重點：
一、安全治理面
強調金融業導入代理AI時，宜以「應用場景」為管理單位，先釐清其業務目的、責任分工、可取用資料、可呼叫工具、可執行動作、輸出或寫入目的地，及異常時的處置、停用與追溯方式，並依風險高低配置覆核、監控、檢查、降級、停用與復原等機制；本面向諮詢問題包含所揭治理原則是否完整、是否有可避免過度負擔或強化責任歸屬之作法，或有其他精進建議。
二、風險分級面
提出以資料敏感度、動作影響及能力邊界／可擴散性等3軸進行應用場景的風險分級，採就高不就低原則，並應將分級結果納入生命週期管理，作為評估核可門檻、試行或上線基準、控制深度、後續監督與查核之共同語言且持續重評；本面向諮詢問題包含所揭3軸分級方法是否妥適、是否有其他更具可操作性的分級管理方法，或有其他精進建議。
三、安全控管面
將代理AI視為具行動能力的非人類身分與工作負載，參照零信任的不預設信任、持續驗證、最小權限及可追溯原則，依身分、設備／執行環境、網路、應用與工作負載、資料、行為控制及可視性與分析等面向，提出基本與進階安全要求及控制目標；本面向諮詢問題包含所揭安全設計是否足以控管代理AI特有風險、是否可銜接既有資安機制或有可達同等目的的替代作法，或有其他精進建議。
金管會表示，此文件諮詢為期30日，詳細內容已公布在「公共政策網路參與平台」的「眾開講」專區，此文件並非要取代現行法令、監理規範、委外管理及金融業既有內部控制要求。考量代理AI技術、應用型態及治理模式仍快速發展，相關解決方案尚在演進，金融業導入場景亦具多樣性，適切的治理與控制作法仍須透過實務經驗持續檢視，因此先以諮詢文件方式發布，提醒金融業重視代理AI安全議題，並作為共同討論的基礎。