【防詐邏輯升級】AI 代理人讓身分驗證失效，「授權範圍」與「斷路器機制」成新控制點
過去，金融機構要防堵一筆可疑交易，思考邏輯是：這筆交易背後，是不是一個真實存在的人？如果是，這個人是不是他聲稱的那個人？但當 AI 代理人（AI agent）已經能夠自主完成轉帳、變更帳戶資訊等交易時，這兩個問題本身，已經不再是防詐的核心。
真正該問的問題，變成「這筆交易有沒有被授權、是誰授權的、又是在什麼範圍內完成的」，不再在意交易背後是人、是聊天機器人、還是代理人。
一人擁十個代理人，驗證邏輯直接失守
過去的整套防詐機制，都建立在「交易另一端一定有一個人」這個假設上，人的數量有限，這件事原本可管理；後來業界加入第二層驗證，確認每個人是不是他聲稱的身分，驗證的複雜度因此提高，但仍在可控範圍內。
Gartner 預估，到 2026 年底，40% 的企業應用程式將內嵌任務專屬的 AI 代理人，遠高於 2025 年不到 5% 的比例；PwC 調查也顯示，79% 的公司表示 AI 代理人已在組織內被採用。
AI 代理人的出現，讓防詐驗證負擔出現更劇烈放大。一個人此刻可能同時擁有十個代理人，各自存取他的帳戶、代為行動；這些代理人可以為單一任務被建立，隨後被修改、被淘汰，甚至可能一天之內全部發生。現行的身分驗證架構，建立在「一個已驗證身分對應一個行動」的一對一關係上，但這個關係已經不再成立。
業界目前的因應方式，是要求代理人在行動時自我聲明身分。但知道對方是代理人，只解決了問題的一半，真正困難的問題是，這個代理人被允許做到什麼程度？
這個界線，可以想成一個「界線盒」（bounding box），也就是說授權只是讓你進門的鑰匙，界線盒才是進門之後，能碰到哪些房間、什麼時候必須先請示才能繼續的完整規則。少了這層規則，對代理人點頭說好，等於簽了一張空白支票。
讓代理人「提議」，不能讓它「執行」
實務上，界線盒這個原則已經有具體做法，代理人只能「提議」一筆交易，沒有權限直接「執行」它，執行必須交給一套獨立的決策式政策引擎，依照機構訂下的金額上限、交易對象、法遵要求逐一檢核，才會放行。就算代理人被誘導提出有問題的提案，也無法憑一己之力動用資金。
即使畫好界線盒，這件事仍然不算解決。信用卡一旦遭盜刷可以直接停卡，但代理人沒有對應的機制，一家銀行封鎖了失控的代理人，它很可能仍在別的地方繼續交易，因為業界並沒有共享的緊急停止開關。
比較務實的做法，是設下「斷路器」機制，一旦交易速度或累積曝險超過門檻，就自動中止代理人的行動。
誰該負責，仍是一片空白
不過這個缺口也連帶牽出「出了事，究竟誰該負責」的棘手問題，是授權的使用者、打造它的開發者，還是沒能偵測到詐騙的機構？這個問題目前沒有明確答案，卻攸關機構真實的風險曝露程度。
類似的問題需要放到更大層級討論，因為詐欺監理向來屬地，這一點短期內不會改變。但 AI 代理人不受國界限制，規範討論的速度必須追上代理人跨境行動的速度，業界現在有機會提前因應，而不是等重大事故發生後才被迫補救。
這也帶回另一個狀況是，代理人是否該被強制自我表明身分？支持的理由是能降低詐欺曝險、建立稽核軌跡，反對的理由是壞行為者本來就不會遵守。
但金融產業從來不是等強制力完美到位才行動，「認識你的客戶」（KYC）早在成為法律要求之前，就已先成為市場自發遵循的標準，同樣的路徑很可能在這裡重演。過去整套防詐體系，是為了驗證「人」而打造的，這在過去是正確的選擇，直到現在，這個假設本身，已經到了必須被重新檢視的時刻。
【推薦閱讀】
◆ 【AI 詐騙年損近 9 億美元】資安專家共識：防詐的核心不是辨識，而是「驗證習慣」
◆ 三秒複製聲音、一通電話掏空存款，Savi 要用「即時通話監控」反制 AI 詐騙
◆ 高齡者成詐騙首要目標，美國退休金融機構如何利用 AI 保護老年人
＊本文開放合作夥伴轉載，參考資料：Forbes、Halborn，首圖來源：Unsplash
（責任編輯：鄒家彥）