加拿大示警銀行業AI潛在網路風險 點名Anthropic Claude Mythos
商傳媒|何映辰/台北報導
加拿大聯邦金融機構監管辦公室(OSFI)近期向該國主要金融機構發出警告,指出Anthropic公司開發的先進人工智慧(AI)模型 Claude Mythos 可能大幅加劇網路威脅,縮短金融機構應對風險的時間。
根據《Reuters》報導,OSFI 在四月透過電子郵件通知金融業的科技長、資訊安全長及風險長,明確指出 Claude Mythos 等先進 AI 模型能「顯著壓縮有效風險緩解的時間框架」。網路安全專家形容 Mythos 在發現並利用網路安全漏洞方面能力極強,對銀行業現有的傳統技術系統構成重大挑戰。
UK AI Safety Institute 進行的安全評估揭露,Claude Mythos 甚至能自動連結多個複雜步驟,執行完整的網路接管。這意味著,一旦該模型落入惡意行為者手中,將成為一種效率極高的駭客工具,使其能瞬間大規模地發現並武器化系統缺陷,遠超過去網路安全團隊數週的修補時間。
為因應此威脅,OSFI 強調,雖然他們對新興技術秉持「技術中立、風險導向」的立場,但關注點在於聯邦監管的金融機構如何治理及管理 AI 使用所帶來的風險。該辦公室已發布公開公告,概述金融機構可採行的健全措施,以提升風險識別、緩解和應對的速度及效率。
早在四月初,加拿大銀行高管已與監管機構會面,討論 Mythos 帶來的風險。此前,美國財政部長史考特·貝森特(Scott Bessent)與時任聯準會(Federal Reserve)主席鮑爾(Jerome Powell)也曾與銀行執行長召開類似的緊急會議。目前,歐元區(euro zone)銀行仍被排除在 Mythos 的存取權限之外。
儘管加拿大通訊安全機構(CSE)已透過 Anthropic 的「Project Glasswing」專案,取得了對 Claude Mythos 有限的防禦性存取權,但監管機構仍擔憂金融系統更新防禦措施的速度,不足以應對一個已掌握數千個主要作業系統和瀏覽器關鍵漏洞的 AI 模型。
加拿大皇家銀行(Royal Bank of Canada)技術長 Bruce Ross 於六月受訪時表示,銀行業正在建立自己的 AI 防禦機制,並將持續強化。Canadian Bankers Association 也指出,各銀行已投入巨資保護金融系統,並遵守 OSFI 在網路風險管理和事件報告方面的要求。
全球監管機構目前正密切評估 Anthropic 這款前沿 AI 模型 Mythos 所帶來的網路安全風險。