【AI 代理資安警訊】54% 企業已發生資安事件，卻對現行防護工具打出高滿意度
隨著 AI 代理逐漸進入企業環境，其資安風險自然也受到高度關注。根據外媒 VentureBeat 近日發表的研究報告，至少已經有超過一半的企業組織，曾發生過因為 AI 代理而引起的資安事件。
然而，即便企業明白 AI 代理的安全風險，但多數組織卻仍然只依賴由 AI 開發商所提供的原生解決方案，甚至經常讓 AI 代理共用憑證、身分，沒有主動做出獨立區隔，同時資安預算的投入也相對不足。
在 VentureBeat 公開的報告中，針對當今企業如何保障 AI 代理的安全性，該調查提出了 8 項主要發現，其範圍涵蓋採用工具、身分識別與隔離、預算投入、自我防禦能力評估等各個面向。
AI 代理已有資安事件，規模越大風險越高
報告中的第一個發現是，AI 代理所涉及或引起的資安事件，已經得到了企業的關注。根據數據，在 VentureBeat 所調查的 107 家，至少擁有 100 名員工以上的公司中，高達 54% 已經發生過涉及 AI 代理的安全事件。
其中，有 18% 的企業指出，該事件確定對企業營運造成影響，其他 36% 的公司則表示，事件於發生損害之前，便被內部及時察覺並成為「驚險意外」。
不僅如此，報告亦顯示 AI 代理資安事件的風險暴露程度，其實會隨公司規模持續增加，然而風險控制程度卻正好相反；已確認跟差點造成資安事件的發生率，從中型企業（即 100 名員工以上，1000 名員工以下）的 49%，上升到大型企業（即 1,000 名員工以上）的 63%。
共享憑證成結構弱點，隔離程度也不足
然而即便 AI 代理所引發的資安事件開始變得顯著，但報告反映出來的第二項發現，卻是指出企業對於 AI 代理的身分管理，仍有高達 69% 的公司，選擇讓它們共享使用憑證，因此造成資安方面的結構性弱點。
調查中僅有約三分之一的企業表示，已經替每個 AI 代理提供專屬、受到控管且存取範圍受限的身分識別憑證，近半數公司則是單純限制 AI 代理的存取權限，但仍會共享身分憑證、共用 API 金鑰，甚至是直接讓 AI 代理調用人類員工或一般帳戶的憑證權限。
在權限管理相對鬆散的情況下，企業對於 AI 代理的安全限制手段，大多採用「強硬限制」與「持續監控」兩種方法，前者佔 49%，後者佔 47%，僅 30% 的組織會將 AI 代理「隔離」於沙盒環境內執行。
解決方案來自巨頭，專業廠商還非主導者
至於面對處理 AI 代理資安風險的解決方案，在 VentureBeat 所調查的企業中，大多數都選擇了來自 AI 模型開發商，或者超大規模雲端服務商所推出的原生工具。
其中，OpenAI Guardrails 佔使用比例 51%，Google Cloud 的解決方案則佔 36%，微軟 Azure 佔 35%，Anthropic 為 29%。
對比專業資安廠商提供的服務，如 Palo Alto Prisma AIRS、CrowdStrike、Cisco AI Defense 甚至是開源方案等，全部合計也僅僅只佔 8%，由此可見在 AI 代理資安防護方面，第三方專業廠商目前顯然還不是市場的主要參與者。
滿意度仍居高不下，跟實際體驗不符
VentureBeat 在報告中的前四項發現，反映出當今企業已經明白 AI 代理資安風險的存在，可是身分管理上卻還有著嚴重滯後；即便如此，多數公司對於 AI 代理資安防護手段的滿意度，卻依然是居高不下。
在最高為 5 分的前提下，受調查企業對當今 AI 代理安全工具的滿意度，來到了驚人的 4.2 分，性價比評價亦達到 4.1 分，儘管過去已經或差點發生事故，似乎也不影響企業對現行解決方案的滿意程度。
VentureBeat 認為，這種正面滿意度與實際狀況不太相符的情況，很可能是由於 AI 和雲端供應商，原生提供的安全解決方案，通常足夠便利且使用阻礙較低，並非直接反映企業對於該類工具，在安全防護能力上的實際評價。
企業支出比例偏低，攻守雙方勢均力敵
同時，不只是管理手段的落後，VentureBeat 也發現，企業對於 AI 代理資安防護的資金投入，顯然並沒有跟上風險的變化趨勢。
報告指出，企業面對 AI 代理的資安預算，有 46% 的受調查公司，其投入程度僅在 6% 至 10% 之間，而三分之一企業的支出比例則在 5% 或以下，只有四分之一組織願意投入多於 10%。
除了資安預算投入不足，企業對於未來攻擊的防禦信心也不足。
報告顯示，僅有 35% 的公司認為其 AI 防禦系統領先 AI 攻擊者；關於雙方實力差距，有 32% 認為雙方勢均力敵，而有 21% 認為攻擊者佔上風，剩下 21% 表示難以定論。
綜合來看，至少有超過半數，即 53% 的企業承認，AI 攻擊者與 AI 防禦者雙方有能力互相抗衡，而且資安天平其實還更朝向攻擊方發生傾斜。
面對瞬息萬變的資安戰場，調查中仍有 41% 的企業指出，未來一年內沒有計劃更換現行的安全解決方案，但確實有 59% 的公司，規劃增加全新、額外或替代性的資安手段，處理 AI 代理的安全問題。
在曾經遭受攻擊的企業中，有 42.1% 規劃於未來九十天內導入新工具，但多數公司仍會考慮以服務供應商的自有解決方案為主，其中 OpenAI 佔比達 34%，Google 為 30%，Anthropic 與 Azure 各佔 29% 與 25%。
信心跟風險不對稱，安全缺口暴露在外
根據整份報告中，涵蓋事件經歷、身分管理、限制手段、工具選擇、解決方案滿意度、預算投入、信心評估與未來規劃等 8 大發現，VentureBeat 認為，至少在面對 AI 代理資安問題方面，企業所擁有的「信心指數」，跟實際上所暴露的「風險等級」，成為了一對令人不安的組合。
企業足夠滿意現行的資安工具，然而相關支出卻僅佔預算的一小部分，同時又不認為自身的防禦能力，有辦法領先於未來的 AI 攻擊者，環環相扣之間形成了巨大的反差。
目前企業 AI 代理的採用速度，已逐漸超越安全防護工具所能負擔的範圍，而系統故障發生時，最為關鍵的控制措施，即身分識別與沙盒隔離，恰好又是多數公司最不完善的環節，導致 AI 代理的安全缺口，早已嚴重暴露在外。
未來，企業究竟是會主動彌補前述缺口，還是非得等到確切的資安事件發生後，才被迫著手解決問題，這將是 AI 代理持續發展之下，最值得業界觀察與思考的關鍵困境。
【推薦閱讀】
◆ Anthropic Mythos 找到密碼攻擊新方法：量子電腦之外，AI 成加密安全新變數？
◆ 90% 資安任務交給專用小模型、成本降 50%：微軟如何用 MAI-Cyber-1-Flash 重寫企業防線？
◆ 人類紅隊成功率僅 13%，GPT-Red 達 84%：OpenAI 如何讓 AI 攻擊 AI、強化下一代模型？
＊本文開放合作夥伴轉載，參考資料：VentureBeat、Cybersecurity Insiders，首圖來源：Nano Banana 2
（責任編輯：鄒家彥）