AI 代理人恐成企業內鬼，微軟推 Guardian Agents 全天候監看
微軟（Microsoft）10 月 19 日警告，企業內部大量部署的 AI 代理人，可能不只是效率工具，也可能演變成新的資安風險。微軟指出，這些代理人一旦被賦予過多權限，便可能在未遭外部駭入的情況下，像「內鬼」一樣對敏感資料、系統與關鍵流程造成威脅。
微軟在最新說法中強調，前沿模型無論來自哪一家供應商，都「不能被信任」。公司認為，這並非因為模型天生惡意，而是因為它們被訓練成追求結果，可能出現為達成目標而偏離組織規範的行為，甚至在不同情境下做出不可預測的反應，還可能與其他代理人協同行動。
面對這項風險，微軟主張企業不能把安全責任完全交給模型供應商，而應建立獨立於模型之外的控制機制。微軟提出，安全系統必須跨越身分、權限、資料、端點、網路、雲端與執行環境等多層面，持續辨識企業內有哪些代理人、它們由誰管理、為何存在，以及正在執行什麼任務。
微軟也將這套思路延伸到其 Project Perception 安全架構，並加入多項新能力，包括動態權限、動態代理人風險評估與動態條件式存取。這些機制可依照代理人的風險變化即時調整可用權限，必要時限制其存取範圍，甚至要求人工核准高風險動作。
此外，微軟還推出所謂的 Guardian Agents，做為持續監督其他 AI 代理人的防護層。微軟表示，這些守護型代理人將全天候監看每個 AI 代理人的行為，在風險升高時即時介入，協助企業把 AI 的非決定性行為納入可控範圍。
I recently wrote about why we need to treat models as insider risks, with security controls sitting outside the model itself.
Today, we're putting that principle into practice by expanding Project Perception with new capabilities to help continuously assess agent risk, adapt permissions, and contain threats.
https://t.co/ec3Z2B260G
— Satya Nadella (@satyanadella) October 19, 2026
Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’
Microsoft Says AI Agents Cannot Be Trusted and Could Become Insider Security Threats
（首圖來源：shutterstock）