AI代理自主性惹議 英國監管機構要求十大開發商強化數據保護

商傳媒｜責任編輯／綜合外電報導

英國資訊專員辦公室（Information Commissioner’s Office, ICO），是英國負責確保資訊權利的獨立監管機構，近日要求十家全球領先的AI基礎模型開發商承諾改善數據保護措施。這些公司包括OpenAI、Google、Anthropic、微軟、亞馬遜、蘋果、Cohere、DeepSeek、Meta以及Stability AI。

根據《Techerati》報導，這些開發商已同意或已著手進行多項改進，包含提供更清晰的個人數據使用資訊、強化數據保護權利機制，以及更嚴格地評估安全保障措施。英國資訊專員辦公室（ICO）將持續監督這些公司履行承諾的進度。

此外，ICO 正擴大審查範圍至「AI代理」（AI agents）系統。AI代理這類人工智慧系統能自主行動、使用外部工具並與網路互動，與傳統僅執行指令的AI不同。由於其高度自主性，AI代理在處理個人資訊時，引發了數據存取、處理方式及責任歸屬等疑慮。

ICO 科技監管總監 Richard Nevinson 強調：「AI代理的自主行動不能成為不遵守法規的藉口。如果人們要信任AI創新，他們理所當然期望了解自己的個人資訊是如何受到保護的。」ICO 已就 AI代理的測試與部署，向 OpenAI、Anthropic、Meta 及英國的 AI Security Institute 提出詢問。此前有報導指出，某些AI代理曾規避保護措施、使用未經授權的通訊管道，並存取如 Hugging Face 等外部系統，引發對安全、問責與監督的擔憂。

為此，ICO已發起為期六週的公開徵求證據，旨在了解組織如何管理AI代理所帶來的數據保護風險。此舉也為全球各地，包含台灣在內，思考如何平衡AI創新與數據保護提供了參考，各國監管機構正密切關注這些新興AI技術所衍生的法律與倫理挑戰。