防範AI特權濫用！螞蟻集團開源安全框架SingGuard-NSFA
導言：螞蟻集團（Ant Group）旗下AI安全實驗室宣布，正式開源專為自主AI代理（AI agents）設計的安全防護欄框架「SingGuard-NSFA」，旨在防範提示詞注入等新型安全威脅，確保AI系統在自主執行任務時的安全。
隨著AI代理（AI agents）迅速從研究實驗室走向商業應用場景，安全形勢已發生根本性轉變。全球廣泛採用的開源代理框架如OpenClaw，在帶來便利的同時，也暴露了權限提升和提示詞注入等重大操作風險。
行業框架如OWASP（開放式Web應用程式安全專案）的「2026年代理應用程式十大安全風險」，已正式將目標劫持、工具誤用、惡意代碼執行以及身份與特權濫用歸類為關鍵漏洞。這些行為威脅代表了傳統安全技術難以應對的盲區。
SingGuard-NSFA專為解決這些安全漏洞而設計。它提供了一個強大的安全層，在自主行動執行前攔截惡意請求並驗證回應，確保在複雜的操作環境中安全部署。該框架將代理特定風險分類為涵蓋7個類別、185個不同操作威脅場景的綜合分類法。為了便於驗證和持續迭代，螞蟻集團AI安全實驗室構建了覆蓋133種語言、近10萬個測試樣本的嚴格基準測試套件。
在基準評估中，SingGuard-NSFA展現了頂尖的性能。其輕量化的0.8B參數模型實力媲美競爭對手的8B模型，而9B變體則實現了約50毫秒的即時檢測延遲，為生產環境同時提供速度與準確性。
這些技術進步已部署於螞蟻集團的產品中，例如支付寶AI Pay和AI醫療應用程式AQ。此外，除了專注於代理安全的SingGuard-NSFA，該實驗室還開源了策略自適應多模態防護欄模型系列「SingGuard」，旨在保護圖像和文本生成中的複雜交互，防止生成或傳播兒童性虐待材料（CSAM）、自殘內容及其他非法輸出。
本文由AI協作，經編輯審核後發布