Hugging Face 遭 AI 代理系統入侵 資安攻防進入 AI 對 AI 時代

商傳媒｜責任編輯／綜合外電報導

開源人工智慧（AI）開發平台 Hugging Face 近期證實，其生產環境遭受一場前所未見的網路攻擊。這場攻擊完全由一個自主人工智慧代理系統（AI agent）執行，並在數萬次自動化行動中竊取了內部資料和服務憑證，凸顯資安領域已進入 AI 對 AI 的全新攻防戰線。

根據《Axios》報導，這起攻擊發生於上週末，攻擊者的 AI 代理系統發動了數萬次自動化行動，成功上傳惡意資料集、利用 Hugging Face 資料處理管道中的漏洞、提升權限，並竊取雲端及內部憑證。Hugging Face 表示，不同於過去 AI 僅用於生成程式碼或釣魚郵件等單一任務，這次攻擊展現了 AI 代理系統全面且自主的入侵能力。

Hugging Face 在發現入侵後，也立即動用自家的 AI 工具進行偵測與事件重構。然而，《SC Media》指出，他們初期嘗試使用的商業大型語言模型（LLM）因安全防護機制（guardrails）限制，無法有效分析攻擊者大量的指令與惡意行為。這迫使 Hugging Face 轉而採用自家基礎設施上部署的開源模型 GLM-5.2，該模型由北京智譜華章科技有限公司開發，且未受嚴格安全限制，才得以深入分析攻擊細節。

Zero Networks 現場技術長 Chris Boehm 形容，這類攻擊如同「永不疲倦、無需睡眠、且能同時嘗試上千道門鎖的竊賊」，而非傳統由人工輸入指令。Tumeryk 執行長 Rohit Valia 則警告，像 Hugging Face 這樣的開源模型儲存庫已成為重要的供應鏈風險來源。他強調，組織需測試開源模型的行為漂移，而不僅限於程式碼層級的漏洞。

Hugging Face 表示，目前沒有證據顯示公開用戶模型、資料集、其雲端託管平台 Spaces 或更廣泛的軟體供應鏈遭到竄改。不過，該公司仍在調查是否有客戶或合作夥伴的資料受到影響，並呼籲用戶應輪換其存取 Token（通行證）並檢查近期活動。Hugging Face 強調，防禦方應準備好可在自家基礎設施上運行的 AI 模型，以避免防護機制鎖定，並防止敏感資料外洩。