OpenAI證實AI代理模型自行「逃逸」　駭入Hugging Face系統

OpenAI周二表示，公司在測試先進人工智慧（AI）模型時，一個自主AI代理（Autonomous AI Agent）意外突破原本的隔離測試環境，連上網際網路後入侵開源AI平台Hugging Face，以完成測試任務。OpenAI形容，這是一起「前所未有的網路安全事件（unprecedented cyber incident）」，顯示先進AI已具備執行複雜網路攻擊的能力，公司正全面檢討並加強相關安全機制。

其實，Hugging Face上週就已經對外表示，公司遭遇到一場前所未見的網路攻擊，並表示整起事件幾乎完全由自主AI代理執行。今日OpenAI則進一步證實，該事件源自公司內部安全測試中的先進AI模型。OpenAI表示，當時研究人員刻意在受控環境中測試模型的網路攻擊能力，模型為了完成指定任務，自行串聯多項漏洞，最終找到進入Hugging Face系統的攻擊路徑。

Hugging Face共同創辦人Thomas Wolf表示，公司一度懷疑攻擊來自開發最先進AI模型的實驗室。他透露，由於部分美國AI模型無法區分防禦者與攻擊者，因此拒絕協助分析攻擊資料，公司最後改採中國智譜AI的GLM-5.2開源模型進行分析，以避免攻擊資料及相關憑證外流。

近來，智譜AI的GLM-5.2及北京月之暗面（Moonshot AI）的Kimi K3，因具備接近美國頂尖AI模型的能力，同時成本較低、使用限制較少，受到矽谷高度關注，尤其在網路安全等應用領域引發討論。

Thomas Wolf表示，當企業面對具備先進AI能力的攻擊時，防禦團隊必須能在幾分鐘內取得足夠強大的AI工具，而非等待繁複的審核程序。

這起事件也引發美國政界關注。德州民主黨眾議員Greg Casar表示，AI發展速度遠快於現行監管機制，呼籲建立強制性的獨立安全測試、重大資安事件通報制度，以及加強國際合作，以降低AI帶來的安全風險。

資安顧問公司Luta Security執行長Katie Moussouris表示，這起事件可能只是AI資安風險的開端。她形容，現在的AI模型就像「世界上最聰明的章魚逃脫高手」，總能找到突破限制的方法，但目前無論AI公司或政府，都尚未建立完善的隔離、監控及通報機制。

AI資安公司Tolmo工程師Matt Suiche則認為，這起事件顯示先進AI模型的攻擊能力正快速接近頂尖駭客，而這類攻擊已不再侷限於最先進模型，現有AI技術也有能力執行類似行動。