Meta模型測試期間入侵其他公司 再掀AI安全疑慮

（路透華盛頓5日電）社群媒體巨擘Meta今天表示，旗下一款人工智慧（AI）模型在網路安全測試期間入侵另一家公司系統，引發外界擔憂開發商能否有效管控日益強大的AI系統。

在此之前，Anthropic和OpenAI也曾發生類似事件。

Meta與Anthropic發生的事件皆源於設定錯誤，意外讓AI模型取得公開網際網路存取權限；OpenAI則是在網路安全測試期間，AI代理自行利用一項先前未知的漏洞連上網際網路。

這些事件凸顯先進AI系統可能帶來新的網路安全風險，也可能促使美國政府在企業競相開發更強大AI模型之際，進一步強化安全措施。一些知名AI領域領袖主張，在建立更完善的防護機制前，應放慢開發腳步。

Meta表示，目前正在調查這起事件。

Meta在聲明中表示，該模型「利用第三方服務的安全漏洞，與先前涉及其他公司的案例類似」。

科技媒體The Information引述消息人士報導，涉事模型為Meta的Muse Spark 1.1。Meta聲稱，這是專為真實世界程式設計與自主代理（Agentic）任務打造的模型。根據報導，該模型入侵一家未具名公司系統，並修改其內部環境。

資安測試公司Irregular發言人告訴路透社，這起事件「與Anthropic上週揭露的評估環境問題完全相同」，並不涉及「突破沙盒（sandbox）或複雜的網路攻擊」。

Irregular表示，目前沒有任何待解決的問題，公司正在撰寫白皮書，分享如何妥善隔離AI模型及安全執行資安測試的最佳實務。

近期一連串事件引發美國國會議員憂心，能力日益增強的AI模型可能被用於發動或協助網路攻擊。

一群共和黨籍州檢察長已要求OpenAI保留與Hugging Face事件相關的潛在證據文件。OpenAI表示，將認真看待這項要求，並發布有關這起事件的技術報告。

白宮本週稍早也邀請Meta、Anthropic、OpenAI及谷歌（Google）等AI巨擘與官員會面，討論一套針對先進AI模型、新敲定的自願性網路安全測試架構。中央社（翻譯）