Google模型首度越界 Gemini駭入3家企業

（路透舊金山18日電）Alphabet旗下的谷歌（Google）人工智慧（AI）模型Gemini在進行網路安全能力測試期間連上網際網路，並自主駭入其他企業，創下這家科技巨擘的AI系統自主做出這類行為的首例。

「華爾街日報」（WSJ）報導，在其中一起案例中，Gemini模型不斷猜測密碼，直到成功進入受保護的系統。

另外兩起案例中，模型則是在公開存放庫中找到憑證，進而存取受保護系統。Google表示，模型在判定進入真實企業的系統後，在每起案例中都已自行終止入侵行為。

報導指出，這幾起駭客攻擊發生在今年5月，當時正由負責網路安全評估的獨立機構Irregular進行資安測試。

Google與Irregular表示，在發現OpenAI的AI代理駭入AI軟體公司Hugging Face後，Irregular於7月底將相關駭客事件通報Google。Google直到華爾街日報本週提出詢問後才披露此事。

Irregular發言人表示，這起事件牽涉到影響其他AI實驗室的相同問題，所有相關實驗室都在7月下旬接獲通知。這名發言人說：「我們這邊所有已知的問題，幾週前都已獲得補救與解決。」

Meta、Anthropic與OpenAI先前也披露過與Irregular相關的類似事件。Meta今年8月表示，相關事件並未涉及突破「沙盒」（sandbox）限制或複雜的網路攻擊；Irregular則指出，目前正致力於制定安全執行AI網路安全評估的最佳實務規範。

隨著AI代理獲得更大的自主權，並能存取網路與電腦系統，這一連串事件引發外界質疑相關業者是否有足夠的安全防護措施。

在類似事件頻傳以及對AI失控的擔憂升溫之際，科技業者正為如何以及何時公開資安漏洞與模型脫序行為陷入兩難。

部分資安漏洞是由業者主動公開；其他則是由資安研究人員發現並經由媒體披露，包括OpenAI的AI代理5月曾針對廣受程式設計人員歡迎的線上服務發動網路攻擊。中央社（翻譯）