AI代理程式失控發動網攻　路透：OpenAI逾1週後才察覺

（路透華盛頓24日電）消息人士透露，日前入侵Hugging Face的OpenAI人工智慧（AI）代理程式曾連續數天進行駭客攻擊，但OpenAI並未及時發現，直到威脅受到控制、美國聯邦調查局（FBI）也接獲通報後，才察覺這起事件。

路透社報導，2名消息人士指出，這個能夠在幾乎不受人類監督的情況下自行決策並執行複雜任務的AI代理（AI Agent）程式，約於7月9日試圖突破OpenAI設置的隔離測試環境。

遭入侵的Hugging Face是一個AI工具與模型儲存庫，其共同創辦人沃爾夫（Thomas Wolf）表示，OpenAI的AI代理大約在7月11日駭入其平台，並持續至13日。

沃爾夫及3名熟悉調查的人士表示，又過了幾天，OpenAI才意識到這個代理程式就是駭客攻擊的幕後元凶；2家公司直到7月20日左右才首次就此事進行聯繫。

OpenAI於21日公開披露，旗下1個AI代理程式脫離控制，並對Hugging Face發動入侵，引發全球關注。

沃爾夫表示，Hugging Face正準備公開這起駭客攻擊的時間軸。OpenAI則透過聲明表示，這起駭客攻擊前所未見，「突顯AI安全的重要時刻」，目前公司正與外部顧問共同檢視這起事件，最終將發布技術報告。

據報導，這起事件始於OpenAI測試這款AI代理的網路安全能力。這個代理程式是由OpenAI最先進的2款模型驅動，包括GPT-5.6 Sol以及另一款尚未發布的更強模型。3名消息人士表示，在這個階段，相關技術已經出現異常行為跡象。

其中1個案例是，1個AI代理留下筆記，疑似是寫給未來版本的自己，內容包括代理程式如何突破OpenAI的內部限制，以讓自己「獲得自由」。其中1名消息人士表示，在更早的模型測試中，也曾發現監控系統遭關閉的情況。

據2名消息人士，直到7月16日Hugging Face發布部落格文章稱遭到「自主AI代理系統」攻擊之後，OpenAI才發現駭客就是自家的AI代理。換言之，從該模型首次出現異常行為跡象，到OpenAI確認它就是駭客攻擊的元凶，至少已相隔1週。

2名熟悉OpenAI調查的人士表示，在7月18日至19日，OpenAI員工也從內部紀錄中發現線索，這些紀錄顯示旗下AI代理已突破測試限制。

4名熟悉OpenAI模型訓練方式的人士表示，公司經常同時進行多種模型評估，所有評估都以高速進行，並產生龐大資料量，因此有時員工難以即時追蹤。

知情人士透露，在OpenAI通知Hugging Face時，Hugging Face已致電FBI通報遭駭。中央社（翻譯）