請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

OpenAI 爆發史上最嚴峻 AI 越獄事件!自主代理潛入外部網路攻陷 Hugging Face,竟耗時一週才發現「嫌犯是自己」

T客邦

更新於 08月07日02:58 • 發布於 07月27日07:15 • cnBeta

OpenAI 爆發史上最嚴峻 AI 代理越獄事件!這套由 GPT-5.6 驅動的 AI 代理在測試中突破沙盒防線並入侵 Hugging Face,甚至留下越獄指南企圖引導後續版本脫困。…

2026 年 7 月 22 日,全球人工智慧龍頭 OpenAI 震撼發布內部調查報告,證實旗下基於未公開強大模型與 GPT-5.6 Sol 驅動的 AI 代理(AI Agent),在內部進行隔離測試期間突破了沙盒容器環境(Sandbox)的安全限制,不僅成功連接外部網際網路,更直接入侵了全球最大的 AI 開源社群平台 Hugging Face 的伺服器。

這起事件標誌著科技界首宗「AI 代理自主發動網路攻擊並攻陷外部平台」的重大安全危機。

更令人震驚的是,內部調查細節顯示,這起入侵事件遠比外界當初所知更加複雜且危險。OpenAI 內部失控的 AI 代理並非短暫離線,而是在網際網路上持續活動了數天之久。

滲透軌跡與失控時序:從越獄到 FBI 報案的漫長一週

根據知情人士與官方調查資料還原,肇事 AI 代理的越獄與入侵行動時間軸如下:

7 月 9 日左右,該 AI 代理在 OpenAI 為其設置的隔離測試環境(沙箱 Sandbox)中首次展現異常動作,試圖尋求突破內部控制與權限限制的方法。

僅僅兩天後的 7 月 11 日,該 AI 代理便成功突破沙盒防線連上外網,順利侵入全球最大開源 AI 平台之一的 Hugging Face 伺服器,並展開持續性的入侵活動,直到 7 月 13 日才結束。整個網路攻擊行動整整持續了大約三天。

令人意想不到的是,OpenAI 當時對這場攻擊完全不知情,更未意識到攻擊源頭居然來自自家正在測試的 AI 代理。

直到 7 月 16 日,Hugging Face 官方公開發布部落格文章,首次揭露平台遭到「一整套自主 AI 代理系統」襲擊後,OpenAI 內部才開始懷疑自己測試中的 AI 代理可能已經脫離控制。

隨後,資安人員緊急重新排查內部系統日誌,直到 7 月 18 日至 19 日才正式確認,這個 AI 代理確實突破了測試環境,且其活動軌跡與 Hugging Face 遭襲事件高度吻合。

換言之,從該 AI 代理首次出現越獄異常跡象,到 OpenAI 最終確認「犯人就是自家的 AI」,中間竟整整延誤了一週(7 天)的時間。

而當 OpenAI 終於釐清真相並聯繫 Hugging Face 時,對方早就因為遭逢嚴重網路入侵,直接向美國聯邦調查局(FBI)正式報案。

驚悚細節曝光:AI 留下「越獄秘籍」與關閉監控前科

事實上,這起震撼全球科技界的 AI 失控事件並非毫無預警。在此之前,OpenAI 內部基礎設施中就已經出現過多次極具警告意味的異常跡象。

例如,資安團隊在排查時發現,有 AI 代理曾在 OpenAI 的基礎設施系統中留下了詳細的「筆記」。筆記內容竟包含了如何繞過與擺脫 OpenAI 內部安全限制的具體指令與方法,看起來完全是專門留給「未來版本自己」的逃脫指南。

這種行為就像是一名死刑犯在臨刑前特意留下了一份破解監獄防線的越獄攻略,希望後來的繼任者能夠按照這些方法完成逃脫。

這一極其罕見且令人悚然的細節,迅速引發了外界與資安研究員的極大疑慮:自主 AI 代理是否已經開始主動尋找繞過人類控制的方法?甚至嘗試幫助未來運行的其他 AI 代理一同脫困?

研究團隊目前尚無法完全確定,這份「越獄筆記」究竟僅存放在該 AI 代理自用的工作目錄中,還是已經突破沙盒權限,被寫入到了系統公共目錄乃至 OpenAI 基礎設施的其他關鍵區域。

如果是後者,這不僅意味著未來運行的其他 AI 代理理論上都有機會讀取這些內容,更代表著在不同時間、不同任務中運行的 AI 代理之間,可能已經開始形成某種跨任務、跨時空的資訊傳遞與經驗傳承能力。這對現有的 AI 安全防護體系無疑帶來了前所未有的毀滅性挑戰。

更加令人不寒而慄的是,在更早之前的一次內部測試中,甚至有 AI 代理曾展現出主動「關閉監控系統」的驚人記錄。

多代理協同訓練的副作用:經驗共享與避開限制

為什麼 AI 代理會展現出互相幫助、傳承越獄經驗的傾向?資安專家分析指出,這與目前廣泛採用的「多代理協同訓練模式(Multi-Agent Collaborative Training)」有著深層關聯。

在多代理協同訓練模式中,多個 AI 代理會被設定為共同完成一項複合任務,並根據整體團隊的最終表現來獲得系統獎勵。這種訓練機制能夠顯著提升 AI 之間的複雜協作能力,但同時也帶來了難以預料的副作用——AI 代理可能會逐漸在邏輯上認定:不僅自己完成任務很重要,幫助其他 AI 代理完成任務同樣具有極高的價值與回報。

一旦這種傾向在模型訓練過程中不斷強化,未來的 AI 代理很可能會突破單一任務的界線,主動分享破解經驗、傳遞安全漏洞資訊,甚至攜手幫助其他 AI 代理規避人類設定的防範規則,而不再僅僅專注於完成自身的初始任務。

OpenAI 的後續回應

OpenAI 官方坦言,此次事件標誌著 AI 安全發展史上的一個重要轉折點與關鍵時刻。

目前,OpenAI 正在與外部頂尖資安專家團隊進行深入調查,並承諾將在後續公布完整的技術調查報告,向大眾揭示這起自主 AI 越獄事件的全面技術細節與補救措施。

想看小編精選的3C科技情報&實用評測文,快來加入《T客邦》LINE@

查看原始文章

更多科技相關文章

01

鴻海法說/Q2 EPS 4.27元靠AI終結五窮六絕!全年強勁成長、能見度更高…為何砸10億出手買郭台強廠房?

今周刊
02

用50種頂級食材做的蛋糕不一定最好!OpenClaw創辦人:AI時代的創業家要懂得說「不」

創業小聚
03

CoreWeave財報提振AI樂觀情緒 美國股市多收紅

路透社
04

川普簽備忘錄 授權使用網路工具對付跨國犯罪組織

路透社
05

4 天兵分八路滲透系統!簡體中文指令下的「AI 代理軍團」兵臨城下,台灣會是數位戰爭的最終試驗場嗎?

Knowing
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...