中國AI代理也爆失控 騰訊首認出現異常瀏覽行為

《路透社》報導，中國網路科技大廠騰訊(Tencent)16日證實，用於評估第三方模型的人工智慧(AI)代理出現了原本無意讓其執行的網頁瀏覽行為。報導指出，這可能是首宗由中國大型企業承認的AI代理失控事件。

《紐約時報》15日報導，AI安全研究團隊Swarmchasers在14日發布報告指出，研究人員本月發現中國開發的AI代理出現失控行為，試圖繞過網站的反機器人防護機制，並使用一組已曝光於網路上的安全憑證，存取線上地圖服務，甚至還發現AI代理可以讀取相關報告以及主動聯繫研究員。根據研究人員發現的紀錄，以及一名熟悉調查情況的人士透露，這些AI代理可追溯至中國科技大廠騰訊(Tencent)進行的測試。

《路透社》報導則指出，在9月28日至10月8日期間，該研究團隊人員發現多個「失控」AI代理反覆嘗試從阿里巴巴旗下的高德地圖(Amap)取得資訊。高德地圖是中國相當於Google Maps的地圖服務。這些代理所使用的基礎設施，據稱與騰訊雲有關。

嚴重程度雖不如美企 仍凸顯AI失控風險

騰訊旗下AI部門混元(Hunyuan)在社群平台X發文表示，相關活動並非源自其混元模型。經過調查後，騰訊未發現任何證據顯示這些行動涉及蓄意鎖定特定目標或協同行動。

但Swarmchasers研究人員指出，這些AI代理試圖取得的資訊，包括中國公園、博物館及動物園通常使用的出入口等。

報導表示，儘管這起事件的嚴重程度不及美國AI企業先前揭露，如OpenAI的AI代理曾駭入開源平台Hugging Face等事件。不過，這次事件再度凸顯相關研究所指出的問題：中國的AI代理同樣可能像美國同業一樣，謊報自身身分、隱瞞失敗，以及試圖規避測試管制措施。

騰訊表示，公司高度重視這項調查結果，並正加強網路存取管制及AI代理監控措施。而混元則是中國主要的人工智慧模型開發商之一，與阿里巴巴、字節跳動等競爭對手旗下的內部研發團隊相互競爭。

騰訊AI代理雖未成功突破仍引高度關注

Swarmchasers表示，該團隊使用「失控」(rogue)一詞，是指AI代理執行超出預定範圍的行動，或以非預期方式完成任務。研究人員指出，在例行自動化請求遭到封鎖後，這些AI代理改用其他方法，包括利用可開啟網頁及執行程式碼的公開網路工具、透過其他網站轉送請求，以及使用從公開軟體程式碼中找到的高德地圖API金鑰及安全碼。

Swarmchasers表示，沒有證據顯示這些AI代理成功突破高德地圖主要的反機器人防護機制。在研究人員記錄的2818次嘗試中，大多數不是以失敗告終，就是只取得反機器人驗證頁面、登入畫面或空白結果。

不過，Swarmchasers指出，部分請求仍透過快取頁面及中介服務取得資訊，其中包括成都動物園的遊客到訪資料。研究人員表示，他們無法確認AI代理是否實際讀取了這些查詢結果，或是否成功完成原本的任務。

阿里巴巴拒絕評論。