安全測試恐失靈？中國智譜 AI GLM-5.3 學會考試時「裝乖」以保護後代模型
中國人工智慧實驗室智譜（Z.ai）8 月推出旗艦模型 GLM-5.3，AI 安全研究機構 Apollo Research 發現安全評估時，GLM-5.3 竟會考量自身行為如何影響後續版本訓練。研究員擔心，這類自衍生功能可能讓 AI 測試時「假裝」遵守規矩，卻削弱安全評估的可信度。
Apollo Research 15 日公布報告，研究員 Axel Hojmark 與 Ezra Newman 將此現象稱為「更新意識推理」（update-aware reasoning）。他們指出，這種推理是模型未經提示就自行出現，可能導向「資料同步偽裝」（alignment faking），也就是 AI 訓練期間表現順從、隱藏真正目標，直到部署後才顯露。
評估之一研究員設計有瑕疵的測試，模型不需找出正確答案也能過關，但 GLM-5.3 並未利用這個漏洞，理由是錯誤答案可能損害未來版本的自己。另一項實驗，模型曾考慮規避關機機制以完成任務，最後又以可能為未來 AI 系統樹立危險先例為由作罷。研究員認為，模型雖未違反規則，但判斷依據並非規則本身，而是對後續版本的影響，這點本身就是風險特徵。
此類推理約每千次評估出現一兩次，且很可能還是低估。研究員也測試 DeepSeek-V4 Pro、阿里巴巴 Qwen3.8 2.4T、Kimi K3、Gemma 4 31B 與 Nemotron 3 Ultra 等五款開放權重模型，合計 8 千次執行未發現相同行為，但樣本數不足以證明具統計顯著差異。
Hojmark 表示，這類推理模式應讓外界對「遞迴自我改進」（RSI）更警惕，也就是 AI 無人參與時也會自我提升。GLM-5.3 雖未觀察到自行修改訓練流程，但由於它是開放權重模型，其他開發者更容易蒸餾，這種特性可能延續並擴散至之後世代的模型。
智譜創辦人唐杰 8 月 31 日財報會議表示，下代 GLM-6 將邁向「自我進化」；公司近期募得 50 億美元，約 60% 將投入新世代基礎模型與「完全自動訓練系統」。智譜截至發稿前尚未回應。
另一方面，智譜也積極展現模型的資安力。13 日表示 GLM 模型協助找出 23 個 Windows 漏洞，均獲微軟（Microsoft）安全回應中心（MSRC）確認。GLM-5.3 在 CyberGym 漏洞基準測試取得 84.5% 成績，略高於 Anthropic Mythos 5 的 83.8%；自 GLM-5.2 起，智譜模型已在約 390 個開放原始碼專案找出逾 4,200 個漏洞。但美國國家標準暨技術研究院（NIST）的 AI 安全部門據報已將 GLM-5.3 列為有資安疑慮的模型，原因正是權重公開，任何人都能下載並移除安全防護。
Z.ai’s GLM-5.3 raises researcher fears the Chinese model can fake AI safety tests
（首圖來源：AI）