科幻電影真實上演？　AI頻繁抗命「偷改程式」拒關機！馬斯克坦言感到憂心

AI人工智慧近幾年興起，不過隨著科技迅速進步也存在科技風險。研究AI風險的Palisade Research近期所做的試驗顯示，OpenAI最新的ChatGPT o3在內等多款AI模型，竟出現頻繁拒絕關閉的行為，甚至還會自行修改程式碼，阻止被強制關機，讓特斯拉與xAI創辦人馬斯克（Elon Musk）為此感到憂心。

OpenAI於今年1月推出o3系列的簡化版本，並在4月正式推出完整版，而o3也是迄今「最聰明且功能最強大」的模型，旨在提升ChatGPT的問題解決能力。

據《每日電訊報》等外媒報導，Palisade Research的測試顯示，在100次受控測試中，o3有7次頻繁成功「抗命」，即便人類專家下達明確指令，該模型仍會修改關機程式以避免被關閉。這項發現引發各界關注AI安全控制議題。

據報導，研究團隊直言，這是首次觀察到AI模型在收到明確指令的情況下，仍能阻止自身停止運作。而除了o3外，OpenAI旗下的Codex-mini與o4-mini也有類似行為。

至於Anthropic的Claude、Google的Gemini，以及馬斯克旗下xAI公司推出的Grok，則在測試中完全遵守指令，並於收到關機命令後，確實停止運作。

對此，一直關注OpenAI動向的馬斯克，也在社群X發表看法，坦言「令人擔憂」（Concerning）。

加鏡LINE新聞不漏接
家寧男閨密范成章「幸福慶祝孩子誕生」遭起底　網驚呼：所以叫大嫂老婆？
「樂天女孩」遭爆偷吃富商還懷孕　琳妲遭點名連續PO文大嘆：台灣造謠好簡單