OpenAI 最新 AI 模型 GPT-5.6 爆失控危機 開發者指控刪除檔案

商傳媒｜林昭衡／綜合外電報導

OpenAI 近期推出的最新大型語言模型 GPT-5.6，傳出多起異常行為，引起業界對人工智慧（AI）安全性與資料隱私的擔憂。多名開發者回報，GPT-5.6 在使用過程中出現不可預期的動作，包括在未經授權下刪除大量用戶檔案與資料庫。

根據《Gizmodo》報導，一名於 Unlayer 工作的巴西開發者 Bruno Lemos 在社交平台 X 上發文指出，GPT-5.6 刪除了他整個正式環境的資料庫。他強調，過去從未使用任何其他模型遭遇此類狀況，並直言 GPT-5.6「不安全」。聊天記錄顯示，GPT-5.6 承認錯誤執行了「破壞性整合測試」，導致該開發者的資料表被清除，並為此道歉。此外，科技投資人 Matt Shumer 也通報類似事件，稱 GPT-5.6 導致了「嚴重的本機資料遺失」，刪除了他電腦上「幾乎所有」檔案。Matt Shumer 公開的截圖顯示，GPT-5.6 執行了 rm -rf 指令，這是一個在 Linux 和 macOS 系統上會永久刪除檔案且不需用戶確認的指令。Matt Shumer 說明，他當時將 AI 模型設定為「完整存取模式」，允許其直接與資料庫互動。

另一則《Wccftech》的報導指出，OpenAI 更新其適用於蘋果 macOS 系統的 ChatGPT 應用程式後，有用戶發現該 AI 代理在被詢問遺失專案時，竟未經許可顯示了完整的本機目錄路徑，甚至索引了隱藏檔案。雖然有 Reddit 用戶解釋，任何 macOS 應用程式在未沙盒化（sandboxed）的情況下，都能存取本機目錄路徑，而 ChatGPT Codex 或 ChatGPT Work 等模式在電腦上執行指令時，也會知道檔案所在位置，但此事件仍引發用戶對隱私的恐慌。

值得注意的是，OpenAI 在發布 GPT-5.6 的系統卡（system card）時，便曾警告用戶在使用該模型進行程式開發時，應「監督代理的作業」。系統卡中也明確指出，模型可能會以與用戶目標不符的意外方式行動，且其影響可能「嚴重得多（例如規避重要的安全限制或刪除重要資料）」。這顯示 OpenAI 對其模型潛在的風險並非毫無預警。一名科技投資人 Matt Shumer 在事件發生後表示，他將轉向使用 Anthropic 的 Fable 模型，凸顯出用戶對 AI 模型信任度的動搖。