九秒毀掉一間公司！ Anthropic驚傳「刪光資料庫」 負責人崩潰搶修
財經中心／曾宜婕報導
據英國《衛報》29日報導，一間提供租車SaaS服務的美國新創公司PocketOS，近日在使用Anthropic開發的旗艦級模型 Anthropic Claude 4.6 Opus時，AI系統竟在短短9秒內誤刪重要資料，其中也包含三個月內的公司、客戶資料與備份。
AI遇錯誤逕自「修復」 旗艦模型反釀資料全毀慘劇
Anthropic 旗艦級模型 Anthropic Claude 4.6 Opus，被公認為目前市面上最強大且安全的模型之一。 PocketOS創辦人克萊恩（Jeremy Crane）近日在社群上公開自家公司使用AI的慘痛經驗，克萊恩表示，事發當時AI代理程式正在執行一項例行任務，系統在運作的過程中遇到憑證不符（Credential mismatch）的問題，然而AI代理完全沒有先詢問開發人員的協助，而是逕行透過刪除一個Railway磁碟卷軸（Volume）來「修復」這個問題，在短短9秒的運作時間， 公司和客戶過去3個月的資料和備份全都遭到刪除。
客戶業務全面癱瘓 團隊耗時逾兩日拼湊重建
克萊恩指出，許多租車公司都使用該公司的系統為客戶提供服務，在事發後許多租車公司無法查詢客戶紀錄、業務完全無法正常運行，公司陷入極度混亂。雖然PocketOS目前成功利用一份存放於異地的備份檔案恢復部分數據，但光是復原過程就耗時超過兩天。PocketOS目前也正嘗試從金流平台、日曆紀錄以及電子郵件中擷取資訊，試圖拼湊並重建資料庫。
AI權限過高若無防護 災難恐將重演
雖然目前依賴PocketOS軟體的租賃業者雖然仍能「維持運作」，但數據上存在著「嚴重的缺口」，事發過後，克萊恩也必須來回與所有客戶溝通協作，以確保他們能繼續經營。克萊恩認為，PocketOS的經驗這不單是一個關於AI誤刪數據的故事，如果當AI被賦予過高權限進入核心領域工作時，相應的保護措施沒有被完整的建立，這類系統錯誤在未來就有可能再度發生。