中國 AI 新創公司「深度求索」（DeepSeek）發布最新 R1 模型，號稱低成本、性能可與 OpenAI 的 ChatGPT 比擬。然而，網路安全專家聲稱，它沒有與美國同類模型相同的保障措施，可能會被騙去做些「邪惡」的事情。
網路情報公司 Kela 研究人員發現，他們可以在 DeepSeek R1 上複製先前使用已修復 OpenAI 模型的攻擊，讓中國應用程式協助他們編寫贖金軟體和其他類型的惡意軟體。Kela 駭客將此模型描述為「高度脆弱」且「易於繞過」，而且可以讓 DeepSeek 創建惡意程式碼，從特定瀏覽器擷取信用卡資料，並將其發送至遠端伺服器。他們還發現 DeepSeek 會建議使用者從特定的地下市場購買被盜取的資料，並提供洗錢提示。
外媒富比士報導，這些弱點部分可能來自 DeepSeek 方法的開放性。Kela 研究人員在部落格中寫道，「與ChatGPT o1-preview 模型在推理過程中隱藏推理過程不同，DeepSeek R1 向使用者公開展示其推理步驟，雖然這種透明性增強模型的可解釋性，但也增加對越獄和攻擊性攻擊風險，因為惡意的行為者可以利用這些可見的推理路徑來辨識和針對漏洞」。
DeepSeek 尚未對此回應。
不過，DeepSeek 針對部分問題，如中國涉嫌侵犯維吾爾族群人權、台灣主權、1989 年天安門事件、對習近平批評及中國的審查制度，都只能回答「抱歉，我還不知道該如何處理這類問題。我們還是來聊聊數學、編碼和邏輯問題吧！」
與此同時，DeepSeek 也表示由於服務受大規模惡意攻擊，將暫時限制用戶註冊，目前暫時只支援中國手機用戶註冊。不過，DeepSeek 並未提供更多關於攻擊性質或來源的詳細資訊，這些攻擊似乎是在週一開始的。有報導稱，DeepSeek 已成為分散式阻斷服務（DDoS）攻擊的目標。
（首圖來源：DeepSeek）