想用最強 AI，就得讓 AI 留存你的資料嗎？OpenAI 與 Anthropic 給出兩種答案
想用能力最強的一批前沿 AI 模型，企業就必須讓 AI 公司保留自己的資料嗎？這個問題在 Anthropic 今年 7 月調整資料政策後浮上檯面，如今 OpenAI 給出另一種答案。
據《華爾街日報》報導，OpenAI 8/19 預覽新的 Private Safety Processing，主打讓符合資格的 API 客戶，在維持零資料留存（Zero Data Retention，ZDR），也就是不保留 prompt 與模型回應的情況下，仍能跨多次互動辨識模型遭濫用的風險。這項措施也帶有明確的商業競爭意味，OpenAI 希望吸引對 Anthropic 資料留存政策有所顧慮的企業客戶。
兩家公司面對的是同一道難題：模型能力越強，危險使用行為越可能分散在多次請求中才看得出全貌；但對企業而言，讓模型供應商保存敏感資料，也可能成為導入前沿 AI 的阻力。
Anthropic 為安全要求留資料，部分前沿模型不再提供 ZDR
根據 Claude 平台文件，Claude Fable 5、Claude Mythos 5 等被列為 Covered Models 的模型，必須採取 30 天資料留存，無法使用 ZDR。《TechCrunch》指出，這項政策也涵蓋未來能力相近的模型。
Anthropic 的理由是安全。該公司指出，越獄攻擊、網路攻擊或其他高風險行為，可能橫跨數十甚至數百次請求。單看其中一次互動，可能只是正常的研究問題，必須把一段時間內的行為串起來，才能辨識真正的意圖。
Anthropic 也坦言，這項政策可能讓習慣零留存的企業客戶卻步，尤其當競爭對手沒有相同要求時，更可能帶來商業風險。《華爾街日報》報導，包括 Microsoft 執行長 Satya Nadella、Palantir 執行長 Alex Karp 等人都曾對此提出疑慮，認為醫療、金融等高度監管產業，需要更明確的資料不留存承諾。
OpenAI 選另一條路：不留原始資料，也要辨識跨對話風險
OpenAI 的 Private Safety Processing，則試圖把安全監控與原始資料留存拆開。《華爾街日報》指出，OpenAI 過去的安全系統主要逐次檢查單一互動，當危險行為分散在多次請求中，就較難辨識完整模式。新系統因此把監控範圍拉到多次相關互動，同時維持 ZDR。
根據 OpenAI 說明，企業資料可以留在客戶控制的基礎設施中；OpenAI 也正在開發另一種方式，讓資料存放在 OpenAI 環境，但使用由客戶掌握的金鑰加密，使 OpenAI 員工無法直接看到 prompt、模型回應等敏感內容。
一旦系統偵測到例如網路攻擊或生物武器相關風險，OpenAI 收到的不是原始內容，而是標示風險類別與嚴重程度的高階訊號，再據此判斷是否需要採取行動。若客戶不同意判斷，也可以提出申訴，或自行選擇提供更多資訊。
為什麼需要跨多次互動判斷？OpenAI 產品政策主管 Aleah Houze 舉例，一名使用者可能先詢問某家公司軟體的弱點，接著詢問遠端存取方法，再問哪些資安工具可能偵測到這些行為。每一個問題單獨看，都可能屬於正常的資安研究，但串在一起，才可能顯示攻擊正在成形。
OpenAI 已與 Microsoft、Databricks 等早期客戶測試這套系統，預計 9 月擴大推出並公布技術白皮書。不過，目前仍是早期測試階段，外界還需要更多技術細節，才能判斷這套架構在實際部署中，能否同時維持 ZDR 與有效的跨互動安全監控。
資料留不留，開始成為前沿模型的採購條件
OpenAI 與 Anthropic 的不同選擇，也讓 ZDR 的意義開始改變。過去企業談零資料留存，通常關心送進 AI 模型的 prompt、程式碼或內部文件，會不會被供應商保存。隨著 AI 開始執行更長時間、多步驟的 Agent 任務，以及程式開發、資安研究等高風險工作，新的問題則是，如果完全不保存資料，模型供應商還能不能安全地提供能力最強的模型？
這不只是企業對隱私的偏好。Houze 對《華爾街日報》表示，OpenAI 已明確聽到企業客戶對資料不留存的需求，許多服務其他企業的公司，本身就對客戶承諾如何處理高度敏感資料。對金融、醫療、政府，以及處理企業程式碼與內部機密的組織而言，資料留存方式因此可能直接影響模型能不能進入正式工作流程。
Anthropic 選擇以有限時間的資料留存換取更完整的安全脈絡，OpenAI 則試圖證明，跨互動安全分析不一定代表模型供應商必須持有原始資料。
目前還無法判定哪一條路能取得更好的平衡，但前沿模型愈深入企業敏感工作，企業比較 AI 供應商時，看的可能不再只是模型能力、價格與速度，也會多問一個問題：為了確保模型安全，供應商究竟需要拿走多少資料控制權？
科技的變化總是快得驚人，而我們每天的工作，就是從龐雜的趨勢中理出觀點、提煉出決策者真正需要的洞察。如果你也對 AI 發展充滿熱情，《TechOrange 科技報橘》正在徵內容編輯！
👉立即投遞履歷
【推薦閱讀】
◆ OpenAI 暫停部分前沿模型訓練：AI 安全為何開始影響研發速度？
＊本文開放合作夥伴轉載，資料來源：OpenAI、《AXIOS》、《Bloomberg》、《TechCrunch》、《The Wall Street Journal》、Claude Platform Docs、OpenAI Developers，首圖來源：Unsplash