OpenAI 與 Google 聯手推雙層內容溯源,更容易辨識 AI 圖片
OpenAI 今日宣布與 Google 合作,結合兩種溯源技術,以辨識 AI 圖片。OpenAI 現為 C2PA(內容來源聯盟)相容的產生器,讓 AI 工具產圖片檔案附加更清楚的創建與編輯資訊;同時也導入 Google DeepMind 的 SynthID 隱形浮水印,為中繼資料被截圖、重新上傳或部分修改後仍可能保留的第二層辨識機制。
OpenAI表示,這套雙軌方案的核心,是讓來源資訊與浮水印互相補強。C2PA的Content Credentials提供可讀取的內容憑證,記錄圖片來源與處理履歷;SynthID則把肉眼看不見的訊號嵌入圖片,降低惡意使用者刪除肉眼可見標記的機會。官方強調,兩者合併後,內容溯源會比單一技術更具韌性。OpenAI自2024年已在自產圖加入Content Credentials為原始資料,這次則取得C2PA相容資格並加入SynthID。
配合更新,OpenAI也預告推出公開驗證工具(此為預覽頁面),讓使用者上傳圖片後,檢查是否帶C2PA憑證或SynthID浮水印,以判斷是否由OpenAI工具產生。但也提醒,若工具未偵測到標記,並不代表圖片就不是AI產生,因標記仍有遭偽造或移除的可能。
目前這些保護措施僅適用OpenAI自家產品產圖,初期涵蓋ChatGPT與OpenAI API輸出圖片。OpenAI與Google都將這次合作視為提升AI透明度的重要步驟,但也承認,若其他生成式AI服務未廣泛採用類似標準,任何驗證工具都很難百分之百確定是否為AI圖。
OpenAI has a new website where you can check if an image is real or AI slop
OpenAI is making it easier to check if an image was made by their models
OpenAI adds C2PA metadata and SynthID watermarks to AI images
OpenAI Adopts Google SynthID to Build Dual-Layer AI Content Detection System
(首圖來源:Google)