AI內容辨識新利器：Google SynthID Detector 可協助辨識 AI 生成圖片、影片、音訊
Google 全新推出 SynthID Detector 網站，能協助判斷由 Google AI 工具生成的圖像、音訊、影片與文字等是否帶有 SynthID 浮水印，提升 AI 生成內容的透明度。
由於生成式 AI 的進步，讓網路上充滿著許多由 AI 創作的文字、音訊、圖片、影片，雖然節省了不少時間，卻也讓內容真實性、資訊的內容脈絡與驗證等問題浮現。為此，Google 全新推出 SynthID Detector 網站，可協助使用者快速辨識該內容是否是由 Google 的 AI 工具所生成，讓快速發展的生成式媒體內容辨識更加透明。
SynthID：為 AI 生成內容加上「浮水印」
先前，Google 推出辨識工具 SynthID，能在由 AI 生成的內容上添加浮水印，不僅在視覺上難以察覺，即使內容被分享或經過一系列的修改轉換處理，也依舊能被偵測出來。最初 SynthID 僅專注於 AI 生成的圖像，現在應用範圍將擴展至 AI 生成的文字、音訊和影片內容，包括由 Google Gemini、Imagen、Lyria 和 Veo 等模型所生成的內容。目前已有超過百億筆內容透過 SynthID 加上浮水印。
而 SynthID Detector 則是能偵測出含有浮水印內容的網站。
SynthID Detector 協助辨識 AI 內容
當上傳使用 Google AI 工具所創作的圖像、音訊、影片或文字片段時，SynthID Detector 這個網站會掃描該媒體檔案，偵測上傳內容或其中的特定片段是否包含 SynthID 浮水印。如果偵測到 SynthID 浮水印，它會標示出內容中的哪些部分可能帶有浮水印。針對音訊內容，這個網站能精準標示出偵測到 SynthID 浮水印的特定片段；至於圖像，則會指出最有可能存在浮水印的區域。
SynthID Detector 運作方式如下：
- 上傳內容：上傳使用 Google AI 工具創作的圖像、音訊、影片或文字片段。
- 掃描浮水印：網站會掃描上傳的媒體檔案，偵測上傳的內容或其特定部分是否包含 SynthID 浮水印。
- 檢視結果：網站將呈現結果，如果偵測到 SynthID 浮水印，會標示出內容中哪些部分有可能帶有此浮水印。
Google 表示，產品尚在開發階段，最終細節或有差異。偵測影片及文字浮水印的功能，預計於未來幾週內陸續推出。即日起，Google 已開始向初期測試人員推出此功能，若想要取得 SynthID Detector 的使用權限，可以填寫官方表單加入等候名單。
未來將持續擴展 SynthID 生態系統
為促進一個可信賴的生態系統發展，Google 已開源 SynthID 文字浮水印技術，任何開發者都可以運用並將此技術整合到自己的模型中。先前，Google 也與 NVIDIA 合作，在 build.nvidia.com 上的 NVIDIA Cosmos 預覽版 NIM 微服務所生成的影片加入浮水印；這代表著網路上將有更多內容嵌入 SynthID 浮水印，而不僅限於 Google 生成的內容。
另外，Google 也宣布與內容驗證平台 GetReal Security 展開合作，未來將讓更多合作夥伴也能偵測到內容是否帶有 SynthID 浮水印。Google 強調，「內容透明度」是一項複雜的挑戰，為了持續向接觸 AI 生成內容的大眾提供資訊並賦予內容判斷能力，未來仍舊會與 AI 社群合作並擴大透明度工具的普及。