2024年全球逾50場全國選舉 谷歌防AI假資訊有撇步
Newtalk新聞
隨著生成式 AI 技術的快速發展，谷歌(Google)今天發布提升AI內容透明度報告書，包括內容來源和真實性聯盟 (Coalition for Content Provenance and Authenticity, C2PA) 的合作，以及Google打擊「2024年選舉中人工智慧欺騙性使用技術協議」的承諾。
尤其是今年全球將舉行 50 多場全國性選舉，包括即將舉行的美國總統選舉，網路搜尋引擎巨擘的Google究竟採取哪些措施，防範假新聞發生，並提升內容透明度？
一、Google如何提升生成式 AI 內容的透明度？以下為Google回答。
Google 正在協助開發新的技術，幫助大家更容易理解數位內容是如何製作和修改的，就像食品包裝上的營養標示一樣，我們希望讓 AI 產生的圖片或影片也帶有標示，告訴使用者這些內容是如何被創造出來的。C2PA 就像一個聯盟，制定了這些標示的標準，而 Google 也參與其中，努力讓網路上的 AI 內容更加透明化，包含：
內容憑證（Content Credentials）：Google 參與開發 C2PA 最新版本的內容憑證標準；這個版本更加安全，可以抵禦更廣泛的篡改攻擊，因為它對驗證內容來源歷史記錄的技術要求更加嚴格。
整合C2PA 的技術標準至 Google 的產品與服務：Google 也將整合上述內容憑證標準到 Google 搜尋、廣吿等產品中：
Google搜尋： 如果圖片包含 C2PA 中繼資料（metadata），使用者將能透過的「關於這張圖片（About this image）」功能查看它是否是由 AI 工具創造或編輯的。「關於這張圖片」的功能有助於為使用提供圖片的背景資訊，並可在 Google 圖片、Lens 和以圖搜圖中使用。
Google 廣告： 我們的廣告系統將開始整合 C2PA 中繼資料。我們的目標是逐步增加這項功能，並使用 C2PA 的訊號作為執行廣告政策的條件之一。
持續發展 SynthID：Google DeepMind 的 SynthID 技術是一款為 AI 生成圖像加入浮水印與並進行識別的實驗性工具。此項技術將數位浮水印直接嵌入圖像的畫素中，人眼無法分辨，但能作為鑑定用途。Google 將持續開發 SynthID 並將數位浮水印嵌入更多元的 AI 生成內容，包含文字、音訊、圖像與影片等。
二、Google 和 YouTube 遵守《技術協議》的進展？以下為Google回答。
作為《打擊 2024 年選舉中人工智慧欺騙性使用技術協議》的原始簽署方，為履行該科技協議中的承諾，我們已在各項產品中採取多項措施，以降低蓄意、未公開和具欺騙性的 AI 生成圖像、音訊或影片可能對選舉程序完整性造成的風險，這些措施包含：
負責任地開發和評估人工智慧模型：我們利用 Model Card 來提高透明度，並增進大家對於 AI 模型的了解程度。
偵測和處理欺騙性內容：我們採用AI 來輔助紅隊測試，並限制在生成式 AI 的應用程式中進行選舉相關查詢。
讓使用者能夠識別人工智慧生成的內容：Google 是第一家要求選舉廣告商明確揭露其廣告包含合成或數位變造內容（包括透過 AI 工具生成）的科技公司。YouTube 也要求創作者在製作逼真的修改或合成內容時進行揭露，並會顯示一個內容標籤，讓觀眾知道他們正在觀看的內容是合成的，同時我們也將 SynthID 浮水印延伸到更多內容格式。
促進跨產業韌性和公共透明度：Google 也積極分享經驗和專業知識，並與民間社會組織合作，例如 C2PA。