拜生成式 AI 發展所賜，人們現在利用 Midjourney 和 Stable Diffusion 等圖像生成工具就能輕鬆產製大量圖片，但也惹出不少「假新聞」爭議，像是前些日子，就有 AI 生成的美國前總統川普（Donald Trump）被捕、特斯拉執行長馬斯克（Elon Musk）和通用汽車執行長瑪莉．巴拉（Marry Barra）牽手上街圖片在社群媒體上瘋傳；5 月份一張五角大廈爆炸的生成圖甚至影響了股市。
對此，今年 7 月白宮召集了各大科技領袖舉行 AI 會議，與會的企業（包括 Google 和 OpenAI 等）承諾會開發出浮水印工具，讓 AI 生成圖更容易辨識。Google DeepMind 也於今年 8 月開發一個 AI 檢測工具：SynthID。
SynthID：為 AI 圖片加上浮水印，履行負責任 AI
SynthID 旨在為 AI 生成的圖片添加、偵測浮水印，以便於人們辨識圖片是否由 AI 生成。與一般直接壓在圖上的浮水印不同，SynthID 的浮水印一般肉眼無法察覺，需要特定系統才能辨識，且它也不會因為圖片被裁切、畫質改變、套用濾鏡而失效，甚至是以破壞性資料壓縮方式儲存圖片，該浮水印也不會消失。
除了檢測圖片外，Google DeepMind 希望 SynthID 未來還可以辨識影片或文字是否由 AI 生成。「雖然它仍不是解決 Deepfake 換臉技術或者任何惡意散播假圖片的萬用解方，但它在此領域絕對是一個重大突破。」Google DeepMind 指出。
目前，Google 只開放這項服務給使用雲端服務的付費顧客，且可被加上浮水印的圖像僅限 Google 圖像生成工具 Imagen 所產生的，公司也強調這項工具還在實驗階段。
AI 圖片真假難辨，浮水印是好解方嗎？
美國華盛頓大學數據實驗室主任偉斯特（Jevin West）指出，發生重大事件後社群平台湧入大量假影像將可能是未來的日常，而這些假影像將在社會的關鍵時刻混淆大眾視聽，AI 生成影像可能會帶來「真相危機」。
科技巨頭研發出各種浮水印的工具，企圖對抗假圖像猖獗的現象，但《Wired》報導指出，專家認為浮水印只是個「權宜之計」，有心之人還是可以研究怎麼繞過浮水印，就如同資安公司與駭客連續的攻防戰一樣。
又或者，當 AI 生成圖被放入自製影片中，在不同媒體相融合下浮水印該如何標註，也會是個挑戰。幫助人們利用科技促進人權的非營利組織 Witness 專案總監格雷戈里（Sam Gregory）舉例：「有人可能會將真實的音檔放在經過處理的圖像或影片上。在這種情況下，平台需要弄清楚如何標記某個部分（但不是全部）是 AI 生成的。」
AI 生成的內容，應該告訴用戶嗎？兩派說法一次看
企業已陸續將生成式 AI 用於一系列面向客戶的應用領域，除了生成圖片之外，也可以生成廣告標語、新聞稿、行銷文案等等。然而，企業是否應該告知用戶，其內容是由 AI 生成的，有兩方意見：一些企業認為揭露內容來源很重要，另一些則認為，只要內容正確，來源並不重要。
美國西北大學凱洛格管理學院（Kellogg School of Management）管理與組織助理教授雷瀚曼（Hatim Rahman）指出，若企業以自己的數據訓練生成式 AI 模型，並確保內容的準確性和原創性時，就可以自行決定是否揭露生成式 AI 的使用情況。「將文案撰寫外包給他人的公司並不會披露行銷素材由誰撰寫，公眾也沒有對揭露這些資訊有期望。」他說，「當初圖片編輯平台 Adobe Photoshop 流行起來時，也有過類似問題，如今大多數公司都不披露它們使用的圖片是經過圖片編輯的。」
雷瀚曼也表示，雖然還沒有明確的法規，可若企業使用的是利用公開數據訓練的公開模型，不揭露可能會產生法律問題，因為相關模型可能是根據受版權保護材料訓練的。
另一方像是軟體公司 Laserfiche 的企業戰略資深副總兼資訊長非爾普（Thomas Phelps）就說，該公司禁止員工將 AI 生成的內容視為自己的內容，並要求他們在使用 AI 生成素材時必須標明。
同樣的，Adobe 最近推出的影像生成工具「Firefly」，也在每個 AI 生成的圖片中納入「內容身分證」，來告訴讀者它是否為 AI 生成。「揭露內容來源也是公司與客戶建立信任和透明度的一種方式。」軟體公司 SAP 行銷和解決方案長懷特（Julia White）如此說道。
在資訊量愈來愈龐大，真假愈加難辨的網路世界中，閱聽人不僅可能被虛假的事物愚弄，也可能逐漸不相信真實的事物，未來如何讓閱聽人在茫茫資訊海中能辨識資訊、消息來源，將是生成式 AI 技術發展之餘，不可忽略的課題。
資料來源：DeepMind、Wall Street Journal、Axios、WIRED
延伸閱讀
消費者願為 AI 產品付費、90% 公司已盈利！盤點 AI 市場現況與機會，還有哪些「明日之星」？
傳統相機廠的反抗！Nikon 推新廣告反擊 AI 製圖：不要放棄真實世界
給圖片就能反推提示詞！Midjourney 超狂新功能，新手也能輕鬆學「詠唱」