OpenAI 著手開發新工具，幫助研究人員辨識內容真實性
OpenAI 新增一項工具以偵測圖像是否使用 DALL·E 3 的圖像生成器製作而成，還有新的浮水印方法以標記 AI 生成內容。
OpenAI 透過官方部落格文章指出，著手開發新的出處方法以追蹤內容並證明它是否為 AI 生成。其中包括一種新的圖像偵測分類器，運用 AI 技術來確認圖片是否由 AI 生成，還有一種防篡改浮水印，可用看不見的訊號標記音訊等內容。
圖像偵測分類器可分析圖像由 DALL·E 3 生成的可能性，雖然檢測圖像由 DALL·E 3 生成的準確率約達 98%，但在判斷其他 AI 模型如 Midjourney 的生成內容時，準確率並不高，只能檢測出 5% 至 10% 的圖像。
OpenAI 先前使用 C2PA（Coalition for Content Provenance and Authenticity，內容出處和真實性聯盟）制定的標準，將內容憑證新增至圖像 metadata，現在 OpenAI 進一步加入 C2PA 的指導委員會。
不過，OpenAI 表示影像偵測分類器和音訊的浮水印訊號仍在完善整體功能，需要獲得用戶的意見回饋來測試有效性。
（首圖來源：shutterstock）
留言 1