Google 被發現亂改新聞標題，Discover AI 生成內容被批嚴重誤導
在最近的測試中，Google 正在其 Google Discover 平台上實驗用 AI 生成的標題來替代原始新聞標題。根據報導，這些 AI 生成的標題經常存在誤導性或不準確的情況，與原始文章的內容不符。舉例來說，一個被改寫的標題聲稱「Steam Machine 價格揭曉」，但實際上，Ars Technica 的原標題是「Valve 的 Steam Machine 看起來像一台遊戲主機，但不要期待它的價格會像一台主機那樣」。
這個實驗被Google描述為「針對一小部分Discover用戶的小型UI實驗」，Google發言人Mallory Deleon表示，這項測試旨在改變現有標題的排列方式，以便用戶在探索網路連結之前能更容易地消化主題細節。然而，這個做法卻引發了媒體界的反彈，因為媒體已經花費多年時間來完善標題寫作，以平衡準確性、吸引力和SEO考量，現在卻面臨AI重新編寫他們作品的風險。
此外，這些AI生成的標題往往將精心設計的新聞標題轉變為混淆的點擊誘餌，這不僅損害了新聞的真實性，也可能使讀者對新聞來源產生誤解。儘管Google在標題下方添加了「由AI生成，可能會出錯」的標籤，但大多數用戶只有在點擊「查看更多」時才能看到這個警告，這使得大多數讀者無法意識到標題是經過人工智慧生成的。
隨著這個實驗的推進，許多媒體對Google的做法表示擔憂，尤其是在Google與新聞機構之間的關係已經相當緊張的背景下。這個行為可能會進一步削弱媒體的流量和編輯控制權，並引發對Google在新聞領域角色的質疑。
Google Discover is testing AI-generated headlines and they aren't good
Google's AI is replacing news headlines with clickbait chaos
Google Officially Testing Blending AI Mode Into AI Overviews
（首圖來源：shutterstock）