Google AI 摘要吃掉太多網路流量,Cloudflare 與英國監管單位聯手反擊
Google 昔日靠一項交易稱霸搜尋市場:網站開放爬蟲(crawler)索引內容,Google 則把讀者導回網站。但在生成式 AI 時代,這項交易的天秤明顯傾斜。
Google 爬蟲 Googlebot 長年抓取網頁建立索引,如今搜尋用途與 AI 生成答案的界線日益模糊,同樣爬蟲同時餵養傳統搜尋與 AI 摘要功能。網路安全業者 Cloudflare 執行長 Matthew Prince 指出,Google 爬蟲看到的網頁量是 OpenAI 的 3.2 倍、微軟(Microsoft)的 4.8 倍。他批評,Google 把搜尋與 AI 抓取綑綁在一起,出版商若想阻擋內容被用在 AI 摘要,就得連帶失去搜尋流量。
影響已浮現。英國大型報業集團 Reach 表示,來自 Google 的推薦流量已腰斬,AI 摘要是原因之一。Cloudflare 統計,2026 年 AI 代理程式(AI agent)貢獻超過 57% 網路流量,人類約 42%,機器活動首度超越人類。Prince 預期落差將持續擴大:「相對於代理程式與機器人,人類在網路將只是誤差值。」Meta 執行長祖克柏(Mark Zuckerberg)也宣布,將在 Messenger、WhatsApp 與 Instagram 推出消費者版 AI 代理程式。
若 AI 不斷讀取、摘要並改寫網頁卻不導回讀者,生產原創內容的經濟誘因將逐漸消失。美國反托拉斯訴訟揭露的內部簡報顯示,Google 曾在 2024 年 4 月推出 AI 摘要前,考慮讓網站選擇不讓內容用於 AI 功能、但保留搜尋曝光,最後因這塊「正演變為變現空間」而作罷。
反擊開始成形。Prince 透露,Cloudflare 已對 Google 下最後通牒:自 9 月 15 日起,將預設替廣告收入為主的客戶封鎖混用型爬蟲,Google 恐失去數百萬個網站存取權。英國競爭與市場管理局(CMA)也在 6 月要求 Google,須給網站業者明確選項,可拒絕內容用於 AI 搜尋功能、同時保留傳統搜尋曝光,且不得藉調降排名報復。
Google 發言人證實,公司正測試新設定,讓網站不影響搜尋排名下退出 AI 摘要,英國測試完成後將推向全球。
不過,Google 爬蟲技術仍未分家。外界認為,將爬蟲徹底拆為「傳統搜尋索引」與「AI 搜尋」兩種才是更佳解方,網站方能自行封鎖,不必仰賴 Google 的承諾。Google 仍握有約九成搜尋市占,是通往網路世界的實質門戶。
Google's AI Is Killing the Web. Now the Web Is Fighting Back
Google Is Turning The Internet Into Its Own Prison, And Nobody Can Do Anything About It
(首圖來源:Unsplash)