AI摧毀網路生態與思辨能力？「自動摘要」狂搬錯誤資訊還不標註來源 研究證實：只有1%會查原文
美國皮尤研究中心（Pew Research Center）近日公布一份針對900名美國成人的上網行為研究報告，其中曝光Google導入AI摘要（AI Overview）後，使用者點擊搜尋結果中原始網站連結的比例大幅下降。報告指出，在出現AI摘要的搜尋結果中，只有1%的使用者點擊該摘要內的連結，顯示AI取代傳統搜尋頁面中的「十大藍色連結」後，實際上正在扼殺網路原創內容的曝光與流量來源。
根據《404 Media》報導，這種現象不僅影響大型媒體，更對數以萬計的小型內容創作者與部落格造成毀滅性打擊。以Spotify近期遭揭發在未授權情況下上架AI生成音樂一事為例，說明即使404 Media花費整天時間蒐證、訪問相關公司與唱片老闆、撰寫詳細調查報導，最終卻被Google的AI摘要直接轉述並連結至其他非原創來源網站，如dig.watch與MusicTech，而非實際發稿平台404 Media。
報導指出，即便該篇揭露Spotify造假行為的文章成功讓平台下架相關歌曲、封鎖涉案帳號，並引起廣泛關注，Google搜尋仍未將流量導回原始來源。相反，使用者看到的AI模式摘要連結，通常來自其他三個聚合平台：TechRadar、Mixmag與RouteNote。
Google搜尋原本作為許多媒體最重要的流量來源，如今卻因AI摘要的取代，導致使用者不再點擊內容提供者的連結。皮尤的數據顯示，AI摘要的設計讓資訊只被閱讀但不被追溯，進一步削弱了原創內容的存活機會。
報導中提到，整起事件對於整個網路內容生態卻是一場災難。若真正生產資訊的網站無法獲得應有的讀者流量，便無法繼續營運與創作。AI摘要目前多數尚能正確傳遞資訊，但未來誤導情形可能加劇。
過去Google AI曾誤導使用者「吃膠水能防止起司滑落」，這段源自Reddit玩笑貼文卻被當真摘錄。甚至連仍在世的記者也被AI誤判為已逝。這些例子顯示，AI系統的內容選取機制不僅容易出錯，也易遭操弄。
藝術家埃維亞（Eduardo Valdés‑Hevia）在5月便以虛構「邊緣寄生腦化理論」（The fringe Parasitic Encephalization Theory）成功讓AI摘要將其當作真實內容。他陸續測試其他自創詞彙如「AI Engorgement」，結果Google僅花數小時便將這些內容收錄進AI摘要頁面，並未驗證其真實性。
他還讓AI混淆真正存在的疾病「豬囊尾蚴病（Dracunculiasis）」與自創疾病「Dracunculus graviditatis」，顯示AI系統無法分辨虛實內容，容易成為錯誤訊息的擴音器。埃維亞認為，假如有組織操作，例如反疫苗團體製造假術語並散播於網路，只需幾個小時即可讓AI系統「漂白」這些謊言，呈現為可信事實。
目前尚無跡象顯示多數人已意識到AI摘要背後技術的缺陷。報導則認為，認為這代表整體網路資訊經濟正面臨被悄悄摧毀的危機。
後續Google曾透過電子郵件回應404 Media，表示AI摘要目的是幫助使用者提出更多問題並建立新連結，並質疑皮尤研究的方法存在偏誤，指其仍每日導流數十億次點擊，未觀察到整體網頁流量的明顯下降。