AI 的發展，許多科技巨頭都相信，未來生成式 AI 可以改變我們在搜尋的習慣，網路上大量的資料，與具互動性的機器人結合，取代傳統搜尋引擎，人們不再需要一一瀏覽連結，而是讓生成式 AI 為你生成最直接、具有關聯性、有前後脈絡得回答。
不過這樣的趨勢卻造成了很多 AI 垃圾（A.I. -generated dross），神經科學家霍爾（Erik Hoel）將其稱為「AI 污染」，更有人將創造出新詞「Slop」，與過去在網路甫盛行時，最令人感到困擾，轟炸收件匣垃圾郵件（Spam）相對應，稱如今 AI 的普及則讓用戶的瀏覽器充滿「Slop」。
「Slop」滿天飛，恐對用戶、社會造成負面影響
Google 搜尋結果的 AI 摘要建議人們用膠水把起司黏在披薩上、搜尋美國歷任總統，竟出現只有 17 位美國總統是白人，歐巴馬（Barack Obama） 是白人等荒謬回答，這些由 AI 生成的品質低劣的內容，就是所謂的「Slop」。
西北大學機器人工智慧安全促進中心主任哈蒙德（Kristian Hammond）指出，現有的 AI 模型有個問題，就是以過於「正確答案」的方式呈現結果。
搜尋引擎最佳化（SEO）平台 BrightEdge 執行長吉姆（Jim Yu） 同樣認為，AI 應用到搜尋引擎上，有可能會大大限縮用戶在瀏覽搜尋結果時的選擇，「原本搜尋引擎是在提取大量資訊後，為使用者提供連結跟選擇，但 AI 會直接給出答案，等於人們在缺乏選擇的狀況下被餵養特定結果。」他說。
哈蒙德表示，當人們搜尋一個問題或東西，在過去的搜尋行為下，我們要瀏覽、要思考各種搜尋結果，但現在變成它直接給你答案，不鼓勵用戶思考，只想要你接受搜尋結果，這很危險。「若有不實或錯誤資訊、各種 Slop 出現時，這樣的呈現方法，更是雪上加霜。」吉姆說。
Slop 問題如何解？明確標示「AI 生成」是方法之一
科技新聞網站 404 Media 的寇比樂（Jason Koebler）認為，「Slop」的增加，會讓機器人和真人產製的內容大量混合，他形容這樣的現象為「殭屍網路」（zombie internet）。
Meta 全球事務總裁克雷格（Nick Clegg）表示，「隨著人類內容和合成內容之間的區別變得模糊，人們想知道界線在哪裡。」所以該公司正積極訓練其系統識別 AI 產製的內容，並予以標示。今年 3 月底，YouTube 也正式要求其內容提供者表明他們的影片是否包含 AI 生成的內容。
為減少誤導不知情用戶的風險，TikTok 去年也推出「 AI 生成內容」標籤，不僅能讓創作者發布影片時，提供足夠的背景資訊，也能幫助用戶清楚了解影音內容是否經過 AI 生成。
政府方面，美國聯邦通訊委員會（FTC）也對此提出新法，預計用於管理以 AI 技術生成通話及簡訊內容，避免消費者面臨詐騙等影響。新法規定，任何以 AI 生成通話及簡訊內容都必須明確標示，讓消費者能清楚知曉接收內容為 AI 產生，避免有心人士以 AI 技術進行電話及簡訊內容詐騙。
《衛報》指出，過去面對垃圾郵件，Gmail 等大型電子信箱都站在積極協助打擊垃圾郵件的發送者的位置，透過 AI 來偵測陌生的信件伺服器位置等等。
然而，當前隨著 Slop 的氾濫，科技巨頭積極開發各種生成工具之際，似乎更像是助長 Slop 現象的催化劑，未來該怎麼杜絕垃圾生成結果，優化用戶體驗，是在應用科技之後，不可避免的課題。
【推薦閱讀】
◆ 無法進口美國晶片沒在怕，中國出奇招取得 AI 算力而且擋不了
＊本文開放合作夥伴轉載，參考資料：《New York Times》、《衛報》、《The Atlantic》，首圖來源：Unsplash。
（責任編輯：廖紹伶）
留言 0