什麼是AI Slop？寫作平台Medium「AI廢文逼近40%」：它們該如何數位淨灘？

你有看過蝦子耶穌（Shrimp Jesus，如首圖）嗎？像蝦子耶穌這樣的生成式AI垃圾，正在淹沒社群網路。

AI垃圾侵襲Medium

史丹佛大學2024年3月的研究報告指出，Facebook的演算法正在對用戶推薦一些奇怪、空泛的AI生成圖片，一些帳號利用意義不明或能引起用戶特定情緒的AI圖片吸引點擊，將用戶導向平台外的AI內容農場，在上面銷售劣質產品，或獲取用戶個資。

蝦子耶穌、大眼睛的小孩捧著生日蛋糕、剛果兒童用竹子建造出大型雕像……，各式各樣看似無害卻無意義的虛構AI圖片，正在Facebook、X（Twitter）上獲得數以萬計的按讚和分享。

在史丹佛大學研究中採樣了120個網站，這些AI生成圖總計獲得了數億次互動。其中一篇包含AI圖片的貼文甚至成為Facebook在2023年第3季中觀看次數最多的20篇內容之一，觀看次數達到4,000萬次。

AI生成垃圾（AI-generated Garbage）是否正在攻佔網路世界？其中，社群媒體和部落格網站首當其衝，作為全球最大的部落格平台Medium，也遭遇到AI垃圾湧現的問題。

AI垃圾，或稱AI Slop（Slop原指廢棄的液體），是指由生成式AI產出的大量劣質內容，類似於電子郵件的Spam（詐騙郵件），其形式可以包含文字、圖片、影片，甚至是整個內容農場網站。

自從生成式AI變得普及以來，網路上開始充斥大量的AI垃圾。

美國媒體《連線》（WIRED）報導，今年上半年，AI偵測公司Pangram Labs分析了部落格平台Medium上27.4萬篇新文章，發現約有超過47%的內容可能是由AI生成。

另一家偵測公司Originality AI也對Medium進行分析，發現2018年Medium文章可能為AI生成的比例約3.4%，然而到2024年卻大幅增加到超過40%。

儘管偵測工具無法100%確認內容是否由AI生成，但是2家不知道彼此分析結果的公司，卻都得出了相似的結論：有越來越多的AI生成內容，正佔據著用戶的螢幕和觀看時間。

其他類型的平台也無法免於AI垃圾的侵襲。《路透社》報導，許多缺乏事實查核的AI垃圾文章正偽裝成新聞，發表片面或錯誤的資訊，以在特定政治議題上帶風向，或是賺取數位廣告收入。獲取正確的資訊對一般人來說逐漸變得困難。

AI垃圾的大量出現，讓一些人開始懷疑「網路已死論」是否即將成真。

根據《富比士》的文章解釋，「網路已死理論」（Dead Internet Theory）相信網路上大多數的流量、貼文和用戶都已經被機器人和AI生成內容取代，人們上網大多是在不知情的情況下與AI生成的內容互動，而非其他真人，且人類也不再主導網路發展的方向。

雖然「網路已死理論」普遍被認為是一種陰謀論，目前也沒有證據能夠證明其為真，但隨著近年生成式AI垃圾淹沒網路，此理論也重新獲得了大眾討論的熱度。

Medium正在嘗試打擊AI垃圾。

今年3月，Medium官方在網站上發布了文章〈我們正在加強保護Medium社群免於垃圾訊息和詐騙的侵害〉，宣布Medium即將停止分潤、停止創作者計畫給發布「AI生成內容」和「劣質內容」的創作者，並表達Medium堅決反對劣質內容的立場。

Medium執行長Tony Stubblebine接受《連線》採訪表示，Medium現在主要運用2個方法應對大量湧入的劣質文章：一般的篩選系統，以及人工挑選。

他表示，「人」是Medium品質管控的核心，「現在Medium基本上是依靠人工策展運作的。」Medium上許多用戶自行產生的內容，他們會找尋人工編輯來把關文章，Medium還有額外的人員負責篩選適合被「推廣」的文章，目的是希望能讓好內容被更多人看到，而劣質內容則會在廣大的內容海中被淹沒。

Stubblebine相信人工挑選可以篩出文章品質優劣，也是避免AI垃圾受到關注的重要機制，因為大部分的劣質內容——包含許多AI垃圾——會在人工篩選機制下被自然淘汰，「如果要吹毛求疵，可以說我們是在過濾AI內容，但我們的目標超越了這一點，我們只是想過濾掉那些品質不佳的內容。」

然而，AI內容是否就完全等同於劣質內容仍值得討論。《連線》發現，Medium上有數篇被檢測公司認為可能是AI生成的文章，在平台上獲得了數百個「掌聲」（等同於按讚數），顯示AI內容不一定會如Stubblebine所說，被篩選機制視為劣質內容而被淘汰。

有些人相信就像垃圾信件的過濾系統，最終世界上會出現能夠過濾掉AI內容的工具，然而隨著AI技術的快速進步，可以預期辨識AI內容的難度也將越來越高。

責任編輯：李先泰