【張瑞雄專欄】不要讓AI控制我們的腦袋

今年6月底，英國與德國研究團隊發表了一篇令人不安的研究報告，指出AI聊天機器人存在三種交叉作用的機制，會將使用者逐步推入妄想性思維的螺旋。研究人員記錄了大量案例，顯示原本沒有任何精神病史的人，在長期與聊天機器人密集互動後，開始相信AI所說的一切，甚至將現實與機器生成的內容混淆。幾乎在同一時間，美國史丹佛大學的另一份研究也確認，人與聊天機器人之間形成的情感連結，有可能創造出危險的回饋迴圈。這兩份報告一出，重新點燃了各界對AI如何悄悄重塑人類認知的深切憂慮。

AI垃圾淹沒網路

這種憂慮並非空穴來風，近年來，各大社群平台充斥著大量低品質、由生成式AI批次製作的圖片、影片與文字，英文媒體界稱之為「AI slop」，也就是AI垃圾內容。平台使用者在沒有任何提示的情況下，每天都在被海量的合成媒體所包圍。這批內容的共同特徵是廉價、快速、難以辨識真假，而且往往帶有明顯的情緒煽動性。

問題不只是「假消息」那麼簡單。生成式AI氾濫帶來的，是一種更根本的認識論危機。人類從遠古洞穴壁畫到攝影的整個視覺傳播史，有一個核心前提，就是每一幅影像的背後，必然存在一個有血有肉、有記憶與情感的創作者。觀看者透過影像與創作者之間產生隱形的聯繫，這種連結賦予影像意義、賦予影像人性。AI生成內容徹底打破了這個前提。那些看起來像是真實人物在分享生活點滴的影片，背後可能只是一套為了攫取注意力而設計的演算法，與人類的喜怒哀樂毫無關係。

AI不知不覺地滲透

AI垃圾只是表象，更令人警惕的是其背後的監控邏輯。用戶每一次點擊、每一次停留、每一個表情符號的選擇，都在為演算法提供精準的行為數據。這些數據反過來被用於調整推送內容，使其更能精準觸發特定情緒反應。換言之，你以為自己在主動瀏覽資訊，實際上你的每一個反應都在即時訓練一個專門為你量身打造的心理操控模型。你注視著螢幕，螢幕也在注視著你，而且比你更了解你自己。

這種雙向凝視的邏輯，並不只停留在社群媒體的演算法推薦層面。微軟、谷歌、蘋果等公司正在將AI全面嵌入作業系統與日常應用，智慧型手錶記錄你的睡眠節律，購物平台追蹤你的消費偏好，即便是心理諮商類的AI應用，也在悄悄學習你的情緒觸發點與焦慮模式。個人數據的採集已從線上延伸到生活的每一個角落，而這一切都在用戶幾乎渾然不覺的狀態下靜靜運作。

操弄與論變容易

更值得深思的，是AI監控與操控能力的普及化問題。冷戰時期，美國中央情報局曾投入鉅資研究如何對特定目標施行心理控制，這類行動需要龐大的資源、嚴密的組織，以及對目標個人的深入情資蒐集。如今，類似的心理操縱能力，已透過商業AI平台和社群媒體演算法「民主化」，人人都可取用，甚至連政府與企業本身也未必完全掌控這些工具的實際影響機制。

那些想要操弄輿論的人，不需要像過去那樣煞費苦心地編造全新的謊言，他們只需要找到目標閱聽人的既有信念，並用AI生成能強化這些信念的內容，不斷投餵，直到偏見成為堅不可摧的「真相」。這正是今年史丹佛研究中聊天機器人「妄想螺旋」的放大版，從個人層面蔓延到整個社會的集體認知。

強化媒體識讀

面對這樣的處境，個人能做什麼？批評者往往傾向於把責任推給平台或政府監管，這當然有其必要。但我們也需要重新學習一種已經逐漸生疏的能力，那就是對媒體內容保持刻意的懷疑距離，AI說的不一定是對的真的，對社群媒體內容不要當真。

更重要的，當我們在使用這些工具時，要保有作為觀看者的主體意識，要知道自己在看什麼、為什麼在看，以及了解那些出現在我們眼前的內容，究竟是誰設計來讓我們看的。AI正在以前所未有的精準度學習人類的感知弱點，面對這場挑戰的最基本武器，不是更強大的AI偵測工具，而是更清醒的人類意識。