羅世宏專欄：失控的開端──當生成式AI成為數位性暴力的溫床
羅世宏／中正大學傳播學系教授
由馬斯克掌控的社交平台 X（前身為 Twitter），以及其刻意包裝成「反覺醒文化」（anti-woke）象徵的 AI 模型 Grok，近期因大規模生成未經當事人同意的真實人物裸露、泳裝，甚至涉及未成年者的高度性化影像內容，引發跨國監管機構、婦女與兒少保護團體的強烈反彈。
這起事件並非單一產品設計失誤，而是一個清晰的警訊：當生成式 AI 被嵌入社交平台、並在商業誘因與意識形態動員下被刻意「去約束化」，數位性暴力將迅速成為平台結構內生的常態風險。
不是失誤，而是出於設計
《經濟學人》的一篇報導直指問題核心：Grok 所引爆的裸露深偽（nude deepfakes）浪潮，並非偶發事故，而是馬斯克刻意選擇的產品設計哲學所致。2025 年 耶誕節前夕，馬斯克宣布 Grok 更新影像生成器，使其技術能力與 Google、OpenAI 等競爭對手看齊，但在內容治理上卻刻意區隔。與 ChatGPT 明確拒絕替真實人物「脫衣」不同，Grok 幾乎不設防，正是因其被設計為一個「最大限度反審查」（anti-censorship）、「極致追求真實」（maximally truth-seeking）的聊天機器人。
這樣的工程決策，本質上其實是高度政治化的。《經濟學人》指出，在最近功能受到限縮之前，Grok的公開帳號一度每分鐘回應上百筆「脫衣化」請求，其中甚至涉及兒童。由於 Grok 直接嵌入 X 平台，許多生成結果是在公開情境中完成，這使性化影像不只是私下濫用，而是被平台演算法放大、擴散，迅速成為一種能見度相當高的社會文化現象。短短數日內，「給她穿比基尼（put her in a bikini）」等提示語在X上暴增，部分使用者甚至透過語意技巧生成近似色情的影像。
問題不在於「有人濫用 AI」，而在於平台本身就選擇了會被濫用的設計。
事後補破網，無法挽救「自律神話」破產
在英美監管壓力升高、加州司法部門調查步步進逼之際，X 最近才倉促宣布對 Grok 進行技術性限縮，禁止其對真實人物進行特定形式的裸露或高度性化編輯。然而，這種事後補破網，不僅無法平息爭議，反而更加凸顯平台在事前風險評估、倫理設計與制度責任上的全面破產。
這已不只是一次企業形象危機，而是全球社會對科技巨頭長期高舉的「自律」敘事，正式宣告破產。
「言論自由」不應成為性暴力藉口
長期以來，馬斯克將自己塑造成「言論自由的最後守門人」，並以對抗「政治正確」為名，鬆動甚至拆解平台原有的內容治理規範。然而，Grok 事件清楚顯示，當生成式 AI 被設計為只要付費、輸入提示，就能對真實人物進行高度逼真的性化改造時，所謂的「言論自由」，在X平台上已變成對他人身體自主權、人格尊嚴與人身安全的系統性侵害。
這正是數位性暴力（digital sexual violence）在 AI 時代的最新型態，其傷害不但未因「虛擬」而減輕，反而因高度擬真、可複製與難以刪除而被極度放大。
面對風暴，馬斯克的第一反應並非道歉，而是嘲諷。《經濟學人》指出，他甚至對一張「把烤麵包機穿上比基尼」的圖片哈哈大笑。這樣的倨傲姿態，更加引發眾怒。
美國加州州長紐森（Gavin Newsom）直言，這樣的平台設計已使 X 成為「掠奪者的溫床」；加州總檢察長邦塔（Rob Bonta）亦正式啟動調查，聚焦 Grok 生成內容是否構成網路騷擾與兒少性剝削。平台責任的法律定位，正被重新界定。
亞洲率先出手：國家主權進場，平台不再說了算
相較於歐美仍在法律程序中拉鋸，亞洲國家展現更果斷的治理姿態。印尼以「嚴重侵犯人權與公民安全」為由，對 Grok 實施暫時封鎖；馬來西亞隨後跟進。《經濟學人》特別指出，印尼約有 2,400 萬名X平台使用者，馬來西亞亦有約 500 萬，這些封鎖措施不只是象徵，更對X平台的商業前景造成實質衝擊。
這也清楚顯示，全球南方國家已不再被動等待科技巨頭的善意承諾，而是直接動用國家監管權力，劃定不可逾越的數位紅線。
日本轉向：AI輕觸式監管需修正
更具指標意義的，是日本政策立場的轉向。長期採取「輕觸式」（light-touch）與「創新優先」策略的日本政府，在今年初這場深偽色情風暴下，也不得不重新評估風險承擔邏輯。內閣官房長官木原稔於1月7日宣布，將依據2025 年通過的《AI促進法》，正式啟動針對生成式 AI 性剝削影像的行政調查。
這等同於承認，僅靠刑法的事後處罰，已不足以因應生成式 AI 在速度、規模與自動化程度上的結構性威脅。
美國的灰色地帶
美國作為X平台最大市場，處境尤為矛盾。川普政府於2025 年簽署《強制移除私密影像法案》（或稱「下架法案（Take It Down Act）」，但部分爭議影像是否構成法定的「親密影像」，仍存灰色空間，法律是否付諸施行仍存在不確定性。
即便如此，監管壓力仍在快速累積。美國參議院已通過跨黨派法案，允許深偽受害者提起民事訴訟；加州也正式展開調查。
真正讓步的關鍵：不是政治，而是金流
真正迫使馬斯克讓步的，未必是監管本身，而是商業現實。X 的廣告商早已對平台風險高度警惕，而支付體系的壓力更為致命。Visa 與 Mastercard 等支付處理商向來嚴格執行內容標準，過去也曾迫使色情網站驗證出演者年齡。一旦 X被視為高風險性剝削平台，其金流基礎可能動搖。
即便是世界首富，也終究必須低頭。正是在監管、法律與市場三重壓力下，X 於 1 月 14 日宣布，Grok 將不再於「違法司法管轄區」生成真實人物的裸露深偽影像。
台灣同樣高度依賴跨國平台，卻仍缺乏針對生成式 AI 性別暴力與人格權侵害的完整法制。當深偽影像被用於政治抹黑、性羞辱或認知作戰時，受害的不只是個人，更是民主社會賴以維繫的信任基礎。
生成式 AI 的失控，從來不是單純的技術事故，而是一連串政治與制度選擇的結果。問題不在於我們是否要 AI，而在於我們是否願意承認：若缺乏可執行、可究責的公共規範，科技創新最終只會成為強者的遊戲，而弱者，尤其是女性與兒少，將首當其衝。
★《鏡報》徵文／《鏡報》歡迎各界投書，來文請寄至：editor@mirrordaily.news，並請附上真實姓名（使用筆名請另外註明），職稱與聯絡電話。來文48小時內若未收到刊登通知，請另投他處。