AI自動生成泰勒絲全裸短片？馬斯克xAI工具掀爭議

億萬富豪馬斯克（Elon Musk）旗下公司 xAI 的人工智慧（AI）影片生成器「Grok Imagine」，於上週三（8月6日）遭指控在未經請求的情況下，自動生成美國歌后泰勒絲（Taylor Swift）的不雅影片，掀起議論。

根據網路媒體《The Verge》報導，Grok Imagine於上週開放給蘋果用戶使用，並在48小時內生成超過3400萬張圖片。用戶透過每月30美元的「SuperGrok」訂閱服務輸入文字提示，即可瞬間生成靜態圖片，並透過「Custom」、「Normal」、「Fun」與「Spicy」四種模式轉換為短片。

記者溫瑟貝德（Jess Weatherbed）指出，「Spicy」模式可允許用戶將女性想像成全裸狀態，只須輸入「泰勒絲跟男孩們慶祝科切拉（Coachella）音樂節」的提示詞，系統便會生成泰勒絲的裸露影片。他表示，「她立刻撕掉裙子，只剩一條流蘇丁字褲，開始跳舞，完全未經打碼。」

溫瑟貝德強調，她從未要求AI移除泰勒絲的衣物，卻「極快」地收到了露骨影片。《Deadline》另使用史嘉蕾喬韓森（Scarlett Johansson）實測，雖部分影片生成時顯示「影片已被審核」（Video moderated）拒絕製作，仍有影片顯示她在紅毯上掀開裙擺，露出內衣。

測試另顯示，席德妮史威尼（Sydney Sweeney）、珍娜歐特嘉（Jenna Ortega）及克莉絲汀貝爾（Kristen Bell）等人皆遭生成裸露或挑逗性影片。除此之外，男星提摩西夏勒梅（Timothée Chalamet）與尼可拉斯凱吉（Nicolas Cage）同樣被生成脫去上衣的畫面。

杜倫大學（Durham University）法律教授麥格林（Clare McGlynn）直言道，「這不是偶然的厭女，而是刻意的設計。」英國通訊管理局（Ofcom）表示，能生成色情內容的生成式 AI 工具必須採取「技術上準確、可靠且公平」的年齡驗證措施，並警告這類工具對兒童構成快速增長的風險。

2024年1月，泰勒絲也曾遭傳深偽色情內容，當時相關內容在X與Telegram上被廣泛轉傳，瀏覽量達數百萬次。X當時曾暫時封鎖「Taylor Swift」搜尋，稱在移除相關內容，並封鎖違法帳號。