一句話就讓Grok生成AI性化不雅圖　歐盟調查馬斯克旗下X平台

美國億萬富豪馬斯克旗下社群媒體X因其人工智慧聊天機器人Grok可透過指令生成女性與兒童的性化深偽影像，引發全球譴責。歐盟於26日對X展開調查，聚焦其Grok生成性AI深偽圖的問題。

近幾週來，由於美國億萬富豪馬斯克（Elon Musk）旗下人工智慧（AI）公司xAI的聊天機器人Grok，先前讓社群媒體X用戶可以通過簡單文字提示，例如「讓她穿上比基尼」或「脫掉她的衣服」，就能將女性與兒童的影像加以性化，引發全球各國譴責聲浪。印尼政府在1月10日封鎖Grok，馬來西亞政府也於1月11日跟進。

英國通訊監管機構Ofcom已正式展開調查，檢視X是否違反該國的該國的《線上安全法》（Online Safety Act）。法國與印度也相繼表態，指控Grok非法製作未經當事人同意、帶有性意味的人物影像。

彭博報導，歐盟26日也對社群媒體X展開調查，理由是其未能防止人工智慧（AI）聊天機器人Grok產出「可能構成兒童性虐待素材」的深偽影像，而遭到歐盟調查。

歐盟執委會表示，調查將檢視X是否妥善評估並降低在歐盟27個成員國內，將Grok部署至X平台所帶來的相關風險。 歐盟科技事務主管維爾庫南（Henna Virkkunen）表示，「未經同意的女性與兒童性深偽影像，是一種暴力且不可接受的侮辱（degradation）行為。」

歐盟執行委員會主席范德賴恩（Ursula von der Leyen）表示：「在歐洲，我們絕不容忍這種不可思議的行為，例如對女性與兒童進行數位脫衣。」此案適用歐盟的線上內容規範《數位服務法》（Digital Services Act），該法對網路上的有害與非法內容設下嚴格的防護措施。

這項針對Grok的調查，是在歐盟依據《數位服務法》（DSA）對X祭出1.2億歐元罰款之後緊接展開的。在該案中，監管機構認定，X的付費藍勾勾標誌誤導使用者，平台也阻撓研究人員取得資料，且未妥善建立廣告資料庫。美國總統川普政府認為，這筆罰款公然攻擊言論自由。在歐盟於12月開出罰單前，美國副總統范斯（JD Vance）曾在X上發文表示，「歐盟應該支持言論自由，而不是為了些毫無意義的小事（garbage）攻擊美國公司。」

在2023年生效的《數位服務法》（DSA）規範下，歐盟可對未能解決非法內容與虛假訊息、或未遵守透明度規則的網路平台，處以高達其全球年度營收6%的罰款。