xAI遭未成年孩童提告 Grok被控生成性化影像

美國科技富豪馬斯克（Elon Musk）旗下人工智慧公司 xAI 週一（3月16日）遭 3 名田納西州居民起訴，其中包含 2 名未成年人。原告已在加州聖荷西聯邦法院提出本次訴訟，指控 xAI 刻意設計其影像生成工具 Grok，使其能利用真人照片生成具性暗示或裸露內容的影像。

綜合媒體報導，原告正尋求集體訴訟資格，擬代表全美因 Grok 系統生成具性化內容的影像或影片，致使真實身分可被識別的受害者。訴狀指出，原告的影像遭數位篡改為露骨色情內容，且持續在網上流傳，對當事人造成了極大的心理創傷，並構成公共妨害，要求 xAI 停止相關侵權行為。

原告律師馬丁（Annika Martin）表示，「這些孩子原本單純的學校照片和家庭生活照，竟被轉化為兒童性虐待素材。馬斯克與 xAI 為了財務利益，蓄意讓 Grok 生產色情內容，完全不顧及對兒童與成人的傷害。」

據了解，面對外界先前對其聊天機器人生成露骨內容的批評，xAI 曾於今年 1 月表示，已封鎖所有用戶編輯「真人穿著暴露服裝」的影像，並在相關違法轄區內禁止生成該類內容。然而，本次訴訟指出，xAI 仍未採取足夠防護措施，無法有效阻止系統生成涉及未成年人的性化內容。