防堵AI生成色情影像！印尼開先例「封鎖Grok」

馬斯克旗下的聊天機器人Grok踢到鐵板。印尼於10日暫時封鎖聊天機器人Grok，以避免國內民眾接觸到Grok生成的色情內容。另外，社群平台X也成為各國官員抨擊的對象，因為自上週開始，X上充斥著Grok生成的婦女與兒童暴露畫面，且未經當事人同意。

印尼是世界上最大的伊斯蘭國家，嚴格禁止在網路上分享猥褻內容。印尼數位部長在聲明中指出，這些深偽色情內容侵犯了印尼民眾在網路上的人權、尊嚴與安全。

在印尼決定封鎖的前一天，也就是1月9日，英國科技部長表示，「我認為那些AI生成的影像十分卑劣，令人不齒。」並指出，「如果業者不遵守英國法律，管理機構可以封鎖其服務；若通訊管理局決定行使公權力，英國政府將全力支持。」

社群媒體X由馬斯克旗下的新創公司xAI所有，Grok則是xAI研發的聊天機器人。近來歐洲與亞洲多國政府紛紛譴責Grok生成的色情內容，其中部分甚至將名人影像處理成僅剩比基尼的畫面。

Grok於8日表示，已開始限制影像生成功能，並積極修補防護缺失，防止向非付費用戶釋出色情內容，包括衣著暴露的兒童影像。不過，愛爾蘭副總理哈里斯認為，僅將相關功能設限於付費用戶仍不足以防範風險；愛爾蘭已有多位部長刪除手機中的X應用程式。

馬斯克則在X上表示，利用Grok生成非法內容，與上傳非法內容同樣，將面臨法律後果。

國際中心／何丹曦編撰　責任編輯／蔡尚晉

國際