憂AI深偽色情風險 印尼成全球首國暫禁馬斯克Grok聊天機器人

印尼政府週六（1月10日）以人工智慧（AI）可能生成色情內容為由，暫時封鎖億萬富翁馬斯克（Elon Musk）旗下的Grok聊天機器人，成為全球首個禁止使用該AI工具的國家。

綜合媒體報導，Grok先前因圖片生成功能允許用戶透過簡單指令便能將女性及兒童照片色情化，引發全球譴責。

延伸閱讀｜Grok AI伴侶功能掀情色暴力爭議 馬斯克將推兒童版「Baby Grok」

延伸閱讀｜AI自動生成泰勒絲全裸短片？馬斯克xAI工具掀爭議

開發Grok的馬斯克（Elon Musk）旗下新創公司xAI週四（8日）表示，正限制圖像生成與編輯功能僅開放給付費用戶，同時修補防護機制漏洞。

印尼通訊與數位部長哈菲德（Meutya Hafid）週六在聲明中指出，政府認為「未經同意的性深偽影像（deepfake）行為，嚴重侵犯人權、人格尊嚴以及公民在數位空間中的安全」。該部也已傳喚X平台相關人員，要求就此事進行說明。

馬斯克則在X平台發文表示，任何使用Grok製作非法內容的人，都將承擔與上傳非法內容相同的法律後果。