憂AI深偽色情風險 馬來西亞跟進印尼暫禁Grok

印尼政府上週六（1月10日）以人工智慧（AI）可能生成色情內容為由，暫時封鎖億萬富翁馬斯克（Elon Musk）旗下的Grok聊天機器人，成為全球首個禁止使用該AI工具的國家。馬來西亞也在週日（11日）宣布跟進。

綜合媒體報導，Grok先前因圖片生成功能允許用戶透過簡單指令便能將女性及兒童照片色情化，引發全球譴責。

延伸閱讀｜Grok AI伴侶功能掀情色暴力爭議 馬斯克將推兒童版「Baby Grok」

延伸閱讀｜AI自動生成泰勒絲全裸短片？馬斯克xAI工具掀爭議

開發Grok的馬斯克（Elon Musk）旗下新創公司xAI上週四（8日）表示，正限制圖像生成與編輯功能僅開放給付費用戶，同時修補防護機制漏洞。

印尼通訊與數位部長哈菲德（Meutya Hafid）上週六在聲明中指出，政府認為「未經同意的性深偽影像（deepfake）行為，嚴重侵犯人權、人格尊嚴以及公民在數位空間中的安全」。該部也已傳喚X平台相關人員，要求就此事進行說明。

馬來西亞隔日也對Grok實施臨時禁令，理由是「該工具一再被濫用，用來生成淫穢、露骨、下流、極度冒犯且未經同意的變造影像，包括涉及女性與未成年人的內容」。印尼與馬來西亞皆為穆斯林占多數國家，對色情內容設有嚴格法律限制。

馬斯克則在X平台發文表示，任何使用Grok製作非法內容的人，都將承擔與上傳非法內容相同的法律後果。