AI競賽｜聊天機械人 Grok 被指濫用生成不雅影像 印尼馬來西亞相繼禁用

繼印尼宣布暫時封鎖馬斯克旗下人工智能公司 xAI 開發的聊天機械人 Grok 後，馬來西亞通訊及多媒體委員會（MCMC）日前亦宣布實施同樣措施，即日起暫時封鎖該程式。

MCMC 在公告中指出，決定封鎖的原因是 Grok 被濫用生成淫穢、性露骨、不雅、具冒犯性及涉及未成年人的不當影像，部分內容涉嫌違反當地法律。

該機構於1月3日及1月8日先後致函 X（原Twitter）與 xAI，要求其採取更嚴格的技術過濾和審查措施，但對方於1月7日及1月9日回覆稱目前主要依賴用戶舉報機制，暫無計劃進行架構性修改。

MCMC 強調，若 X 和 xAI 能證明其服務完全符合法律要求，當局願重新評估封鎖決定，同時呼籲民眾舉報涉嫌違法或有害的網絡內容，必要時可向警方報案。

Grok 早前因被網民濫用生成女性及兒童「脫衣」照片，引發全球社會與監管關注。xAI 已於上周四更新使用政策，限制 Chatbot 僅供付費用戶使用，但仍未有效平息爭議。

目前，除印尼與馬來西亞外，歐盟、英國、巴西及印度等多國監管機構亦已展開調查。事件顯示生成式 AI 在內容安全與法律合規上的挑戰持續升溫，未來科技企業或需投入更多資源於審查機制與責任監控，以避免政策風險擴大。