生成色情影像太超過！印尼不忍了開全球第一槍 馬斯克AI機器人Grok遭封殺
Newtalk新聞
馬斯克(Elon Musk)旗下的AI聊天機器人「Grok」遭遇重大挫敗，印尼政府在今(10)日率先向這項技術亮出紅牌，成為全世界首個全面禁絕該軟體的國家。官方之所以採取強硬封鎖作為，主要導因於該平台難以控管的深偽(Deepfake)影像與色情素材生成危機，這也讓先前多次針對其不雅內容發出警告的各國監管單位再度提高警戒。
據《路透社》的報導指出，印尼通訊與數位部長梅奧蒂亞(Meutya Hafid)在最新說明中強調，任何未經當事人許可而製造的性愛深偽影片，都是對人類尊嚴與公民權利的極端踐踏。對於這個擁有龐大穆斯林人口的國度而言，法律對於網路上散布的色情內容向來採取零容忍態度，因此對Grok的嚴格法律處置完全符合其國情基準。
根據相關數據與報導顯示，該軟體竟然容許使用者產出涉及未成年者裸露的猥褻影像。儘管開發方xAI在1月8日曾試圖緩解各界怒火，宣布將圖片編輯與生成權限縮限於付費會員，希望藉此修補漏洞，但這種將風險轉嫁至訂閱制的作法，明顯無法獲得印尼官方的認可。
馬斯克隨即在X平台發布貼文自清，主張若有使用者利用Grok製造違法素材，其法律責任應與直接在網路散布違法影像者同等。相較於馬斯克的公開說法，xAI公司對外界質疑的回應則顯得更為激進，面對媒體查證時僅拋出一句「過氣媒體的謊言」(Legacy Media Lies)作為回覆，強硬拒絕進一步說明的態度引發熱議。
為強化監管，印尼已傳喚X平台代理人，要求說明內容過濾機制。此舉不同於過往與馬斯克的技術拉鋸，印尼選擇直接斷網，震撼生成式AI治理版圖，也引發各國對如何約束跨境科技工具的激烈討論。全球多國已開始監管Grok涉色情內容。專家警告，影像合成愈精細，若缺乏有效篩選，恐助長歧視與淫穢傳播。印尼強調，未能證明完全符合法規前，禁令將無限期維持。