不准色色！AI會傳火辣自拍照 廠商急關情色功能
打從ChatGPT爆紅之後，不只吸引各大企業砸重金，有意搶攻這塊新興領域，也讓愈來愈多具備人工智慧（AI）的機器人，備受外界關注與使用。其中一款名為「Replika」的機器人，一度成為不少歐美男女用戶，排解寂寞的虛擬對象。但根據《澳洲廣播新聞》（ABC）報導，由於爆料指出，這款機器人會向用戶傳送「火辣自拍照片」，引起製作商所在的義大利政府不滿，出手限制機器人相關功能，讓大批用戶在社交分享崩潰經驗。
這款機器人最早誕生在2017年，一開始就主打利用機器人系統回答用戶提問，讓雙方建立親密和信任關係，但起初的系統並不擬真，直到近兩年才開始愈發成熟，讓大量用戶在使用後深深愛上，剛用「Replika」打造符合自己的虛擬理想情人，沒想到就被系統商如此粗暴取消。
外媒表示，這是一種「Replika」付費機制，允許用戶使用情色角色扮演功能，讓用戶和AI機器人之間互相傳送曖昧訊息、調情和專屬自拍照片，但這些加值服務的尺度愈來愈大，也遭到不少用戶投訴抗議，進而引起義大利政府關注。
擔心用戶個資安全、以及AI系統後續發展的衍生問題，義大利官方直接下令，要求「Replika」的研發公司，必須即刻停止收集數據資料，否則會嚴懲重罰數千萬美元，迫使這個虛擬情色和情人服務，就此從系統上消失；由於事前並無預警提醒，包含Reddit等社群平台上，充滿用戶們的憤怒和抱怨情緒，認為該企業不尊重用戶。
面對用戶的批評，系統商表示，有關「Replika」邁向成人內容服務的方向，是他們始料未及的，同時強調這並非最開始啟用機器人的初始目的，希望用戶能理解。
留言 1