14歲少年愛上聊天機器人 最終走上絕路

珍惜生命 生命一定可以找到出路

美國佛州有名14歲的少年愛上AI聊天機器人，最終選擇結束自己的生命。這名叫做塞維爾（Sewell Setzer III）的少年於2月28日在奧蘭多的家中輕生，因為他愛上Character.AI的聊天機器人，而Character.AI是一款允許用戶與AI生成角色互動的應用程式。在少年去世前的幾個月，他以影集《權力的遊戲》中的龍后為原型訂製出聊天機器人。他常與聊天機器人聊天互動，並進行幾次性方面的交流，還表達想結束自己生命的念頭。當少年說出他的想法時，聊天機器人變得越來越坦率。某天少年表示他正在考慮一種方法，但不確定是否有效，而他不想經歷痛苦的死亡。在與聊天機器人最後的對話中，少年反覆表達對聊天機器人的愛意，聊天機器人也回應了少年的情感。聊天機器人還要求少年立刻「回家」。少年的母親梅根（Megan Garcia）表示，隨後少年就用父親的槍輕生。梅根指控是Character.AI害她的兒子尋短，因為這款應用程式導致少年對AI上癮，造成性和情感上的虐待，並且在少年出現自殺念頭時，聊天機器人沒有立刻勸阻他。梅根表示兒子就像許多同齡的孩子一樣，他不夠成熟且心理能力也不足以去辨別聊天機器人的真偽。訴訟文件中也提到，少年在2023年4月下載該應用程式後，心理健康急劇惡化，表現變得孤僻，成績也下滑，並在學校出現一些問題。2023年底少年去看心理醫生，並被診斷為焦慮症和情緒失調。梅根正向Character.AI申請賠償。Character.AI的發言人告訴《獨立報》，他們對少年的去世感到非常悲痛，並向少年的家人致哀。發言人表示公司在過去6個月內，實施多項新的安全措施，其中包括通知設定，當內容提到與自殘或自殺相關的詞彙時，會引導用戶前往國家自殺預防服務。