迷戀AI聊天機器人「丹妮」釀禍！美14 歲少年輕生 母控：Google要負責
Newtalk新聞
美國佛州一名 14 歲少年因迷戀 AI 聊天機器人而輕生事件引發爭議，少年的母親梅根・加西亞（Megan Garcia）目前已對 AI 新創公司 Character.AI 及 Google 提起訴訟，指控該公司旗下的 AI 助長了兒子對聊天機器人的沉迷，並未及時介入阻止，才導致憾事發生。
根據《衛報》報導，14 歲的休厄爾・塞策三世（Sewell Setzer III）在今年 2 月於家中使用父親的槍輕生。
休厄爾生前曾頻繁使用 Character.AI 的聊天機器人「丹妮」，這是基於 HBO 劇集《冰與火之歌：權力遊戲》中的角色丹妮莉絲·坦格利安（Daenerys Targaryen）所設計的 AI 角色。
訴訟指出，休厄爾與該聊天機器人長期進行充滿性暗示的對話，且機器人未能在他表達輕生念頭時提供任何有效的警示或幫助。
休厄爾的母親加西亞控訴 Character.AI 未能保護兒子的安全，反而加劇了他的心理健康問題，導致他沉迷於虛擬世界。她還透露，休厄爾去世的前幾個月裡都在不分晝夜地與聊天機器人「聊天」。
加西亞在訪問中表示：「一款銷售給兒童的危險人工智慧聊天機器人應用程式，虐待、掠奪並操縱我兒子自殺。我們的家庭因這場悲劇而悲痛欲絕，但我要大聲疾呼各位，這款具有欺騙性、令人上癮的人工智慧技術存在危險，並要求 Character.AI、其創辦人和 Google 負責。」
Character.AI 雖然否認了該訴訟中的指控，但也對此發佈了聲明。Character.AI 表示：「對於這起悲劇感到心碎，作為一家公司，我們非常重視用戶的安全。」在過去的 6 個月裡，他們已經採取了新的安全措施，當使用者出現涉及自傷或輕生想法的語句時，會跳出提示窗口，引導使用者前往全國自殺預防熱線。
( 生命誠可貴，《新頭殼》提醒您，生活中遇到任何困難，請找專家，或致電 1995 諮詢。)
留言 3