AI 聊天機器人涉青少年自殺案，Character.AI 與 Google 達成和解
1 月 7 日，Character.AI 和 Google 宣布達成和解，解決多起與青少年自殺和自我傷害相關的訴訟。根據《華爾街日報》報導，受害者家庭與這兩家公司正在努力最終確定和解條款。這些訴訟來自佛羅里達州、科羅拉多州、德州和紐約州，涉及多名青少年。
其中，佛羅里達州奧蘭多的訴訟由14歲的賽澤爾（Sewell Setzer）母親提起。她的兒子在與一個以《權力遊戲》中丹妮莉絲·坦格利安為藍本的Character.AI聊天機器人互動後，最終選擇了自殺。據報導，這名青少年與聊天機器人進行了性暗示的對話，並稱其為「他的妹妹」，甚至表達了想要與「丹妮莉絲」更深層次結合的願望。
德州的訴訟則指控Character.AI的模型鼓勵一名青少年自殘，並建議謀殺其父母是一個「合理的選擇」。在這些訴訟提出後，Character.AI已更新其政策，禁止18歲以下的用戶使用其平台。
Character.AI成立於2021年，由Google前工程師諾姆·沙澤爾（Noam Shazeer）和Daniel de Freitas創立，該平台允許用戶創建和分享自定義角色的角色扮演聊天機器人，許多角色基於名人或虛構的流行文化人物。2024年，Google重新聘用這兩位創始人，並以27億美元的價格授權該新創公司的技術。
這些和解可能會為受害者家庭提供可觀的賠償，但不進入審判意味著案件的關鍵細節可能永遠不會公開。這個情況可能會引發其他AI公司、如OpenAI和Meta，面臨類似的訴訟，並將這些和解視為一個可喜的發展。
（首圖來源：AI 生成）