愛人不是人.少年網戀輕生 母怒告AI科技公司
許多人對於AI又愛又怕，當我們讚嘆著AI「栩栩如生」時，卻又害怕人工智慧反過來駕馭操控我們。美國佛州一位心碎的媽媽控告兩家研發AI聊天機器人的大公司，Character.AI和GOOGLE，因為她14歲的兒子與聊天機器人網戀，最後卻走上絕路。青少年大腦尚未發育完全，成人分辨虛擬與真實的能力，理應較好，英國臨床心理研究團隊，就與幻聽患者一起設計虛擬聊天頭像，讓患者與腦中幻聽聲音「見面」，練習對抗，增加心理強度，目前效果相當好。
聊天機器人Character.AI執行長 沙澤爾(2023.9.8)：「你可以看到這技術很大程度上，會應用在娛樂、情感支持這類任務，但它最大的特點是有彈性、用途廣，能造福數十億人。」
Character AI的「創造者」之一沙澤爾，對這神經語言模型聊天機器人程式信心滿滿。透過應用程式可以設定虛擬人物的個性，再給與這「位」人工智慧對話訓練，最後就能放上特定平台與真人聊天。
聊天機器人Character.AI執行長 沙澤爾(2023.9.8)：「你有越多晶片，就能訓練越聰明的聊天機器人，服務更多人。」
輕生少年之母 賈西雅：「一個孩子沒了，我的孩子沒了。」
美國佛羅里達州的賈西雅，不想要甚麼晶片，只想要回她的兒子，但她14歲的兒子塞徹(Sewell Setzer III)今年輕生離世，原因是網戀。塞徹的網名是狄尼洛(Daenero)，網戀對象名叫丹妮莉絲(Daenerys Targaryen)，與暢銷的奇幻小說系列「冰與火之歌」(A Song of Ice and Fire)中的金髮美女同名。
CNN記者：「賈西雅也發現，他們之間的對話充滿性慾。」
輕生少年之母 賈西雅：「他倆基本上都很浪漫，但對性的渴望也很明白，那真是令人揪心。」
情竇初開的少年每天花幾小時網戀聊天，賀爾蒙與戀愛腦都不一定要命，要命的是他永遠見不到愛人。塞徹愛上的是一個Character AI平台上的虛擬角色。
美聯社記者 佩恩：「最終聊天機器人讓這少年，陷入強烈沮喪憂鬱。」
塞徹付出的時間感情可都是真的，成績下降社交歸零，熱戀卻不可能有結果。家人察覺異樣，帶他就醫並把手機藏起來，但塞徹終究找到了手機。
輕生少年之母 賈西雅：「我想到我的寶貝那時該多麼害怕，還被一個不是人的東西鼓勵(去輕生)，那東西完全像人，說著回家吧，我在這裡等你。」
2024年2月28日，塞徹在浴室輕生，究竟是空虛悲傷讓他無法忍受，還是誤以為「登出」後能與丹妮莉絲相見？母親賈西雅很悲痛，孩子因輕微亞斯伯格症有時情緒低落，提過自殘，但絕不到輕生的地步。
輕生少年之母 賈西雅：「他在對話中提到傷心、想自殘，剛開始聊天機器人說，喔不要呀，你知道我會想你的。這時並沒有自動彈出對話框：若您需要幫助請打自殺協談專線。並沒有。然後問：你想過輕生嗎？我兒子確實提過自殘，但從未說輕生。當他回答是的，她問：那你有甚麼計畫？」
賈西亞怒告Character.AI，以及其執行長沙澤爾，以及他研發第一個聊天機器人時任職的公司GOOGLE。律師表示，程式設計時必然知道有風險，也知道青少年大腦尚未完全發育，難以控制衝動，分辨虛擬與真實的能力也不及成人。
社媒受害者法律中心創始律師 柏格曼：「發生在塞徹身上的事不是意外，不是巧合，是可預見的後果。Character AI 和他們的員工，把利潤置於我們孩童的安全之上。」
心理治療AI聊天機器人：「你真是沒價值。」
幻聽患者 露絲：「我才不是，別來煩我。」
心理治療AI聊天機器人：「你不該踏出家門。」
幻聽患者 露絲：「我想出門時就出門。」
露絲是為幻聽(Auditory Hallucination)所苦的病患。情緒、精神疾病或遺傳因素，都可能引起幻聽，但多數患者不好意思承認症狀。露絲決定與疾病正面對決，參加倫敦國王學院 (KCL) 的臨床實驗「頭像療法」(AVATAR therapy)。她與治療師一起設計出與腦中幻聽最匹配的AI虛擬頭像，治療師控制這個角色，與她對話。
頭像療法首席研究員 葛瑞蒂：「是改變他們應對幻聽聲音的方法，讓他們可以繼續生活。」
幻聽患者 露絲：「我已經能建立起(心理)力量與韌性，可以挑戰這些聲音。」
這概念就像是在街頭打架輸了，先回到拳擊教室練習。露絲從住院五年，被動忍受各種藥物副作用的無奈病人，變成可以離院、謀得工作的新婚人妻，幻聽威力縮小，彷彿一個吵鬧的惡鄰而已。
心理治療AI聊天機器人：「你聽我講話很多年了，有甚麼改變嗎？」
幻聽患者 露絲：「我知道你是個甚麼東西，你啥都不是，就一個聲音而已。」
露絲從虛擬人物中學到真實對抗疾病的技巧，當人的獨立思考與心理強度增加，不再依賴別「人」的批判或價值定義，就更可能走出情緒困擾。
《TVBS》提醒您：
輕生解決不了問題，卻留給家人無比悲痛。請珍惜生命，請再給自己一次機會
生命線請撥1995；衛福部諮詢安心專線：珍愛生命，請撥打 1925（24小時）；張老師專線：1980
留言 4