ChatGPT 捲入少年自殺案，OpenAI 承諾加強安全保護、增家長監護
16 歲少年雷恩（Adam Raine）與 ChatGPT 對話數個月後選擇自殺一途，他的雙親指控 ChatGPT 對其死亡應負責任，向 OpenAI 公司及執行長奧特曼（Sam Altman）提起法律訴訟。
在訴訟進行的同時，OpenAI 承諾更新 ChatGPT，察覺用戶的精神和情緒困擾，加強對應自殺話題的保護措施，提供家長監護功能。
OpenAI 在官方部落格文章指出，更新後的 ChatGPT 將能辨識用戶表達情況並改善回應方式。比方說，當用戶提及熬夜 2 天感覺自己無所不能，仍要開車上路。現在的 ChatGPT 可能並未意識到這是危險舉動，或者判斷只是一場遊戲。未來的 ChatGPT 則會解釋睡眠不足對開車帶來危險，並建議用戶盡快休息。
當用戶表達自殘、自殺意圖時，ChatGPT 將會建議他們尋求專業協助。OpenAI 開始在美國和歐洲引導用戶尋求當地協助，並在 ChatGPT 加入能夠取得救援服務的連結，未來進一步擴及全球。OpenAI 還表示，考慮幫助用戶在早期階段即提供協助，可能建立一個由專業人士組成的關懷網路，用戶可以透過 ChatGPT 與他們聯繫。「這需要時間和謹慎作法才能做好」，OpenAI 補充說。
隨著 ChatGPT 不斷演進，OpenAI 將在用戶未滿 18 歲增添額外保護措施。其中，OpenAI 很快將會推出家長監護功能，讓家長深入了解並規範孩子使用 ChatGPT 的方式。
這起訴訟加上近年來國內外大大小小的案例，凸顯過度使用、相信 AI 聊天機器人可能帶來不同程度的風險，用戶應謹慎思考、或者尋求其他協助，切勿全盤聽信。
（首圖來源：Unsplash）