因應全球AI監管壓力 OpenAI推出青少年版ChatGPT

美國人工智慧巨頭OpenAI今天（18日）宣布，針對旗下聊天機器人ChatGPT推出青少年版本，主打具備更強大的保護與監控機制。ChatGPT因被控慫恿部分使用者輕生而面臨官司。

法新社報導，「青少年版ChatGPT」（ChatGPT for Teens）使用對象設定為13至17歲的未成年人。在他們與聊天機器人的交談中，系統將針對自殘、暴力、飲食失調及露骨性愛等高風險議題加以限制。

OpenAI表示，青少年版ChatGPT也會更常對使用者發出休息提醒，並允許家長設定禁用AI的「安靜時段」，以及「學習模式」。後者會在使用者提問時做出引導式回答，而非直接提供答案，藉此幫助青少年理解學習的內容。

這款模型的其他限制還包括：禁止聊天機器人暗示對使用者產生情感、宣稱自己擁有意識，並關閉語音模式等功能。此外，家長也可選擇將自己的帳號與孩子的帳號進行綁定，若對話中出現自殘或輕生等內容，家長就能收到警告。

ChatGPT近來涉及數起不當致死案，其中包括16歲加州青少年芮恩（Adam Raine）。他的父母指控這款聊天機器人提供自殺的方法，導致芮恩死亡。

如同社群媒體，聊天機器人對兒童與青少年的風險愈來愈受到關注。美國國會已提出相關規範法案，加州政府也要求業者對AI聊天工具設置保護機制。

部分OpenAI對手如新創AI公司Anthropic，已直接禁止未成年人使用旗下聊天機器人。(編輯 : 廖奕婷)

※珍惜生命，自殺不能解決問題，生命一定可以找到出路；若需諮商或相關協助可撥生命線專線「1995」、張老師服務專線「1980」或衛福部安心專線「1925」。