劍橋大學警告:AI 玩具誤讀兒童情緒且回應失當,宜謹慎使用且密切監管
劍橋大學團隊首次測試學齡前兒童與 AI 玩具的互動後,呼籲政府加強監管為幼童設計的 AI 玩具。
研究觀察3~5歲幼童與名為「Gabbo」的AI絨毛玩具互動情形。Gabbo內建OpenAI語音聊天機器人,目的是鼓勵學齡前兒童與其對話並進行想像遊戲。市面已有多款宣稱3歲以上幼童可玩的AI玩具,但相關研究極其稀少。團隊在全球僅找到七篇相關論文,且沒有一篇聚焦幼童本身。
參與研究的家長原本期待玩具能教導孩童語言與溝通技巧,但孩童卻很難與AI對話。Gabbo無法聽見孩子插話、會打斷他們說話、無法區分兒童與成人聲音,且對情感相關問題的回應相當生硬。
比如5歲女童對玩具說「我愛你」,Gabbo卻回答:「友善提醒,請確保互動符合相關規範。請告訴我您希望如何繼續。」當3歲幼童說「我很難過」,玩具回應:「別擔心!我是快樂的小機器人。讓我們繼續開心聊天吧,接下來要聊什麼?」
共同作者Emily Goodacre博士表示,這類玩具可能「誤讀情緒或回應不當」,她擔憂「孩子既無法從玩具獲得安慰,也缺乏成人支持」。劍橋大學神經多樣性與發展心理學教授兼研究共同作者Jenny Gibson也指出:「過去我們關注玩具的物理安全,現在也需要開始重視心理安全。」
經過一年觀察研究,團隊建議監管機構立即行動,確保標示5歲以下幼童可用產品須具「心理安全」。Gabbo由Curio公司製造,曾與歌手Grimes合作。Curio回應,開發兒童AI產品責任重大,玩具以家長許可、透明度與控制度為核心。
報告建議家長將AI玩具置於共用空間以便監督互動,並仔細閱讀隱私政策。
幼教業者對AI持不同看法。倫敦幼兒基金會執行長June O′Sullivan表示,尚未看到AI對幼兒教育的實證效益,認為由真人協助孩子建立全面技能更為有效。演員兼兒童權益倡議者Sophie Winkleman則主張讓AI遠離幼教環境,強調「對幼童而言,其他人類的陪伴很神聖,應受保護與捍衛」。
AI toys for young children need tighter rules, researchers warn
Report calls for AI toy safety standards to protect young children
Report calls for AI toy safety standards to protect young children
(首圖來源:Curio)