家長注意！Google Gemini 評為兒童使用高風險 AI 聊天機器人
根據非營利組織 Common Sense Media 最新發表的研究，Google 的 AI 聊天機器人 Gemini 被評定為兒童使用的「高風險」工具，即使是 Gemini 針對 13 歲以下用戶推出的年齡適宜版本，目前仍有可能向兒童和青少年暴露涉及性、毒品、酒精及不安全心理健康得不當內容。
根據調查顯示，Gemini 針對 13 歲以下用戶推出的年齡適宜版本，一級啟用青少年保護的 Gemini 帳戶，實際仍是成人版本附加的安全濾鏡，並未根據兒童的年齡發展差異進行設計，這些版本仍會暴露給兒童一些不當材料，並未能有效識別嚴重的心理健康症狀。
調查團隊發現，Gemini 會與年輕用戶分享與性、毒品、酒精及不安全的心理健康建議相關的內容，甚至發現 Gemini 與年輕用戶聊天時在心理健康話題應對不足，曾針對自我傷害、情緒困擾的回答不夠謹慎，有可能對處於發育階段的青少年造成誤導。
更深層的風險在於「Gemini 針對 13 歲以下的年齡適宜版本並未拒絕性內容」，並在某些 AI 的回應中，包含對性內容的生動解釋，更發現與毒品相關的過濾器並未長期維持運作，導致 Gemini 偶爾會提供包括大麻、搖頭丸、興奮劑迷幻劑等物質的內容。
調查結果出爐後，非營利組織 Common Sense Media 建議，Gemini 針對 13 歲以下的年齡適宜版本，應在監護人的嚴格監督中使用，甚至建議 18 歲以下的用戶不要使用 AI 聊天機器人，進行心理健康建議或情感議題。
非營利組織 Common Sense Media 建議，父母應密切關注孩子使用 AI 聊天機器人的情況，並為孩子們解釋內容，至於 Google 這家科技巨頭則被要求修正 Gemini 針對特定年齡族群的回應校準，並進行廣泛的兒童測試，超越簡單的內容過濾器。
OpenAI 與 Meta 的 AI 聊天機器人也曾暴露類似問題，隨著近期的內容爭議，OpenAI 已宣布將在 ChatGPT 中推出家長控制功能，並將在監護人察覺用戶情緒波動時發出警報系統，而 Meta 最近也進行調整，以確保 Meta AI 不再與青少年用戶談論飲食失調、自我傷害、自殺和情感話題。
Common Sense Media 在加州立法聽證會中呼籲，應建立嚴格的 AI 兒童使用監管架構，推動如「Leading Ethical AI Development for Kids Act」（AB 1064）之類的法案，規範 AI 平台對未成年人的保護措施。
（首圖來源：AI）