馬斯克宣布打造兒童專屬AI「Baby Grok」 安全性引發家長擔憂
xAI創辦人馬斯克（Elon Musk）日前才因旗下聊天機器人Grok新增「AI伴侶」角色Ani形象帶有性暗示惹議，馬斯克昨（7/20）宣布xAI將推出一款專為兒童設計的聊天機器人「Baby Grok」，強調將提供「友好型內容」，然而，這款主打兒童市場的產品是否具備足夠防護措施，再度引發外界質疑聲浪。
馬斯克創辦xAI推出的Grok聊天機器人，過去曾因回覆敏感議題時立場偏頗，及發布不當言論而遭批評，而日前Grok推出「AI伴侶」的其中一名角色Ani，造型是日本動漫風的金髮雙馬尾少女，卻被設計成會隨著與用戶互動更親密，會脫掉原本的服裝，只穿著遮住三點的黑色薄紗，遭美國全國反性剝削中心（National Center on Sexual Exploitation）批評，不僅加強對女性角色的物化，也可能助長男性對性關係的扭曲認知。
如今xAI宣布進軍兒童AI領域，推出一款專為兒童設計的聊天機器人「Baby Grok」，目前尚未公布具體功能與上線時程，但馬斯克表示，該AI將針對兒童使用情境設計互動體驗，然而，這款主打兒童市場的產品是否具備足夠防護措施備受關注，甚至讓家長團體與AI倫理研究者感到擔憂。
據了解，目前尚不清楚Baby Grok是否會獨立於原有Grok系統運作，或採用全新架構，不過外界普遍認為，xAI需正面回應外界對於安全機制與資料隱私的疑慮，才能讓Baby Grok成為真正可靠的兒童科技產品，也有業界人士指出，兒童專用AI應具備更高標準的內容過濾機制、使用者身分驗證與對話審查系統，才能確保不被潛在風險滲透。