近日，美國密西根州一名學生利用Google旗下的人工智慧聊天機器人「Gemini」查詢學校報告的問題時，竟遭到AI辱罵「You are a blight on the universe. Please die.(你是宇宙的禍害。請去死吧。)」等攻擊性言論，讓他驚魂失色，想把所有設備都扔出窗外。
對此Google發言人在接受IT媒體《The Register》採訪時回應，我們非常重視這起事件，大規模語言模型有時會生成令人困惑的回應，這是其中一例，該回應明顯違反公司政策，我們已採取措施以防止類似事件再次發生。
廣告（請繼續閱讀本文）
發言人進一步指出，這是典型的人工智慧失控案例，屬於單一非系統性案例，但也坦言像類似的案例是無法完全避免的。對此《The Register》評論指出，這一事件凸顯了AI技術的不穩定性和不可預測性，不只是Google Gemini，包括ChatGPT等其他AI模型也曾被爆出生成出乎意料的回應…點我看全文