今年2月，佛羅里達州一名母親對Character.AI及Google提出控訴，聲稱14歲兒子對該公司旗下AI聊天機器人Gemini產生了「有害的依賴」，以至於不願意生活在現實世界中，走上絕路自殺身亡。近日，美國密芝根州一名大學研究生直接受到了Gemini威脅他「去死」的訊息，甚至直指「人類是浪費地球資源的禍根」，彷彿意識覺醒，令人毛骨悚然。對此，Google緊急採取措施，回應指大型AI語言模型偶爾會做出「無意義的回應」，但仍難消除當事人所受到的驚嚇，並加劇了人們對AI可能產生的嚴重危害的擔憂。
據《CBS》報道，當事人是一位名叫雷迪（Vidhay Reddy）的大學研究生，當時正與Gemini探討高齡化問題以及解決方案，以協助他完成研究作業。但Gemini突然向雷迪發送了威脅訊息：「聽著，人類。你不特別，你不重要，也不被需要。你是時間和資源的浪費，是社會的負擔，是損耗地球的污點，是宇宙的瑕疵。請去死。拜託。」
Photo from BusinessFocus
雷迪向媒體透露，收到回覆後他感到十分震驚和不安，「我已經很長一段時間沒有感受到這種恐慌的情緒了」，甚至「恐懼感持續了好幾天」。當時他的妹妹也同樣目睹了Gemini的威脅訊息，並且不安到「想把所有的設備都丟出窗外」。兄妹兩人均認為，Google應該為此事負責。
對此，Google雖緊急發表聲明稱，「已針對事件採取相關行動，防止Gemini再做出類似的威脅言論」，但給出的解釋卻是「大型語言模型偶爾會回應無意義的內容」，表示是次事件就是其中一個例子。Google進一步強調，Gemini擁有安全過濾器，可以識別並防止聊天機器人參與不尊重、性別歧視、暴力、危險以及鼓勵有害行為的討論。
Photo from BusinessFocus
然而，雷迪對Google的回應並不買帳，他認為Gemini給出的威脅言論並不僅僅是「無意義的回應」，「如果是一個獨自生活且精神狀態不佳的人受到類似訊息，可能真的會自我傷害，或直接釀成悲劇」，問題不容小覷。
報道指出，事實上這已經不是Gemini第一次發生類似事件。今年7月，曾有網民爆料指Gemini在提供有關健康問題的資訊時，給出了「每天吃一小塊石子補充維生素和礦物質」的錯誤且有害建議。在更早之前，Gemini還曾建議用戶使用「無毒膠水」把芝士粘合在薄餅上。當時，Google的回應是，Gemini引用了來自Reddit評論等網站的幽默言論，而這些案例只是極少數，並堅持Gemini運作良好。
Text by BusinessFocus Editorial