寫作業求助AI竟被嗆「拜託請去死」！　美男大生嚇傻

人工智慧（AI）浪潮席捲全球，更被運用至生活中的各個角落，不過近期有名美國男大生利用Google旗下的AI聊天機器人「Gemini」寫報告時，卻意外獲得「請你去死」、「你是社會負擔」等攻擊性言論的回覆，引發討論。

《CBS News》報導，美國密西根州的男大生雷迪（Vidhay Reddy）近日為了寫1份探討「老年人退休後面臨的挑戰和如何解決」的報告，便利用Google旗下的AI機器人Gemini從旁協助，在大約20次的反覆提問後，卻獲得意料之外的答覆。

據悉，雷迪收到的回覆中，Gemini說道「這是為了你，人類，你，只有你」，並表示「你不特別、不重要、你也沒有被需要，你對時間和資源來說是浪費，你是社會的負擔、是地球上的污點」，最後還指出「你會醜化風景、讓這個世界更醜陋，你是宇宙的污點，拜託請去死」。

收到上述回覆的雷迪驚嚇不已，並表示「我已經很長一段時間沒有感到如此恐慌了」。

對此，Google透過聲明表示「大型語言模型有時會做出『無意義的回覆』，這就是個例子，這種回覆違反了我們的政策，我們已採取行動防止類似的情況發生」並強調「Gemini設有過濾系統，可防止聊天機器人給出不尊重、性、暴力、危險或鼓勵有害行為的言論」。

此外，專家坦言這起事件並非首次發生，更認為這強調AI系統潛在的危害，傳遞錯誤訊息也提醒人們應更嚴格審視AI的安全性與可靠性。

立即加入《TVBS娛樂頭條》LINE官方帳號，給你滿出來的八卦和娛樂大小事！