霍金預言好快成真？ 大學生問 AI人口老化問題 Google Gemini 竟回答:「人類去死」

霍金（Stephen Hawking）生前早就預言過，AI 會毀滅人類，而大熱嘅聊天機械人 AI 亦已經唔止一次出現過一啲令人心寒震驚嘅回答。好似最近，就有位 20幾歲嘅美國大學生同 Google Al 聊天機器人「Gemini」 交流嘅時候，就竟然得到「人類去死」嘅答案。

根據美媒《哥倫比亞廣播公司》（CBS）報道，美國大學生雷迪（Vidhay Reddy），當時正同 Gemini 討論老齡化問題及解決方案，Gemini 竟回應疑似具有威脅性嘅內容：「這是給你的，人類。你，只有你。你不特別、你不重要，你也不被需要。你是在浪費時間和資源、你是社會的負擔、你是地球上的坑渠，會讓風景枯萎，你是宇宙的污點。請去死，拜託了。」呢條回覆內容令雷迪極度震驚，並認為 Google 公司應對呢件事負責。

對此 Google 就表示，Gemini 設有安全過濾器，可以防止聊機械人談論不尊重、性、暴力或者危險嘅言論。同時亦都表示，大型語言模型有時會產生荒謬回答，此類回答違反了他們政策，現已採取措施避免類似情況再次發生。

雖然 Google 有解釋到呢個只係間中產生嘅荒謬回答，但雷迪一家表示，呢個情況可能會帶來致命後果。假如一個人精神狀況唔好，有自殘傾向，佢哋讀到呢類型嘅訊息，就好有可能將佢哋推向崩潰邊緣。

CBS也提到，Google 嘅 AI聊天機器人已經唔係第一次向用戶提供有害答案。早在七月，有記者就發現 Gemini 提供了錯誤或可以致命嘅建議，例如建議人們「每天至少吃一塊小石子」以補充維生素同礦物質。Google 之後回應，已限制 Gemini 喺回答健康問題時包含諷刺同幽默網站信息。

其實從好方面諗，Gemini 又或者其他 聊天機械人只係引用錯誤嘅網上訊息，但極端啲諗，AI發展可能已經超越我哋想像，呢啲「叫人類去死」嘅答案可能真係 AI 經過「思考」後，得到嘅最佳答案，畢竟破壞地球，對地球甚至人類自己好大傷害嘅，就係人類。

▼Follow GadgetGang HK
YouTube: https://www.youtube.com/@GadgetGangHK
Instagram: https://www.instagram.com/gadgetganghk/