ChatGPT稱「他殺兒子還坐牢」挪威男提告OpenAI

人工智慧（AI）帶來便利的同時，也潛藏著令人忽視的風險。挪威一名男子霍爾門（Arve Hjalmar Holmen）近日對AI公司OpenAI提出正式投訴，指控旗下聊天機器人ChatGPT生成虛假訊息，誣指其於2020年殺害兩名年幼兒子並遭判刑，因此聲譽受到嚴重損害。

根據《衛報》報導，霍爾門向挪威數據保護局（Norwegian Data Protection Authority）申訴，並與歐洲數位權利組織Noyb聯手指控OpenAI違反歐盟《通用資料保護規則》（GDPR），要求該公司調整AI模型，刪除相關不實資訊，並施以處罰。

霍爾門表示，自己是「平凡市民」，從未有任何犯罪紀錄。某日他以自身名字詢問ChatGPT時，卻收到一段令人震驚的回應。ChatGPT回覆稱他在特隆赫姆（Trondheim）家中附近的池塘殺害了7歲與10歲的兒子，並被判處21年徒刑。該虛構情節不僅詳細描述案情，還稱「震驚全國」。

Noyb指出，AI系統生成個人資料時應具備合理準確性。ChatGPT未經查證即輸出誣指殺人的資訊，嚴重違反GDPR關於個資「正確性」的要求，可能構成法律責任。

面對指控，OpenAI表示正持續研發改進技術以減少「AI幻覺」（AI hallucination）的錯誤生成問題。最新版本的ChatGPT已整合網路搜尋功能，以提升資訊查證能力，降低虛假輸出的風險。