英國醫療專家:身體健康指數好好做體檢 不要亂問AI
英國「衛報」日前調查發現,Google的AI摘要,含有錯誤且具誤導性的醫療相關資訊,可能使用戶面臨健康風險。雖然Google已經移除部分醫療相關的AI摘要,不過專家發現,如果以換個方式來詢問,仍然會出現令專家憂心的AI摘要。(葉柏毅報導)
在「衛報」刊出的一個據稱「令人震驚」的案例中指出,Google 提供關於重要肝臟功能血液檢測的錯誤資訊,可能導致患有嚴重肝病的人,誤以為自己健康無虞。
「衛報」發現,在 Google搜尋「肝臟血液檢查結果的正常範圍」時,Google AI摘要出現誤導性資訊,只提供大量數字,但缺乏背景說明,也沒有考量到患者的國籍、性別、族裔或年齡差異。
在這項調查刊出後,Google 已經移除了「肝臟血液檢查結果的正常範圍」,以及「肝功能檢查結果的正常範圍」兩項搜尋詞的英文AI摘要。
英國「肝臟信託基金會」通訊與政策總監「赫布迪奇」對於Google移除部分AI健康摘要表示樂見,不過她也指出,用戶如果以不同的方式提問,仍然可能會出現具誤導性的AI健康摘要。
Google目前擁有全球搜尋引擎市場91%市占率,它們表示,正在檢視「衛報」所提供的相關案例。