AI 給錯醫療建議卻無跡可尋，研究籲建立追蹤與通報機制
隨著 AI 聊天機器人逐漸成為大眾 24 小時隨身待命的健康顧問，研究人員發出警告：最令人頭痛的危機並非 AI 給出錯誤答案，而是這些致命錯誤幾乎「無跡可尋」。
最新研究指出，當使用者聽信了聊天機器人有害的醫療建議，對話紀錄往往只停留在 AI 公司的系統內。外部的臨床醫師、研究者及監管單位根本無從查閱，更缺乏標準的通報與調查管道。研究作者強調，這種「隱形風險」導致醫師在事後極難釐清病患到底接觸了什麼資訊，進而阻礙了醫療判斷。
研究團隊舉出一個真實案例來佐證嚴重性：一名 60 歲男子為了降低飲食裡的氯化物攝取，向 ChatGPT 求助，竟被建議把食鹽換成「溴化鈉」。結果他聽信後出現幻覺與妄想，最終因溴中毒慘遭住院。由於這段對話無法由主治醫師直接調閱，醫療團隊在拼湊發病原因與擬定後續治療方案時，面臨了極大的困難。
該研究共同作者、賓漢頓大學助理教授 Kai-Cheng Yang 坦言，儘管許多人已將健康諮詢託付給 AI，卻沒有任何機制在把關這些內容；一旦給錯建議，外界根本無從察覺。此外，研究更點出另一層隱憂：即使使用者沒有主動發問，AI 產生的錯誤健康資訊也可能隨著社群動態和搜尋引擎摘要四處流竄，讓沒有在尋找醫療資訊的民眾也意外受害。
為了防堵這項漏洞，研究團隊建議 AI 企業應開放權限，讓使用者能輕鬆取得並將自己的對話紀錄分享給醫師。同時，業界必須建立一套透明的通報與調查機制，以便追蹤並標記有疑慮的醫療建議。他們也呼籲社群平台應清楚標示 AI 生成的健康內容，並在未經專業醫療審核前，限制這類資訊的大規模擴散。
Getting health advice from AI chatbots comes with a problem doctors may never see
Scientists reveal terrifying reason that using AI for health advice could be dangerous
Missing chatbot records leave doctors struggling to trace harm from AI health advice
（首圖來源：AI）