AI會回答不代表答案都正確！醫師：醫療AI關鍵在能否提供可信資訊
【健康醫療網／記者陳靖安報導】生成式AI逐漸進入醫療領域，但對醫療人員而言，關注的重點已不只是AI是否能回答問題，而是回答內容是否可信。在輝達（NVIDIA）主辦的GTC Taipei 2026大會中，馬偕紀念醫院黃崇堯醫師與李光申醫師受邀分享醫療AI應用經驗。黃崇堯醫師指出，生成式AI雖具備強大的語言生成能力，但仍可能產生看似合理、實際上卻錯誤、虛構或缺乏根據的內容，因此醫療決策不能只依賴AI生成的答案。
AI可能出現「幻覺」 醫療決策仍需實證依據
黃崇堯醫師表示，若缺乏實證資料與驗證機制，生成式AI可能出現錯誤資訊，或產生與臨床事實不符的「幻覺（Hallucination）」內容。因此，醫療AI的重點不只是生成答案，而是如何建立具備醫學證據基礎、可追溯來源且能夠驗證的輔助流程，協助醫師進行臨床判斷。
醫師面對大量資訊 AI可協助快速查找醫學文獻
馬偕紀念醫院總院長張文瀚表示，臨床醫師每天需要面對大量醫學資訊，並依據病人狀況在短時間內做出判斷。除了仰賴臨床經驗外，完整的實證醫學流程還包含文獻搜尋、資料篩選與分析整理，往往需要投入不少時間。院方分享院內開發的「EBM Guardian（實證醫學輔助）」系統，希望透過生成式AI協助醫師快速查找醫學文獻、整理實證資料，縮短臨床資訊搜尋時間。
▲GTC Taipei 2026會場演講現場，黃崇堯主任(右)及李光申醫師(左)，一同發表智慧醫療與生成式AI應用成果。
系統整合醫學資料庫 協助整理研究重點
根據院方說明，EBM Guardian可協助醫師將臨床問題拆解為病人狀況、治療方式、比較項目與預期結果等檢索架構，並搜尋PubMed等醫學資料庫，整理重要研究與文獻重點。黃崇堯醫師表示，過去完整的實證醫學流程可能需要花費數小時甚至數天，但臨床現場往往必須在短時間內完成判斷，AI可協助醫師更快掌握重要醫學證據。
導入驗證機制 降低錯誤資訊風險
為降低生成式AI因訓練資料偏差、推論錯誤或引用資訊不完整而產生錯誤內容，院方表示，系統導入多層驗證與AI稽核機制。其中，系統設計上由另一組AI進行交叉驗證，希望降低錯誤資訊風險。此外，系統主要於醫院內部運作，避免敏感醫療資料直接傳送至外部雲端，兼顧AI應用與資訊安全。
AI應用範圍擴大 從研究走向臨床輔助
除臨床決策輔助外，李光申醫師也分享醫院在AI生醫研究與精準醫療領域的發展方向，包括生成式AI於生醫研究、細胞研究與生醫運算等應用。院方表示，未來AI不只是文書處理工具，也可能逐步成為臨床醫療的重要輔助角色。近年院內也陸續導入急診導引輪型機器人、醫學影像AI、護理紀錄整理與臨床文件生成等智慧醫療應用，希望協助醫療團隊減輕重複性工作負擔，提升醫療效率。
【延伸閱讀】