不夠嚴謹！近半數 FDA 核准之 AI 輔助醫療裝置未以真實臨床資料訓練

最近以北卡羅萊納大學及杜克大學為首的研究團隊深入分析數百種 AI 醫療設備通過審核的驗證數據，以釐清它們如何獲得監管機關核准。結果令人擔憂：美國食品藥物管理局（FDA）核准的相關 AI 產品，近半數缺乏臨床驗證數據。本次發現突顯監管機制的重大缺口，並令人不禁擔憂這些設備的有效性和安全性。該結果已於 8 月底發表在極具影響力的醫學期刊《自然醫學》（Nature Medicine）。

本次研究主要科學家、杜克大學心臟中心（Duke Heart Center）研究學者薩米·舒法尼·埃爾·法西 （Sammy Chouffani El Fassi）表示：「儘管研發 AI 醫療設備的業者以 FDA 的授權做為其品質依據，但並不意味它們已通過真實病患數據的評估。藉由本次發現，我們希望敦促 FDA 和業界通過臨床驗證研究來提升設備的可信度，並公開這些研究結果。」

本次研究共檢視 521 種 FDA 授權設備，其中有 226 種──約 43%──缺乏臨床驗證數據。此外，少數進行驗證的 AI 設備使用「虛擬影像」（phantom images）或電腦生成的數據，而非真實病患數據。技術上這並不符合臨床驗證的嚴格標準，不禁令人懷疑這些設備臨床使用時的可信度。

研究人員基於本次結果建議 FDA 和醫療設備製造商，應訂定更明確的臨床驗證指引，以提高審核過程透明度，以提升 AI 設備在醫療院所和病患心中的可信度。若採用「回顧性驗證」（retrospective validation），僅涉及使用歷史數據來測試 AI 模型，可能無法完全反映設備在臨床環境中的表現。「隨機對照試驗」（randomized controlled trial），則被視為臨床研究的黃金標準，能提供最具說服力的證據。

應用 AI 改善器官捐贈流程

薩米·法西還積極參與應用 AI 改善器官捐贈流程的計畫。他正與北卡羅萊納大學心臟胸腔外科醫師合作，透過 AI 演算法分析器官捐贈者電子病歷，自動擬定轉診流程。這項研究的目標是運用用 AI 簡化複雜的醫療流程，幫助搶救急需器捐之患者。薩米·法西表示：「患者接受器官移植常需經歷漫長的等待，醫療團隊從評估捐贈者、摘取器官、協調器官移植手術等，過程既複雜又專業。如果能透過 AI 優化器官捐贈流程，多一個捐贈者就意味著能拯救更多生命。」

人工智慧正從許多面向改善醫療體系，不僅能提升診斷的準確性及效率，還可減輕醫療人員負擔。但由於蒐集病患個資、病歷可能侵犯隱私權，而且 AI 決策可能存在偏見，導致全面以 AI 取代醫療人員仍存在許多隱憂。本次研究的科學家相信，唯有對 AI 輔助醫療軟體、設備進行更嚴格的評估和驗證，才足以贏得大眾之信任並確保 AI 能夠安全地融入臨床實踐中。

• Almost half of FDA-approved AI medical devices are not trained on real patient data, research reveals

（首圖來源：pixabay）

立刻加入《科技新報》LINE 官方帳號，全方位科技產業新知一手掌握！