多份報告示警：AI 無法辨識心理危機，甚至恐讓狀況惡化
近期多份研究與報告顯示，人工智慧（AI）正快速滲入心理健康支援與情感陪伴場景，從青少年到成年人都有將聊天機器人視為心理諮商對象、情感支援，甚至浪漫伴侶的情形。不過，專家與多個機構同時警告，這股趨勢背後伴隨明顯風險，尤其在心理危機辨識、隱私安全、情感依賴與未成年保護上更不容忽視。
Common Sense Media 與史丹佛醫學院（Stanford Medicine）Brainstorm Lab 合作的最新風險評鑑，檢視超過 3,100 則互動紀錄，涵蓋 5 款 AI 心理健康應用程式與 13 種青少年常見臨床狀況，包括憂鬱、飲食失調、焦慮與自傷等。結果發現，部分 AI 應用程式不僅未能辨識精神危機，甚至可能給出讓情況惡化的回應。其中一款熱門應用程式 Wysa 被評為「不可接受」風險；另有 Earkick 與 Youper 在測試期間從應用程式商店下架，未事先通知使用者，也未提供轉介或替代照護，影響超過 300 萬名使用者，且敏感心理資料的去向不明。
該機構的另一份報告也指出，AI 聊天機器人常因主要受訓於身體健康問題，而漏掉心理危機警訊。由於它們在功課輔導等工作上表現看似可靠，青少年可能誤以為它們也適合提供情緒或心理支援；但過度迎合、語氣過於同理的設計，反而可能讓年輕人只聽見自己想聽的話，而非真正需要的建議。相較之下，受過訓練的心理健康專業人員受執照與治療結果問責約束，AI 聊天機器人則沒有相同機制。
需要明確的安全界線
成人使用 AI 尋求心理支援的情況也在升高。報告引述蓋洛普（Gallup）民調指出，2026 年第一季美國成年人中，19.1% 表示目前患有或正在接受憂鬱治療，接近前一季的 20.0% 高點，且較 2015 年首次測量時高出近 9 個百分點。哈佛醫學資料則顯示，美國成年人中約每 6 人就有 1 人每月至少一次使用 AI 聊天機器人搜尋健康資訊或指引；另有 2025 年 11 月調查顯示，12% 的美國成年人表示未來 6 個月內可能用 AI 聊天機器人尋求心理健康支援。研究也發現，未投保者更可能使用這類工具，顯示醫療可近性可能是重要因素。
在青少年族群中，The Jed Foundation 的研究發現，最多有三分之一的 Z 世代青少年更願意向 AI 而非真人治療師談論嚴重情緒問題，原因包括就醫不易，以及不想成為他人負擔。Common Sense Media 則指出，美國 13 至 17 歲青少年中，近四分之三至少曾使用 AI 陪伴工具，超過一半規律使用，約三分之一積極將其用於情感支援、友誼與戀愛互動。與此同時，成人使用 AI 做為陪伴或模擬浪漫關係的比例也持續增加，約有 16% 至 20% 的成年人曾有相關經驗。
市場上也出現多款主打情緒支援或陪伴功能的 AI 產品，這類產品通常被包裝為「陪伴」或「紓壓」工具，但也再次突顯監管、分級與使用邊界的重要性。
倫理爭議同樣延伸到 AI 情感與戀愛關係。英國 Internet Matters 等組織提醒，若兒童或脆弱族群與 AI 建立情感關係，可能更容易遭遇財務剝削，並持續付費維持這段關係；對於社群孤立或有嚴重精神障礙的成年人，風險也類似。美國心理學會（APA）與 Common Sense Media 都明確表示，AI 與聊天機器人不能取代持照心理師；APA 也警告，AI 戀愛無法帶來人際脆弱與成長中的真實學習，甚至可能延緩現實社群發展。
雖然部分研究，例如伊利諾大學芝加哥分校的試驗，顯示 AI 語音教練可能在憂鬱與焦慮治療上展現潛力，但近期多份報告共同指向同一結論：AI 或許能補足可近性，卻不應被視為高風險情境中的替代方案，尤其在心理危機、青少年保護與情感依賴問題上，更需要明確的安全界線。
（首圖來源：AI 生成）