AI出包說錯話誰負責？航空AI客服判例曝光、律師揭踩雷風險

企業透過導入AI人工智慧的客服系統、聊天機器人及AI人資系統，提高服務效率與降低成本，但AI若發生提供錯誤資訊的狀況，企業是否能以「不是我說的，是AI說的」為由免責？律師韓正豫在洛杉磯台美商會舉辦的「人工智慧新浪潮」論壇中，分享了1則航空公司AI客服判例，並分析2026年美國AI監管發展。他提醒，企業即使用AI協助營運，法律責任仍由企業承擔，未來「AI客服」、「人力資源」及「消費者決策」都將成監管重點。

航空AI客服誤導 法院如何判決？

韓正豫律師分享，加拿大航空（Air Canada）曾因AI聊天機器人提供錯誤資訊而敗訴。當時，一名旅客因奔喪的關係，透過航空公司AI客服詢問是否提供「喪葬票價優惠」。聊天機器人當下回覆「只要先自行購票，之後提出相關證明即可申請退款」，沒想到航空公司並沒有這項政策。

旅客後來為此提出訴訟，而航空公司主張聊天機器人屬於獨立系統，其回答不代表公司立場，因此公司不應負法律責任。但法院最終未採納這項說法，判決航空公司仍須依照AI客服提供的資訊辦理退款。

韓正豫律師在「人工智慧新浪潮」論壇分享企業導入AI應用的相關案例和趨勢。圖片來源：洛杉磯台美商會

企業不能以AI系統作為免責理由？

除了AI客服外，AI招聘、與AI人力資源管理也成為監管焦點。

目前已有不少企業利用AI篩選履歷、安排面試，甚至協助裁員決策。不過，韓正豫律師提醒，若AI決策涉及年齡、性別、種族或其他受法律保障的身分，企業仍須承擔法律責任，且指出加拿大航空的AI客服案例，也反映了目前全球AI監管的重要原則，即使AI產生錯誤內容，企業仍須對外負起法律責任，不能以AI系統作為免責理由。

韓正豫律師也舉例，Meta近日遭26名前員工提告，其中一項爭議便是公司在裁員過程中，使用了AI協助篩選名單，部分員工質疑AI決策涉及年齡歧視，目前案件仍在法院審理中，也凸顯AI人資應用可能帶來的法律風險。

美國AI監管趨勢為何？

韓正豫律師表示，目前美國AI監管呈現「聯邦寬鬆、地方加強」的發展趨勢。他指出，川普上任後陸續撤銷部分拜登政府時期推動的AI限制，希望加速人工智慧技術發展，維持美國在全球AI競爭中的領先地位。目前聯邦層級仍未建立專門的AI法規，也沒有獨立的AI監管機構。

不過，加州近年則持續推動AI相關立法，監管重點聚焦於企業如何使用AI，包括AI招聘、人事管理、消費者決策及AI聊天機器人等應用，企業未來面臨的法規要求越趨嚴格。

企業須保留AI決策紀錄?

AI應用逐漸從企業內部管理延伸至租屋市場及消費者服務。韓正豫律師也分享，美國曾有協助房東篩選租客的公司，利用AI審核大量租屋申請，但系統被認為「對持有租屋補助券的申請人」產生不公平的影響，最終支付228萬美元與相關單位達成和解。

他提醒，若企業利用AI判斷消費者是否符合優惠資格、是否能取得服務，或決定是否能參與特定計畫，都應保留完整決策紀錄，並能清楚說明AI如何做出判斷，才能降低法律風險，提升決策透明度。

使用AI客服有哪些規範？

此外，AI聊天機器人，也是加州近年積極立法規範的重點。韓正豫律師表示，未來企業若導入AI客服，應主動告知消費者目前正與AI互動，並提醒AI生成內容可能出現錯誤，同時提供轉接真人客服的管道，避免因AI回答錯誤引發消費糾紛。他認為，隨著AI客服日益普及，企業除了追求服務效率，更應建立完善人工介入機制，以降低法律風險。

除了AI應用本身，支撐人工智慧運算的資料中心（Data Center）也逐漸成為新的公共政策議題。目前全球大型科技公司投入數以千億美元興建資料中心，以支援AI模型龐大的運算需求，而台灣記憶體模組龍頭，威剛科技董事長陳立白，也在面對外界AI泡沫化等疑慮問題時，直指未來十年全球最短缺的是綠電與記憶體，AI算力需求仍將持續放大。

隨著AI產業持續擴張、資料中心也涉及大量能源消耗、水資源使用及土地開發的相關問題，也出現引發部分社區居民反對的聲浪，如何兼顧科技發展、能源供應與環境永續，也將成為各國政府制定AI政策的重要課題，並且可能成為下一波AI監管的重點方向。

延伸閱讀：

AI案逆轉！金秀賢消失16個月首露面：IG復活連發限動、Disney+新劇受矚目
打瘦瘦針後月經不準時？AI解析社群貼文：易遭忽略的副作用有這些