AI 風險為何連保險業都怕？外媒揭全球保險巨頭擬「拒保」AI
生成式 AI 帶來的驚人效率，正在成為全球企業的競爭新武器。然而，AI 造成的風險卻比想像中更難預測，也更難承擔。現在，連最擅長處理風險的產業：保險業，也紛紛開始踩煞車。
《金融時報》報導，包括 AIG、Great American 和 WR Berkley 等美國主要保險公司，最近向美國監管機構申請在企業保單中加入「AI 排除條款」。這些條款不僅排除因 AI 錯誤導致的損失，甚至延伸到任何「使用、內建、或依賴 AI 的產品或服務」。換句話說，只要企業在流程中用到 AI 聊天機器人、AI 模型、Agent 系統，發生問題時保險公司就可以拒賠。
AI 三大特性，讓保險公司都怕
首先，AI 輸出結果的不可預測性、不透明，讓保險公司日漸認為無法承保。即便是在倫敦勞合社市場中專門承保高複雜度科技風險的保險公司 Mosaic，也拒絕承擔來自大型語言模型如 ChatGPT 的相關風險。Mosaic 歐洲網路保險主管 Dennis Bertram 表示，「AI 就像一個黑盒子。」
第二，AI 出錯的責任歸屬，難以界定。連 AI 核保公司 Artificial Intelligence Underwriting Company 共同創辦人 Rajiv Dattani 也告訴《金融時報》，「如果出了問題，沒有人知道誰該承擔責任。」
蘇黎世保險（Zurich Insurance）資訊長 Ericson Chan 表示，當保險公司評估其他由科技引發的錯誤時，通常「可以輕易確定責任歸屬」。然而，AI 風險可能牽涉許多不同的利害關係人，包括開發者、模型建立者以及最終使用者。
因此第三，AI 風險對市場的潛在衝擊「可能呈現指數級放大」。AIG 雖然尚未立刻啟用 AI 排除條款，但其在申請文件中說得很明白：「生成式 AI 是一項應用廣泛的技術，可能導致未來索賠事件發生的可能性隨時間增加。」
Aon（怡安）資安業務負責人 Kevin Kalinich 就表示，保險業有能力承擔單一企業因採用代理式 AI 而遭受的 4 億或 5 億美元損失，例如錯誤定價或錯誤的醫療診斷，但「無法承受的是，若某家 AI 供應商出現一次錯誤，卻最終造成 1,000 甚至 10,000 筆損失，」指出 AI 風險具備系統性、相關性極高、且高度聚集的特性。
根據《金融時報》引述消息人士報導，Aon 是全球第二大保險經紀公司，OpenAI 為因應新興 AI 風險向其投保，保額高達 3 億美元。
AI 錯誤已非假設情境，是企業正在承受的衝擊
近一年來，多起涉及 AI 系統的重大錯誤引發訴訟與巨額損失，突顯 AI 風險不再是理論情境，而是正在衝擊企業營運的現實。安永近期一份報告指出，在受訪的 975 家企業中，有 99% 曾因 AI 相關風險而遭受財務損失，且其中近三分之二的損失金額超過 100 萬美元。
而美國太陽能公司 Wolf River Electric 以誹謗為由起訴 Google，並求償至少 1.1 億美元，理由是 Google 的 AI Overview 功能錯誤聲稱該公司正被明尼蘇達州檢察總長起訴。
同時，加拿大航空（Air Canada）去年也被仲裁機關裁定，必須履行其客服聊天機器人「自行編造」的一項折扣承諾。英國工程集團 Arup 更因詐騙者使用高階主管的「數位分身」在視訊會議中下達指令而遭詐騙，損失高達 2,500 萬美元。
同時，OpenAI、Anthropic、Character.AI 等 AI 公司，以及多家新創與科技巨頭，近年也頻頻成為重大訴訟的對象。OpenAI 就面臨包括《紐約時報》與多位作者指控，其未經同意使用受版權保護的內容來訓練模型；一名 16 歲少年的父母也控告 OpenAI，指稱他們的孩子在與 ChatGPT 討論自殺方式後身亡，因而提出「過失致死」訴訟。
保險業一邊退場、一邊試探：AI 保險快速興起
在風險難以量化的情況下，保險業開始採取雙軌策略：一方面將 AI 排除在標準保單之外，另一方面則嘗試推出更具限制性的附加條款，或僅承保極窄範圍的 AI 錯誤。例如 QBE 雖承保歐盟《AI 法案》下的部分罰款與處罰，但賠付上限僅占保單總額的 2.5%。Chubb 則同意保部分 AI 風險，但明確排除可能同時影響大量客戶的「大規模模型事故」。
保險經紀人與律師表示，他們擔心一旦 AI 造成的損失明顯增加，保險公司可能以訴訟方式抗辯。
不過，當傳統保險公司逐步撤出，AI 專屬保險反而快速興起。《NBC》報導，一些新創公司與大型再保險商正搶進這片未開發市場。例如 Munich Re 早在 2018 年就推出 aiSure 保險，目前主要承保 AI 幻覺造成的錯誤；多家新創如 AIUC、Armilla 也推出最高 5,000 萬美元的 AI 責任保額，涵蓋資料外洩、幻覺、智慧財產侵權等風險。
這些公司認為，AI 保險不只是新商機，也可能成為推動 AI 安全標準的市場機制。根據國際保險業智庫日內瓦協會（Geneva Association）近期的調查，超過 90% 的企業表示希望能獲得針對生成式 AI 風險的保險保障。
在監管尚未明確、風險仍在擴張的當下，保險業的退場與試探並行，反映的是整個產業對 AI 風險的共同認知：這是一場規模未知、速度驚人的新型風險，而目前沒有任何一方能對損害負起完整責任。
為 AI 風險建構可量化標準！企業、學界如何行動？
今年 7 月，AI 保險公司 AIUC 推出全球首個針對 AI 代理的認證制度，旨在提供可稽核的基準，用來評估代理系統的各類脆弱性。AIUC 執行長 Dattani 表示，企業可自願根據該標準進行測試，以提升客戶信任，而認證也能成為保險公司評估 AI 產品是否達到可承保要求的依據。
經濟學家兼 AI 研究者 Gillian Hadfield 則長期倡議一種「混合式」的 AI 監管方式，也就是政府監管與市場力量並行。她指出，只靠政府本身，無法擁有足夠的專業與速度來因應技術的快速演進。她正與非營利 AI 安全組織合作，推動州級立法，提出一套第三方 AI 治理框架，核心是她所稱的「獨立驗證組織」。
在這個模型下，美國州或聯邦政府將設定 AI 系統可接受的風險水準，並授權民間評估機構負責驗證企業是否符合這些標準。企業可自願向這些獨立驗證組織申請認證，以展現其安全合規性。她補充說，保險也能在其中扮演關鍵角色：透過將「符合政府或第三方安全規範」作為承保條件，來促使企業遵循相關規範。
根據《NBC》報導，專注於 AI 治理的非營利組織 Fathom 共同創辦人 Andrew Freedman 認為，這樣的制度將形成強大的誘因，因為許多企業至今仍對導入 AI 代理抱持猶豫，缺乏能確保系統不會出錯、且不會讓企業自行承擔後果的保障機制。
Freedman 表示：「我們會看到一個 AI 驗證技術的市場，與能力市場（capability market）並行成長。我認為我們現在仍處於這個市場的萌芽階段。但公平地說，我也認為我們仍處於 AI 的初期——至少是在 AI 真正開始衝擊社會的初期。」
＊本文開放合作夥伴轉載，資料來源：《Financial Times》、《Financial Times》2、《TechCrunch》、《NBC》、GENEVA ASSOCIATION、EY，圖片來源：AI 工具生成