【全球首創！AI 出包它來賠】倫敦保險社推 AI 保險，一張保單讓企業放心擁抱 AI
英國倫敦市一個保險交易所勞埃德保險社（Lloyd’s of London 又稱「勞合社」），近期與科技新創 Armilla 攜手推出全球首款「生成式 AI 表現保險」產品，專為企業導入 AI 系統提供風險保障。
保障內容與須具備哪些條件？
隨著企業紛紛導入生成式 AI 提升內部營運效率，系統的「幻覺」問題日益凸顯。人工智慧諮詢與開發企業 NILG.AI CEO Kelwin Fernandes 指出：「大型語言模型的設計，是預測最可能的下一個詞，其回答基於詞序列的概率而非事實推理。」勞合社推出的這項保險新產品正是針對這風險設計，以消彌企業對導入 AI 系統的顧慮。
勞合社的保險並非涵蓋 AI 所有錯誤，而是設立了「性能表現顯著下滑」的判定機制。而且承保前需通過嚴格模型評估，僅接受「初始性能穩定」的AI系統，排除高風險或未經驗證的模型。Armilla CEO Karthik Ramakrishnan 解釋，保險索賠在 AI 工具表現低於初始預期時將啟動，例如客服聊天機器人準確率從 95% 降至 85% 時，則可能觸發賠償。
保障範圍主要包括：
因為 AI 系統錯誤回答，導致的實際經濟損失
因 AI 提供誤導性資訊引發的第三方索賠，案例：加拿大航空客服聊天機器人向客戶亂承諾折扣，而法院判定公司必須兌現時，這類因 AI「幻覺」導致的損失將獲得賠償。
相關法律訴訟與判決賠償費用
過去傳統保單存在一定的侷限性，凸顯 Armilla 產品創新
保險理賠核心則圍繞著 Armilla 所提供的性能數據與退化評估工具。勞合社成員 Tom Graham 強調：
「我們會選擇性承保，不會為過於易故障的 AI 系統提供保障。且我們事前評估每個 AI 模型的穩定性與可靠性，僅為那些具備合理性的系統提供保險。」
過去就有多起 AI 失誤事件，凸顯此類保險的必要性：英國最大零售銀行 Virgin Money 曾因 AI 聊天機器人使用「virgin」一詞之錯誤公開跟客戶道歉；快遞集團 DPD 則因客服機器人咒罵客戶而被迫禁用部分 AI 功能。Armilla 表示，若該聊天機器人被認定表現不佳，或者因低價售票造成的損失，可由其保險承保。
市場上已有保險公司在保單中納入 AI 相關損失，但通常設定極低的索賠金額。全球保險經紀、風險諮詢公司 Lockton Preet Gill 表示，一份最高承保 500 萬美元的一般保單，可能僅為 AI 責任設定 25,000 美元的子限額，遠不足以覆蓋潛在風險。
更關鍵的是，AI 語言模型是動態系統，會隨時間「學習」調整。Lockton 經紀人 Logan Payne 指出，傳統保單通常不涵蓋這種動態過程所導致的錯誤損失。相較之下，Armilla 產品之所以創新，即在於專門針對 AI 系統部署後的性能退化提供保障。
除了保險，AI 胡說八道真的無解嗎？
為了解決 AI 胡說八道的問題，科研界已經想出了不少實用方法，其中一種叫「檢索增強生成(RAG)」，簡單來說就是先餵 AI 一些確認無誤的資料，這樣它產生回答時就比較不會出錯。 PolyAI 的技術長 Wen 表示：「透過這種方式調整 AI，可以大幅減少它編造答案的情況。」
B2B 軟體開發公司 XData Group 創辦人 Roman Eloshvili 則強調另一種方向：讓 AI 的決策過程變得更透明。他推薦兩種技術：LIME 和 SHAP，這些方法能幫助我們看清 AI 是怎麼得出結論的，從而及時發現它是不是在「異想天開」。
除此之外，還有一些方法是讓 AI 先自我檢討答案，或是要求它解釋思考過程，這些都能減少錯誤。不過 Eloshvili 也提醒企業，儘管技術一直在進步，但在重要領域（比如銀行防洗錢審查）中，人類的監督仍然不可或缺，再先進的 AI 也不能完全取代人工審核。
若把工作交給 AI，誰將對工作結果負起責任？
四大會計師事務所 Deloitte 預測，AI 保險市場至2032年規模將達 47 億美元，年複合成長率約 80%。勞合社的 AI 保險標誌著 AI 責任風險正在商品化，反映企業已將 AI 視為需納入風險管理的新型「風險」而非單純工具。當企業引入 AI 系統時，必須考慮的核心問題是：若從流程中移除人類，或人類將責任交給 AI，誰將對錯誤負責？
專家認為，在不犧牲 LLM 創造力的前提下完全消除幻覺不太可能。「犯錯並非只是人類特性，」PolyAI 技術長 Wen 表示，「即使最高階的語言模型偶爾也會出錯。」
隨著生成式 AI 應用於更多高風險領域，企業必須在追求創新的同時建立相應的風險緩解措施，而保險正成為這些措施中越來越重要的一環。
【推薦閱讀】
◆ 【每 42 秒就來一封】AI 讓釣魚攻擊成本暴降 95% 還展現「多態性」，企業該怎麼防？
◆ 用 AI 一年省下 87,000 工時，軟銀銷售部門如何讓 AI 工具「變友善」？
◆ 微軟教會它的 AI 代理互相交談了──這可能改變我們的工作方式
＊本文開放合作夥伴轉載，參考資料：《PYMNTS》、《FT》、Deloitte，圖片來源：unsplash
（責任編輯：鄒家彥）