AI出包得罪客戶、亂幫產品打折怎麼辦？聊天機器人「幻覺」引發企業擔憂，倫敦保險業者推出「AI責任險」

AI聊天機器人在企業客服、行銷及自動化流程中應用愈來愈廣，但當這些工具「說錯話」或產生虛構資訊時，代價可能不只是形象受損，還可能引爆法律糾紛與賠償責任。

過去一年來，已經出現多起AI出錯導致企業遭殃的真實案例：像是在2025年初，Virgin Money金融服務公司旗下AI聊天機器人竟對使用「virgin」一詞的顧客發出訓斥，公司隨後不得不公開道歉。另外，加拿大航空的AI客服捏造出「不存在的折扣優惠」，乘客依指示訂票後提告，法院最終判決航空公司必須履行這項虛構的承諾並賠償損失。

這些案例突顯出AI「幻覺」問題（即產生不正確或虛構資訊）的實際風險，尤其在面對顧客時，AI工具一旦表現失常，往往不只是操作體驗不佳，更可能引發實質損失與企業法律責任。

也正因如此，英國保險業巨頭勞合社（Lloyd’s of London）攜手新創公司Armilla，推出一項專為AI風險打造的「AI損害保險」產品。這款保險將針對企業因AI表現不如預期而被第三方提告時，協助支付法律訴訟費用與賠償金。

AI責任險：為企業分擔AI風險

這項AI保險由Y Combinator支持的新創公司Armilla開發，主要針對企業因AI工具效能不足，導致客戶或其他第三方提起訴訟時，所產生的訴訟費用提供保障。多家勞埃德旗下的保險公司承保了這項保險產品，加入的企業將可透過保險金來彌補因AI錯誤造成的損害賠償金和訴訟費用。

Armilla執行長Karthik Ramakrishnan表示，這款保險正是為了打消企業導入AI時的顧慮。他強調，儘管部分保險公司已將AI相關損失納入傳統的科技錯誤與疏失保單（errors and omissions policies）中，但這些保單通常僅提供極低的理賠上限。

根據保險經紀公司Lockton的Preet Gill說法，一份上限500萬美元的科技保單，可能只對AI相關責任提供2萬5千美元的次限額。

Lockton的另一位經紀人Logan Payne補充指出，AI語言模型屬於動態系統，會隨時間「學習」。而由於這類學習過程造成的錯誤，在一般科技保單中通常不會獲得理賠。

他也指出，AI工具出錯本身並不足以啟動Armilla的保單。相反地，只有在保險公司判定該AI表現明顯低於原始預期的情況下，保險才會啟動。

例如，如果某聊天機器人在最初的測試階段正確率達95%，但實際運作期間卻只有85%的正確率，那麼這種情況就有可能獲得理賠。

「我們會先評估AI模型，了解其性能退化的機率，然後在模型確實退化的情況下提供補償，」Ramakrishnan說。

Chaucer是承保該保單的勞合社旗下保險公司之一，其夥伴關係部門負責人Tom Graham表示，他們不會承保那些被判定為過於容易故障的AI系統。「我們會像其他保險公司一樣進行篩選，謹慎選擇合作對象，」他說。

• 新聞來源：ft