.png){kind=logo}
来源：未央网
英国伦敦劳合社（Lloyd’s of London）近日推出一款面向人工智能（AI）技术故障风险的保险产品。
据《金融时报》5月11日报道，这款名为“AI责任险”的保单由初创公司Armilla承保 ，旨在为企业因AI产品性能问题（如聊天机器人出错或产生“幻觉 ”虚假信息）导致客户或第三方提起诉讼时 ，提供法律索赔费用保障 。报道指出，尽管企业积极引入AI提升效率 ，但客服机器人等工具因“幻觉 ”产生的错误已引发多起尴尬且代价高昂的事件 。
正如此前分析所示 ，AI幻觉可能引发严重后果：企业若基于错误信息决策，可能导致经济损失 、声誉受损。而当AI系统参与决策时 ，责任归属成为棘手问题 。“如果流程中移除人类 ，或人类将责任转交给AI，谁来承担错误后果？”AI解决方案公司NILG.AI首席执行官Kelwin Fernandes近期接受采访时发问 。
现实案例印证了风险所在：今年初，英国维珍理财（Virgin Money）因聊天机器人对用户使用“virgin ”一词提出指责而公开致歉；加拿大航空（Air Canada）则因聊天机器人与客户对话时编造虚假折扣政策被告上法庭。Armilla表示 ，若法院认定加航聊天机器人性能未达预期 ，其保单将覆盖打折机票带来的损失 。
针对AI幻觉风险，劳埃德银行（Lloyds Bank）首席数据与分析官Ranil Boteju坦言：“在最初12到18个月里 ，这是我们最担忧的问题 。 ”该行采取审慎策略——“在确信防护措施可靠前 ，不会直接向客户开放生成式AI功能”，初期仅将AI应用于后台效率提升 ，并安排人工实时监控。
原作：pymnts 译者：高旭 原文来源：PYMNTS
