一句话定义:AI 责任保险(AI Liability Insurance)是一种责任险,用来赔付因人工智能系统——尤其是能自己调用工具、下单、发消息的智能体(agent)——造成第三方人身、财产或经济损失时,被保险企业依法应承担的部分赔偿。
为什么需要它:传统软件像自动售货机,按固定按钮出货;智能体更像刚拿驾照的司机,会自己判断路况,也可能误踩油门。它误删数据库、发错催款邮件、下错订单、给出误导建议,损失可能由客户、员工或路人承担。法律上通常先看谁有过错、谁违反合同,再由责任方赔;但责任方可能赔不起,或责任在开发者、部署者、使用者之间扯不清。保险的作用,是把“赔不起”变成“有人一起兜底”,同时逼企业留下证据、控制风险。
和相邻概念的区别:
| 险种 | 主要保什么 | 与 AI 责任险的差别 |
|---|---|---|
| 网络安全险(Cyber Insurance) | 数据泄露、勒索、系统中断 | 不一定覆盖 AI 自主决策造成的第三方损害 |
| 职业责任险/错误遗漏险(E&O) | 专业服务中的失误、疏忽 | AI 参与的服务是否赔,要看条款 |
| 产品责任险(Product Liability) | 缺陷产品造成的人身、财产损害 | 软件/模型是否算“产品”,各地法律不同 |
| AI 责任保险 | AI 系统/智能体造成第三方损害的责任 | 较新,承保范围和除外责任差异大 |
保险公司为什么看模型评测报告:责任险定价靠“风险可测”。车险看驾驶记录,AI 责任险则看模型评测(model evaluation)、红队测试(red teaming)、日志、权限设置、人工复核和事故响应。评测报告能说明:模型会不会越权、会不会被提示注入带走、在高风险场景表现如何、有没有兜底。没有这些证据,保险公司可能拒保、缩范围或加很多除外责任。所以对企业来说,做评测不只是合规,也是买保险的“体检报告”。
对从业者和普通人的意义:从业者要把“可保性”当设计目标:明确责任边界、保留可审计日志、给智能体设金额和权限上限、高风险动作人工审批、在供应商合同里写清赔偿和保险安排。普通人遇到 AI 服务造成损害,先找服务提供方和平台,而不是直接找保险公司;理赔时,时间、截图、合同和日志都是证据。具体是否承保、保额、免赔额和除外责任,各家条款不同,以保险公司官方页面和保单为准。
