一句话定义:AI 风险登记册(AI Risk Register)是一份持续维护的清单,把 AI 系统可能出的问题逐条登记,标注发生可能性与影响、定出等级、指定责任人和关闭期限,并定期复审。
像装修的整改单
装修时,工头手里常有一张单子:哪面墙空鼓、谁负责返工、几号前修完、修完由谁验收打勾。没有这张单子,"注意质量"就只是一句口号。AI 风险登记册起的就是这个作用:把"我们很重视模型风险"变成一张能逐项核对的表格。
每一条风险记录通常包含:编号、风险描述、触发场景、影响对象、发生可能性、影响程度、风险等级、现有控制措施、责任人(risk owner)、截止时间、当前状态。风险等级常用"可能性 × 影响"的二维矩阵来评定;处理方式分为规避、缓解、转移、接受四种。
一条合格的记录要具体到能让人行动:"客服助手可能把 A 用户的订单信息回答给 B 用户";"我们的模型有风险"这种写法不合格。AI 场景下的常见条目包括:提示注入(prompt injection)导致助手执行越权操作;训练数据混入个人信息;招聘筛选模型对某类群体系统性打分偏低;上游模型供应商停服或改版导致业务中断;模型换代后输出风格漂移,原有审核规则失效。
有两个细节最容易做砸。第一,责任人必须写具体的人名,写"算法团队"等于没人负责。第二,登记册是长期维护的,不是一次性文档:模型换了、数据变了、供应商改了协议,旧条目都可能重新变得重要,所以要定期复审。
和几个相邻概念的区别
| 文档 | 回答的问题 | 时间性 |
|---|---|---|
| AI 风险登记册 | 我们知道哪些风险,谁在管,管到哪一步 | 长期维护、持续更新 |
| 风险评估报告 | 这一刻整体风险有多大 | 一次性快照 |
| 模型卡(Model Card) | 这个模型是什么、能力和边界在哪 | 随模型版本更新 |
| 事故复盘(Postmortem) | 已经出的问题为什么出 | 事后 |
风险管理本身有成熟范式(如 ISO 31000 系列,具体以官方页面为准),AI 风险登记册基本是把它搬到模型场景里,再加上模型特有的条目:数据、漂移、供应商、提示攻击等。
对实际工作的意义
对从业者,它是治理从原则落到动作的一步:安全评审、合规问询、内部审计要看的都是"你能拿出来什么",而不是"你表过什么态"。它还是团队记忆,人员流动后风险不会跟着消失。
对不直接做模型的职场人,可以问三个问题:这张表存在吗?我关心的那条风险,责任人是谁?上次更新时间是什么时候?
最后一个提醒:登记册不是免责声明仓库。堆到几百条却没人关闭,它就退化成装饰品。比条目数量更有意义的指标,是高等级条目的关闭率和平均风险在册时长。
