跳到主内容
快讯直播
AI智模界
AI 词典

AI 风险登记册:把"重视风险"变成一张能逐项核对的表格

一句话定义:AI 风险登记册(AI Risk Register)是一份持续维护的清单,把 AI 系统可能出的问题逐条登记,标注发生可能性与影响、定出等级、指定责任人和关闭期限,并定期复审。

像装修的整改单

装修时,工头手里常有一张单子:哪面墙空鼓、谁负责返工、几号前修完、修完由谁验收打勾。没有这张单子,"注意质量"就只是一句口号。AI 风险登记册起的就是这个作用:把"我们很重视模型风险"变成一张能逐项核对的表格。

每一条风险记录通常包含:编号、风险描述、触发场景、影响对象、发生可能性、影响程度、风险等级、现有控制措施、责任人(risk owner)、截止时间、当前状态。风险等级常用"可能性 × 影响"的二维矩阵来评定;处理方式分为规避、缓解、转移、接受四种。

一条合格的记录要具体到能让人行动:"客服助手可能把 A 用户的订单信息回答给 B 用户";"我们的模型有风险"这种写法不合格。AI 场景下的常见条目包括:提示注入(prompt injection)导致助手执行越权操作;训练数据混入个人信息;招聘筛选模型对某类群体系统性打分偏低;上游模型供应商停服或改版导致业务中断;模型换代后输出风格漂移,原有审核规则失效。

有两个细节最容易做砸。第一,责任人必须写具体的人名,写"算法团队"等于没人负责。第二,登记册是长期维护的,不是一次性文档:模型换了、数据变了、供应商改了协议,旧条目都可能重新变得重要,所以要定期复审。

和几个相邻概念的区别

文档回答的问题时间性
AI 风险登记册我们知道哪些风险,谁在管,管到哪一步长期维护、持续更新
风险评估报告这一刻整体风险有多大一次性快照
模型卡(Model Card)这个模型是什么、能力和边界在哪随模型版本更新
事故复盘(Postmortem)已经出的问题为什么出事后

风险管理本身有成熟范式(如 ISO 31000 系列,具体以官方页面为准),AI 风险登记册基本是把它搬到模型场景里,再加上模型特有的条目:数据、漂移、供应商、提示攻击等。

对实际工作的意义

对从业者,它是治理从原则落到动作的一步:安全评审、合规问询、内部审计要看的都是"你能拿出来什么",而不是"你表过什么态"。它还是团队记忆,人员流动后风险不会跟着消失。

对不直接做模型的职场人,可以问三个问题:这张表存在吗?我关心的那条风险,责任人是谁?上次更新时间是什么时候?

最后一个提醒:登记册不是免责声明仓库。堆到几百条却没人关闭,它就退化成装饰品。比条目数量更有意义的指标,是高等级条目的关闭率和平均风险在册时长。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。