跳到主内容
快讯直播
AI智模界
AI 词典

AI 事件数据库:给 AI 闯的祸建一份公开病历

一句话定义:AI 事件数据库(AI Incident Database,简称 AIID)是一个公开、持续更新的档案库,专门收集 AI 系统在真实世界里已经造成伤害——或者差一点就造成伤害——的案例。

它记录的不是"模型能不能做某事",而是"模型已经对谁做了什么"。每一条记录通常包括:事件编号、发生时间、涉及的产品或模型、受影响的群体、伤害类型(人身、财产、歧视、隐私、信息误导等),以及新闻报道、学术论文、监管文件等公开来源。任何人都可以提交线索,由编辑团队审核、去重、合并后入库。所以它的形态更像一部索引:同一个事件可能对应多篇报道,但归到同一个编号下。

可以把它想成航空业的事故调查档案。每一起空难都会被记录、编号、分析,最后沉淀成安全规程,让后来者不必用同样的代价去试错。AI 领域过去缺的就是这本账:模型能力日新月异,但出了什么事、为什么出事,往往散落在新闻里,过两周就没人记得。AIID 试图把这些碎片固定下来,供人复盘。

它和几个邻近概念容易混淆,区别在于视角:

对比项AI 事件数据库模型评测榜单软件漏洞库
记录对象真实发生的伤害事件模型在标准任务上的表现代码或系统中的技术缺陷
数据来源公开报道、论文、监管文件、公众提交统一测试集与评测流程研究者与厂商上报、扫描工具
主要用途复盘、风险登记、监管参考选型与能力比较定位并修补缺陷

简单说:评测看的是"能力上限",漏洞库看的是"零件坏了",事件数据库看的是"整机上路之后撞了谁"。

对从业者,它的价值在于把事故变成可检索的设计输入。做客服机器人,可以先翻一翻同类系统在什么话术下翻车;做内容推荐,可以看看别的产品在哪些场景引发过群体性投诉。红队测试的用例、风险登记表里的"已知风险",很多都能从这些历史案例里长出来,比凭空头脑风暴扎实得多。

对普通职场人和用户,它至少提供两件事:一是判断"这是不是只有我遇到",二是知道别人踩过的坑长什么样。当某个新工具被吹得天花乱坠时,查一查有没有同类的伤害记录,比看宣传语有用。

需要提醒的是:这是一份档案,不是判决书。被收录不等于责任已被认定,也不代表事件全貌,它记录的只是公开信息。具体收录标准、字段定义和最新规模,以官方页面为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。