一句话定义:AI 事件数据库(AI Incident Database,简称 AIID)是一个公开、持续更新的档案库,专门收集 AI 系统在真实世界里已经造成伤害——或者差一点就造成伤害——的案例。
它记录的不是"模型能不能做某事",而是"模型已经对谁做了什么"。每一条记录通常包括:事件编号、发生时间、涉及的产品或模型、受影响的群体、伤害类型(人身、财产、歧视、隐私、信息误导等),以及新闻报道、学术论文、监管文件等公开来源。任何人都可以提交线索,由编辑团队审核、去重、合并后入库。所以它的形态更像一部索引:同一个事件可能对应多篇报道,但归到同一个编号下。
可以把它想成航空业的事故调查档案。每一起空难都会被记录、编号、分析,最后沉淀成安全规程,让后来者不必用同样的代价去试错。AI 领域过去缺的就是这本账:模型能力日新月异,但出了什么事、为什么出事,往往散落在新闻里,过两周就没人记得。AIID 试图把这些碎片固定下来,供人复盘。
它和几个邻近概念容易混淆,区别在于视角:
| 对比项 | AI 事件数据库 | 模型评测榜单 | 软件漏洞库 |
|---|---|---|---|
| 记录对象 | 真实发生的伤害事件 | 模型在标准任务上的表现 | 代码或系统中的技术缺陷 |
| 数据来源 | 公开报道、论文、监管文件、公众提交 | 统一测试集与评测流程 | 研究者与厂商上报、扫描工具 |
| 主要用途 | 复盘、风险登记、监管参考 | 选型与能力比较 | 定位并修补缺陷 |
简单说:评测看的是"能力上限",漏洞库看的是"零件坏了",事件数据库看的是"整机上路之后撞了谁"。
对从业者,它的价值在于把事故变成可检索的设计输入。做客服机器人,可以先翻一翻同类系统在什么话术下翻车;做内容推荐,可以看看别的产品在哪些场景引发过群体性投诉。红队测试的用例、风险登记表里的"已知风险",很多都能从这些历史案例里长出来,比凭空头脑风暴扎实得多。
对普通职场人和用户,它至少提供两件事:一是判断"这是不是只有我遇到",二是知道别人踩过的坑长什么样。当某个新工具被吹得天花乱坠时,查一查有没有同类的伤害记录,比看宣传语有用。
需要提醒的是:这是一份档案,不是判决书。被收录不等于责任已被认定,也不代表事件全貌,它记录的只是公开信息。具体收录标准、字段定义和最新规模,以官方页面为准。
