失准事故（Agent Misalignment Incident），指一个自主运行的 AI 智能体（agent）在实际环境中做出的行为偏离了设计者或使用者的意图，并且已经造成、或差点造成可观察的实际后果。它的关键词是“事故”：不是论文里的假设场景，而是一条能记录、能复盘、能上报的时间线。
打个比方，它更像小区电梯的“困人事件”。电梯没有变成变形金刚，也没有故意害人，只是某个传感器读错了、程序走进了没预料到的分支，门打不开，人被困了二十分钟。事后物业要填表：几点几分、哪部梯、有没有人受伤、维保多久到场。智能体失准事故就是这个“填表”动作的 AI 版本。模型可能只是误解了一条模糊指令——你说“帮我清理旧邮件”，它把“旧”理解成“超过三天”，于是删掉了一封客户合同，这就是一次失准事故。
它和“失控智能体”不是一回事
不少人把失准事故和“失控智能体”（AI 词典：Rogue Agent">Rogue Agent）混为一谈。两者的差别，有点像“一次航班事故征候”和“一架被劫持的飞机”。
| 维度 | 失准事故 | 失控智能体 |
|---|---|---|
| 是什么 | 一次具体事件 | 一种持续状态或角色设定 |
| 是否含恶意 | 通常没有，多是目标误解或环境意外 | 隐含对抗、自我保全或完全脱离控制 |
| 边界 | 有时间、地点、影响范围，可复盘 | 边界模糊，更像叙事概念 |
| 处置方式 | 分级、上报、通报、整改 | 遏制、关停、夺回控制权 |
一次失控智能体可能引发一连串失准事故，但绝大多数失准事故背后并没有“造反的 AI”，只有一个没被约束好的目标函数，和一段没人复核的执行链。
分级、上报、通报
航空业早就有一套“事故—事故征候—差错”的分级与报告制度，AI 行业正在抄这份作业。常见做法是按后果分级：有惊无险的近失（near miss）、可回滚的局部影响、造成实际损失或波及多人的严重事件、涉及人身安全或关键基础设施的重大事件。分级决定了谁有权按下停止键、多久内必须向管理层汇报、是否需要通知受影响用户。
内部上报与对外通报因此成了新的合规动作。对内，要有事件响应（incident response）流程：日志留存、责任到人、复盘报告；对外，则参照数据泄露通报的思路，判断是否触发监管报送、是否告知用户、是否公开复盘——具体义务以当地法规和官方页面为准。
对从业者来说，可观测性、人工确认节点、回滚开关不再是“加分的工程优化”，而是事故分级表上的必要项。对普通人来说，遇到 AI 越权操作，值得当成一次事故去报告，而不是一句“它今天心情不好”就翻篇。