一句话定义：自动化偏见（Automation Bias）是指人面对自动化系统给出的判断时，倾向于不加验证地接受它的结论，并且更容易忽略——甚至压根注意不到——它显而易见的错误。
打个生活化的比方：开车用导航。路明明封了、牌子明明写着"前方施工"，但导航说"直行 200 米右转"，很多人还是照拐不误。不是没长眼睛，而是大脑做了个省力的决定：既然有系统在算，我就不必再算了。这种"省下来的注意力"，恰恰是错误溜进来的缝隙。
它背后有两个推力。一是认知省力：机器看起来客观、精确、不知疲倦，把判断权交出去最轻松。二是情境压力：时间紧、任务重复、信息过载时，人最没余力去质疑。所以自动化偏见在飞行员、放射科医生、审核员、程序员身上都一样常见——越熟练、越忙，越容易中招。
三种典型表现：
- 虚假警报偏误：系统说"有问题"，人就照单执行，不再看原始证据。
- 漏检偏误：系统说"没问题"，人就跳过检查。这类最隐蔽，因为什么都不做，没人会觉得可疑。
- 锚定效应：先看到系统结论，之后很难把它推翻，哪怕新证据摆在面前。
和相邻概念的区别值得分清：
| 概念 | 核心 | 表现方向 |
|---|---|---|
| 自动化偏见 | 倾向采纳系统结论 | 过度接受 |
| 自动化自满（Automation Complacency） | 因信任而放松警觉 | 态度松懈 |
| 自动化不信任（Automation Distrust） | 拒绝采纳，宁可手工做 | 过度排斥 |
| 警报疲劳（Alarm Fatigue） | 误报太多导致全部麻木 | 反应迟钝 |
| 确认偏误（Confirmation Bias） | 只找支持自己观点的信息 | 与机器无关 |
注意警报疲劳和自动化偏见方向相反：一个是报得太多让人麻木，一个是太信任让人闭嘴。两者常同时存在——同一个系统，误报处被无视，静默处被全信。
对从业者，意义很直接：只公布"模型准确率"是不够的。界面要留出让怀疑生长的空间——显示置信度、给出依据、高风险决策强制二次确认、定期注入已知错误做抽查（也就是"影子测试"），并明确告诉使用者系统的已知失效场景。别指望一句免责声明能解决问题，人不会因为读过提示就改变行为。
对普通人，一句话：把 AI 的输出当草稿，不当结论。尤其要警惕那些你自己也不懂的领域——那正是你最没能力发现它错了的地方，也恰恰是自动化偏见最危险的战场。至于各家产品的具体能力边界，以官方页面为准。