一句话定义:算法厌恶(Algorithm Aversion)是指,人在知道算法整体表现更好的情况下,仍然不愿意采纳算法的判断;而只要亲眼看到算法犯过一次错,信任就会断崖式下跌,甚至从此不再使用。
心理学里有一类很典型的实验:先让参与者做一轮预测任务(比如根据若干信息猜一个人的收入),同时展示一个算法给出的答案,并告诉他们这个算法在历史上的准确率高于普通人。多数人此时是愿意参考的。但只要让参与者亲历一次算法出错——而且是那种看起来“很蠢”的错——采纳率就会明显下降,哪怕后面继续给出“算法总体更准”的证据,也拉不回来。更微妙的是,同样的错误如果出自人,参与者往往更宽容。
生活化的比方是导航。十次指路九次对,第十次把你带进一条正在施工的死胡同。下次出门,你可能宁可凭记忆绕,也不想再点开它。可如果指错路的是副驾驶上的朋友,你多半会说“没事,前面调头”。错误是一样的,惩罚却不同:人的错误被归因于情境(今天路不熟、赶时间),算法的错误被归因于系统本身(这东西不靠谱)。人还会觉得,自己犯错可以解释、可以改进,算法犯错则是“它就是这样”。
它和两个相邻概念容易混:
| 概念 | 典型表现 | 常见触发场景 |
|---|---|---|
| 算法厌恶 | 见到一次错误就弃用 | 人机对比、后果由自己承担时 |
| 自动化偏见(Automation Bias) | 不加判断地照做,出错也不质疑 | 时间紧、任务枯燥、责任被转移时 |
| 合理怀疑 | 按误差大小和代价调整采纳程度 | 有清晰评估与反馈机制时 |
注意,算法厌恶和自动化偏见常常同时存在:平时过度信任,出错后过度不信任,像一根被拉断的橡皮筋。它也不是笼统的“反科技”,而是特指在人可以自己判断、并且要自己承担后果的选择场景里被触发。
对做 AI 产品的人,实际意义是:平均准确率只是入场券,真正决定留存的是“错误体验”的设计。出错时能不能解释原因、能不能让人一键接管和撤回、能不能把流程设计成“人负责例外、算法负责常规”,比再涨一两个点的指标更有用。对普通职场人,知道这个偏差本身就值钱:判断一个工具该不该用,看的是整体出错率和出错的代价,而不是第一次翻车带来的那口气。具体到某个工具的能力边界,以官方页面和你们自己的评估结果为准。
