跳到主内容
快讯直播
AI智模界
AI 词典

算法厌恶:明明更准,为什么一次出错就被拉黑

一句话定义:算法厌恶(Algorithm Aversion)是指,人在知道算法整体表现更好的情况下,仍然不愿意采纳算法的判断;而只要亲眼看到算法犯过一次错,信任就会断崖式下跌,甚至从此不再使用。

心理学里有一类很典型的实验:先让参与者做一轮预测任务(比如根据若干信息猜一个人的收入),同时展示一个算法给出的答案,并告诉他们这个算法在历史上的准确率高于普通人。多数人此时是愿意参考的。但只要让参与者亲历一次算法出错——而且是那种看起来“很蠢”的错——采纳率就会明显下降,哪怕后面继续给出“算法总体更准”的证据,也拉不回来。更微妙的是,同样的错误如果出自人,参与者往往更宽容。

生活化的比方是导航。十次指路九次对,第十次把你带进一条正在施工的死胡同。下次出门,你可能宁可凭记忆绕,也不想再点开它。可如果指错路的是副驾驶上的朋友,你多半会说“没事,前面调头”。错误是一样的,惩罚却不同:人的错误被归因于情境(今天路不熟、赶时间),算法的错误被归因于系统本身(这东西不靠谱)。人还会觉得,自己犯错可以解释、可以改进,算法犯错则是“它就是这样”。

它和两个相邻概念容易混:

概念典型表现常见触发场景
算法厌恶见到一次错误就弃用人机对比、后果由自己承担时
自动化偏见(Automation Bias)不加判断地照做,出错也不质疑时间紧、任务枯燥、责任被转移时
合理怀疑按误差大小和代价调整采纳程度有清晰评估与反馈机制时

注意,算法厌恶和自动化偏见常常同时存在:平时过度信任,出错后过度不信任,像一根被拉断的橡皮筋。它也不是笼统的“反科技”,而是特指在人可以自己判断、并且要自己承担后果的选择场景里被触发。

对做 AI 产品的人,实际意义是:平均准确率只是入场券,真正决定留存的是“错误体验”的设计。出错时能不能解释原因、能不能让人一键接管和撤回、能不能把流程设计成“人负责例外、算法负责常规”,比再涨一两个点的指标更有用。对普通职场人,知道这个偏差本身就值钱:判断一个工具该不该用,看的是整体出错率和出错的代价,而不是第一次翻车带来的那口气。具体到某个工具的能力边界,以官方页面和你们自己的评估结果为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。