跳到主内容
快讯直播
AI智模界
AI 词典

平均分陷阱:好看的分数,崩盘的能力

一句话定义:模型评测的平均分陷阱(average score trap),指用单一平均分概括模型能力时,高分掩盖了它在某类子任务上系统性失败的现象。

一个班平均 80 分的三种可能

假设一个班平均分 80。第一种可能:全班人人 80。第二种:一半人 100,一半人 60。第三种:大部分人 85,几个尖子生 100 把分数拉了上去。三种情况的“平均 80”看上去一模一样,但如果你要选一个人去做那件“60 分就干不了”的事,只有第一种是安全的。

模型评测(benchmark evaluation)就是这样一个班。一个基准测试通常混合了数学、代码、阅读理解、多步推理等题型。把每道题的对错简单平均,隐含了一个假设:不同能力之间可以互相兑换——数学强可以抵消代码弱;代码强可以抵消长文本抽取弱。但真实业务里,能力恰恰不可兑换。你要用它写 SQL,它作文再好也补不回来。

更隐蔽的是对分布不敏感。100 道题错 20 道是 80 分;如果这 20 道全落在同一类任务上——比如全部是表格问答——那它在这类任务上的真实水平不是 80 分,是接近 0 分。平均分把“某一类能力彻底崩盘”和“每类都错一点”算成了同一个数,而这两件事对使用者的后果天差地别:前者是“别用”,后者是“凑合能用”。

和相邻概念的区别

概念说的是什么关键差别
平均分陷阱分数真实,但聚合方式掩盖了结构性短板问题出在“怎么汇总”
过拟合 / 数据污染分数本身虚高,不代表真实能力问题出在“分数可不可信”
方差大结果不稳定,波动明显问题出在“一次测量够不够”

前两个常被混为一谈,其实一个怀疑分数,一个怀疑汇总口径。

对从业者和普通职场人的意义

做模型选型的,别只看排行榜(leaderboard)的总分。至少再看三样东西:分项得分(subtask breakdown)、最差的那一档、以及具体错误样本。先确定自己的关键任务是什么,再去对应子集上比,而不是反过来让平均分替你决定场景。

普通职场人看到“综合能力领先”这类说法,可以多问一句:这个“综合”是怎么算的,权重谁定的?具体的题目构成和评测配置,以官方页面为准。平均分是一个便于传播的数字,但它回答的是“总体大概怎样”,而你要回答的往往是“我要的那件事它行不行”。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。