一句话定义:自报跑分(Self-Reported Benchmark)指模型厂商自己执行、自己发布的评测成绩,写在技术博客、模型卡(model card)或论文里,而不是由独立第三方在同等条件下重新跑出来的结果。
为什么难复核:跑分并不是“把题交给模型、看它答对几道”这么简单,中间还隔着一层评测脚手架(harness),也就是把数据集、提示词模板、判分脚本、依赖环境打包在一起的那套代码。同一道题换一套 harness,结果就可能不一样。
打个比方:一家餐厅在门口挂“本店口味全城第一”。这话未必是假的,但评选标准是它自己定的——是比人均消费、比翻台率,还是只统计了老板的亲戚?你没法验证,因为它没公开是怎么算的。
复核要看的条件:
- 用的是哪个 harness、哪个版本,判分脚本怎么写
- 提示词模板、给几个 few-shot 示例、有没有系统提示
- 采样参数(temperature、top-p)、随机种子;是跑多次取最好,还是取平均
- 允不允许调用工具、检索,重试几轮,超时多少
- 测试集有没有被训练数据污染,用的是完整集还是某个子集
和相邻概念的区别:
| 谁跑的 | 你能复核吗 | 典型用途 | |
|---|---|---|---|
| 自报跑分 | 厂商自己 | 通常不能,除非公开日志 | 发布宣传、模型卡 |
| 第三方复跑 | 独立机构、社区 | 能,且可看代码和日志 | 选型参考 |
| 公开榜单 | 平台统一 harness | 部分可以,依赖提交规范 | 横向对比 |
注意公开榜单(leaderboard)也不等于第三方复跑:很多榜单是“你提交、我排名”,本质上仍是自报,只是格式统一了。
对从业者的意义:选型要看量级和趋势,不要只抠小数点后一位;对方宣称领先时,问一句“harness 是什么、能提供运行日志吗”,比看十张雷达图有用。真正的信号往往藏在错误分析、失败案例和推理成本里。
对普通人的意义:看到“全球第一”先看限定词——哪个榜单、哪个子集、什么时间、什么运行条件下。带限定词的第一通常是真的,只是那个“第一”的适用范围比标题小得多。具体数字与口径以官方页面为准。
