一句话定义：大数定律（Law of Large Numbers）说的是，在独立、重复的观测中，样本量越大，样本均值就越接近总体均值。
它到底在说什么
抛一枚公平硬币十次，出七次正面很常见；抛一万次还想出七成正面的概率就极低了。次数越多，正面比例越贴近 50%。生活版：想知道一座城市的平均身高，问 10 个人基本靠运气，问 10 万人就相当靠谱。
注意两个前提：每次观测相互独立，且来自同一个分布。少了这两条，定律不成立。
它治什么，不治什么
大数定律压掉的是随机误差（random error）——偶发的、方向不定的波动。它压不掉系统性偏差（systematic bias）——方向固定的错误。
比方：用一把短了两厘米的尺子量身高。量 10 个人，读数忽高忽低；量 10 万人，读数高度稳定——稳定地比真实值低两厘米。样本量只让读数更整齐，没让读数更正确。
评估里最常见的误用
AI 项目里，这条定律最容易被拿来当挡箭牌。
- 离线评测集：同一套题跑很多遍，或把题量做得很大，指标方差确实变小。但若评测集偏向某类任务、某一种标注口径，你只是越来越精确地收敛到一个错的数字。
- A/B 测试：流量一大，显著性很高，结论看上去板上钉钉。可若分流有偏、埋点漏报、同一批人反复触发，也只是精确地测出了一个假差值。
- 训练数据：数据量变大确实让模型对数据分布的估计更准——包括把数据里的偏差学得更牢。
容易混淆的近邻
| 概念 | 回答的问题 | 治什么 | 不治什么 |
|---|---|---|---|
| 大数定律 | 样本均值会趋近总体均值吗 | 随机波动 | 系统性偏差 |
| 中心极限定理（Central Limit Theorem） | 样本均值本身服从什么分布 | 置信区间与显著性检验的基础 | 系统性偏差 |
| 小数定律（law of small numbers，一种误用） | 小样本也该像总体 | 什么都不治 | 本身就是错觉，对应赌徒谬误 |
对从业者的意义
下次看到"样本足够大""跑了一万次""显著性很高"就想下结论时，先问三件事：抽样覆盖的是真实使用分布吗？测量与标注口径前后一致吗？指标真的对应业务目标吗？三条都过关，大数定律才站在你这边。
一句话记住：大数定律保证收敛，但不保证收敛到对的地方。