一句话定义:Bitter Lesson(苦涩的教训)是 Rich Sutton 对 AI 研究几十年的一句总结:凡是把人类专家知识硬编码进系统的方法,短期常常更好,长期几乎总会被"能吃算力"的通用方法反超。通用方法主要就两样——搜索(search)和学习(learning)。
为什么"苦涩"。人类知识见效快、有掌控感,投入的人也多;但它的上限被专家数量和编写成本锁死。通用方法起步笨拙,却随算力和数据增长持续变强。等它反超,前一批人多年的领域积累就被清零了——苦在这。
打个比方:做饭。一条路是请老师傅写菜谱,每道菜精确到克;另一条路是搭一套通用流程,让机器反复试错自己调火候。灶台火力小的时候,菜谱赢;火力大到某个程度,试错那条路上限更高,菜谱再也追不上。搜索引擎、围棋、语音识别、图像识别,都走过这条同款曲线。
和相邻概念的区别。它不是说"规模万能",也不是说"专家没用",而是说:人类知识最好的位置是提供先验、数据和评估标准,而不是当系统主干。
| 维度 | 依赖人类知识 | 依赖算力的通用方法 |
|---|---|---|
| 知识来源 | 专家规则、手工特征 | 数据 + 学习 + 搜索 |
| 短期表现 | 常更好,见效快 | 起步慢、前期开销大 |
| 长期上限 | 被编写与维护成本锁死 | 随算力、数据持续提升 |
| 典型做法 | 专家评估函数、格式规则库 | 深度网络、自我博弈 |
常被误读的三点:一是"那就无脑堆资源"——堆资源的前提是架构能吸收算力,算法仍决定上限;二是"人类知识没价值"——小数据、强约束、要可解释或低延迟的场景里,规则和传统方法依然务实;三是"这是定理"——它更像经验规律的启发,短期反例随时都在。
实际意义:选技术路线时,短期服务产品,长期押注可规模化的一侧;并问自己一句——如果我的核心竞争力只是"我懂这套窍门",它还能撑几年?对普通职场人,更抗贬值的能力是把目标定义清楚、把数据和评估标准组织好,这是通用方法暂时吃不到的部分。
