一句话定义
灾难性遗忘（Catastrophic Forgetting）指神经网络在学习新任务时，会明显丢失之前已经掌握的能力——新知识进来了，旧知识被“覆盖”掉。
它是怎么发生的
神经网络的知识不在某个单独的抽屉里，而是分散、纠缠在成千上万个参数（权重）里。你让它去学新任务，梯度下降会朝着“降低当前任务损失”的方向，大范围修改这些参数。关键在于：对旧任务很关键的参数，可能恰好也参与了新任务的拟合，于是被改掉，旧能力随之失效。
打个比方：你有一间书房，所有笔记都用同一种墨水抄在墙面上。每次要写新内容，就得擦掉一部分墙面。为了把新书抄得好看，你可能擦掉了一大片，其中就有原来记得很牢的笔记。模型就是这样“边写边擦”。
还有一个原因：微调（fine-tuning）时我们通常只优化新任务的目标，没有任何机制提醒模型“旧能力必须保住”。旧任务的表现甚至不在损失函数里，自然没人替它说话。
和相邻概念的区别
灾难性遗忘不是“过拟合”。过拟合（overfitting）是新任务上背得太死、泛化变差；灾难性遗忘则是从旧任务上整体退化。它也不是模型容量不够，而恰恰是容量被新任务占用了。
| 现象 | 表面症状 | 根本原因 |
|---|---|---|
| 灾难性遗忘 | 新任务变好，旧任务突然变差 | 更新覆盖了对旧任务关键的权重 |
| 过拟合 | 训练数据上极好，新样本上很差 | 把噪声也记住了，泛化不足 |
| 欠拟合 | 新任务本身也做不好 | 容量不足或训练不充分 |
这两者的一个常见冲突叫“稳定性—可塑性困境”（stability-plasticity dilemma）：模型要足够“可塑”，才能学新东西；又要足够“稳定”，才能守住旧东西。二者天然打架。
怎么缓解
有几类常见做法：
- 参数高效微调（PEFT）：只训练少量新增参数，让新知识住“新房间”，不动原来的主体权重。LoRA、Adapter、Prefix Tuning 都属于这类思路。
- 数据回放（Replay）：在新数据里掺一部分旧数据一起训。
- 正则化约束：惩罚对旧任务重要参数的改动，比如弹性权重固化（Elastic Weight Consolidation, EWC）。
- 多任务混训、知识蒸馏等。
但这些都是缓解，不是根治。
对从业者的意义
做业务微调时，只看新任务指标并不够——必须回归测试原来的通用能力，看看模型是不是“变傻”了。如果模型要在多个任务间来回切换，最好一开始就把“连续学习”当成设计问题，而不是事后补救。
对普通职场人来说，这解释了为什么“AI 学个新技能就像换了个人”。人的学习可以边学边巩固，而模型的学习，常常是拿旧知识换新知识。