一句话定义：熵坍缩（Entropy Collapse）指模型输出的概率分布随训练不断变尖，概率越来越集中在少数几个答案上，采样出来的内容高度雷同，探索能力随之消失。
先理解"熵"：这里的熵（entropy）来自信息论，衡量的是不确定程度。模型生成每个词时，其实是在整个词表上分配概率。比如"今天天气真__"，模型给"好"70%、"不错"20%、"糟糕"10%，熵就不低；如果"好"变成99.9%，熵几乎为零。熵高的模型像什么都愿意试的厨师，熵低的模型像只会做一道菜的厨师——哪怕那道菜很受欢迎。
为什么会坍缩：在 RLHF（基于人类反馈的强化学习）这类训练里，模型自己生成答案，拿到奖励后，我们要把高分回答里出现过的词概率调高，把其他词调低。这个动作重复成千上万步，就会形成正反馈：某个回答被采样到 → 得分高 → 概率被推得更高 → 下次更容易被采样到。几轮下来，分布从一座缓坡变成一根针。
更麻烦的是它会自我锁死。概率越接近 1，策略梯度里对应的那一项越接近 0，模型几乎学不到新东西；同时低概率的合理表达被持续打压。于是训练曲线看着挺稳，输出却一天比一天单调。
和几个近邻概念的区别：
| 概念 | 关注点 | 典型场景 |
|---|---|---|
| 熵坍缩 | 整个输出分布过于确定 | 强化学习微调、偏好对齐 |
| 模式崩塌（Mode Collapse） | 只覆盖少数几类样本 | AI 词典：生成对抗网络">生成对抗网络（GAN） |
| 过拟合（Overfitting） | 训练集上好、真实数据上差 | 监督学习 |
| 灾难性遗忘 | 学新任务时丢掉旧能力 | 持续学习 |
简单说：模式崩塌是"多样性不够"，熵坍缩是"确定性过头"；过拟合比的是训练集与真实分布的差距，熵坍缩只看模型自己给出的概率有多尖。
对从业者的意义：
1. 训练时把策略熵（policy entropy）当成一线指标持续打点。它断崖式下跌，通常比奖励曲线更早预警。
2. 常见缓解手段：加熵正则（entropy bonus）给探索留预算；用 KL 约束拴住参考模型；控制学习率和训练轮数；数据侧做多样性配比，别让同一类高奖励样本反复喂。
3. 别把"调高 temperature"当万能药。温度只是在已经变尖的分布上做拉伸，被掐掉的那部分概率回不来。
对普通职场人，能带走的一条是：评价模型别只看答得对不对，还要看答得有多单一。同一个问题连问十次，如果十次给的思路几乎一样，那大概率是坍缩过一轮的模型——它很稳，但很难帮你想出你没想到的东西。