一句话定义：困惑度（Perplexity，简称 PPL）是衡量语言模型预测一段文本有多“意外”的指标——模型对下一个词越有把握，困惑度越低。
它到底在算什么
语言模型做的事，本质是不断猜下一个词。给上半句“今天天气真”，模型会给“好”“不错”“冷”……各分配一个概率。困惑度就是把这些“猜中实际下一个词的概率”连起来，取几何平均再取倒数，大致可以读成：模型平均在多少个同样可能的候选词之间犹豫。
打个生活化的比方：你和朋友玩猜词游戏。如果他每次都能脱口而出正确答案，你会觉得“这有什么难的”，他的困惑度接近 1；如果他每次都要在十个词里纠结半天，那他的困惑度大约是 10。所以困惑度 20 可以粗略理解为：模型平均像在 20 个词里均匀乱猜。数值越低，说明它越不容易被文本“惊到”。
数学上，困惑度是交叉熵（cross-entropy）的指数：PPL = e^H。训练时看到的 loss 是交叉熵，困惑度只是换了个更好读的刻度。
几个容易混的概念
| 概念 | 衡量什么 | 和困惑度的关系 |
|---|---|---|
| 交叉熵 / loss | 预测分布与真实词的差距 | 困惑度是它的指数，同一件事的两种刻度 |
| 准确率（accuracy） | 下一个词是否猜对 | 只看对错；困惑度看整条概率分布，更细腻 |
| 温度（temperature） | 生成时随机性多大 | 采样参数，不改变模型对文本的困惑度 |
| BLEU / ROUGE | 生成结果与参考答案的重合度 | 任务级指标，和困惑度不是一回事 |
对从业者和普通人的意义
从业者：训练时盯 loss 和验证集困惑度曲线，能判断收敛、过拟合和数据质量。困惑度突然飙高，常意味着语料里混了乱码、重复模板或分布外文本，所以它也常被用来做数据清洗和去重。有个要点：困惑度依赖分词器（tokenizer），不同模型、不同词表算出来的数不能直接比，只能在同一分词和同一数据集内比较。另外，困惑度低不等于模型好用——一个只会说“的的的”的模型，在某些文本上困惑度也可能很低。
普通人：看到“困惑度下降”这类说法，可以翻译成“模型更少被下一句话惊到，预测更稳了”。它衡量的是语言层面的熟练度，不是推理能力、事实准确性或价值观。想知道一个模型好不好用，还得看具体任务上的评估，具体口径以官方页面为准。