一句话定义：梯度范数监控（gradient norm monitoring）是在模型训练过程中持续记录梯度的范数（norm，即把所有参数的梯度拼成一个大向量后，这个向量的“长度”），把它当作常规检查指标，用来判断训练是否健康。
展开说：反向传播会为每个参数算出一个梯度，表示“这个参数该往哪个方向调、调多少”。单个梯度看不出全局，但把所有梯度拼起来量一下长度，就得到“这一步整体想改多大”。打个比方：loss（损失值）像体重秤，称得慢、波动也慢；梯度范数更像体温计，能很快告诉你训练是不是在发烧。
常见读数：突然飙升，往往是学习率过大、一个 batch 里混进了异常样本，或某层数值爆炸；长期贴近 0，则可能是梯度消失、参数不再更新或神经元失效。工程上常拿梯度裁剪（gradient clipping）的阈值作参照：如果裁剪频繁触发，说明梯度分布已经变了。各框架的默认阈值不同，以官方文档为准。
和相邻概念的区别：loss 是结果指标，滞后且平滑，出问题时常常已经晚了几百步；梯度范数是参数更新层面的即时信号。还要分清“观测”和“干预”：梯度裁剪是把过大的梯度砍掉，属于干预；梯度范数监控只记录、不修改。另外，权重范数（weight norm）看的是参数本身有多大，而非梯度有多大。
| 指标 | 看什么 | 典型异常 |
|---|---|---|
| loss | 任务做得怎么样 | 不下降、突然 NaN |
| 梯度范数 | 这一步更新有多猛 | 尖峰、长期趋零 |
| 权重范数 | 参数规模多大 | 持续膨胀 |
实际意义：对从业者来说，这几乎是零成本操作：把 grad_norm 和 loss 并排写进训练日志，回看曲线就能定位“loss 还没坏但训练已经开始抖动”的时刻，往往比只盯 loss 更早发现学习率、数据质量或混合精度设置的问题。对非技术同事也一样：评价一个系统别只看最终分数，过程信号是否平稳，同样值得放在仪表盘上。