一句话定义：注意力热图（Attention Map）是把模型内部算出的注意力权重（attention weights）按大小涂成颜色深浅、再叠回原文或原图上的可视化，颜色越暖表示该位置分到的权重越高。
权重是怎么来的
Transformer 里，每个位置要"读"别的位置来更新自己的表示。做法是拿自己的查询向量（query）和所有位置的键向量（key）做点积，得到一串分数，再用 softmax 归一化成一串加起来等于 1 的百分比——这就是注意力权重。最后按这些百分比，把各位置的 value 加权求和。
打个比方：一场圆桌会，每个人发言前先决定"这一轮我听谁的、各听几成"。热图就是把某个人、某一轮的"听讲分配表"画出来。注意两个细节：分配表每轮加起来必定是 100%，所以某处颜色深，含义是"相对别处更高"，不是"绝对很重视"；而且会议要开几十轮（层）、每轮有几十个并行的分组讨论（多头，multi-head），分配表有几十上百张。
为什么热图不能当解释
- 权重不等于贡献。 权重只描述 query 和 key 的匹配程度，不包含 value 里到底装了多少信息。某处权重 0.6，不代表它决定了 60% 的输出。
- 可以挑图。 多头、多层各画各的，随手挑一个好看的头就能讲出想要的故事。这不是解释，是选图。
- 和归因经常对不上。 已有不少实验观察到：注意力权重高的位置，遮掉之后输出未必变化大；而遮掉立刻崩的位置，权重可能平平。原因是残差连接（residual connection）、层归一化（AI 词典：LayerNorm">LayerNorm）和多层非线性叠加，让最终输出与单层权重之间没有直通关系。
- 它说的是"信息怎么流"，不是"为什么这么答"。
| 方法 | 看的是什么 | 能回答的问题 | 主要局限 |
|---|---|---|---|
| 注意力热图 | 前向传播中的注意力权重 | 信息在层间如何加权流动 | 权重≠贡献，可选择性呈现 |
| 梯度显著性（saliency） | 输出对输入的梯度 | 哪里微小改动最影响输出 | 噪声大、易饱和 |
| 遮挡/消融（ablation） | 遮住某部分后输出的变化 | 少了它，结果差多少 | 慢，遮挡本身会引入异常输入 |
对实际工作意味着什么
调试时，热图是很好的线索：能一眼看出模型是不是把文本切错了词（tokenization）、是不是注意力全落在填充位（padding）上、长文档是不是被截断——这些是结构性问题，热图直接暴露。但它不能当证据：要判断"模型是不是靠这句话下的结论"，做遮挡实验或换多种归因方法交叉验证，比盯着热图靠谱。
对普通职场人，最实用的一条是：看到演示里一张花花绿绿的热图配文"模型正在关注这里"，可以礼貌地把它当作示意图，而不是审计结论。真要追责、要合规、要判断模型有没有学到捷径，得看消融和对照实验。工具版本与接口细节以官方页面为准。