模型内省(Introspection)指语言模型在解释自己的回答、判断或“想法”时,能否真实访问并报告自身内部的计算状态,而不只是再生成一段听起来合理的解释。
打个比方:问朋友为什么选这家餐厅,他可能真记得“因为离公司近”,也可能只是事后编个理由。大模型更像后者。它没有一条稳定的“回放内部过程”的通道。你问它“为什么这么答”,它最常做的是根据问题、自己的回答和训练中见过的解释模式,续写一段自洽的说明。这叫事后合理化(post-hoc rationalization)。
要区分三种情况。第一,模型复述上下文里已有的信息,比如“因为你给了这段材料”,这算读到了对话记录,不算读内部状态。第二,模型报告自己的输出倾向,比如“这个结论我不太确定”,可能是真实信号,也可能只是学会了谦逊措辞,需要外部校验。第三,模型声称“我权衡了 A 和 B 才选 C”,如果没有干预实验支撑,很可能只是生成了一个合理故事。机制可解释性(mechanistic interpretability)会用探针(probe)、激活(activation)分析等外部手段读取内部状态,这比自述更接近证据,但成本高,也不能覆盖所有行为。
| 概念 | 信息来源 | 可靠性 | 典型用途 |
|---|---|---|---|
| 模型内省 | 模型自己生成的解释 | 低到中等,易受提示影响 | 提出假设 |
| 思维链(AI 词典:Chain-of-Thought">Chain-of-Thought) | 展开的推理文本 | 未必忠实反映真实原因 | 辅助复杂任务 |
| 机制可解释性 | 外部读取激活、权重 | 更接近因果证据 | 研究与调试 |
| 置信度校准(Calibration) | 概率或评测统计 | 口头置信常过度自信 | 风险控制 |
对从业者,模型自述适合当“假设生成器”,不能当审计日志或调试真相;要验证,就做反事实提示、消融(ablation)、检查输出分布,看解释里的因素是否真的改变结果。对普通职场人,看到“我这样回答是因为……”先当成一种说法,而不是证词;重要结论仍要它给可核验的来源和步骤。模型内省不是没用,它是一座有用的脚手架,但不是一间透明的玻璃房。
