一句话定义
确定性推理（Determinism）指：同一模型、同一输入、同一参数与同一运行环境，输出应当完全一致，连标点都不变。
temperature=0 只是“不掷骰子”
大模型每步生成是在词表上打分（logit），再按概率选下一个词。temperature 控制采样随机性。设为 0 时通常走贪心解码（greedy decoding）：直接选分数最高的 token。看起来必然复现，但“分数最高”依赖分数怎么算出来。
误差从哪来
神经网络推理主要是大规模矩阵乘法和加法。浮点数加法不满足结合律：(a+b)+c 不总等于 a+(b+c)。GPU/CPU 会并行计算，再把部分和按某种顺序归约（reduction）。批大小（batch size）不同，切分与归约顺序就不同；同一句话单独跑，和被塞进一个大批里跑，某些加法的先后顺序可能变，logit 最低位就可能有微小差异。
举例：两个候选词分数是 10.0000001 和 10.0000000，理论上选前者；但换个批大小后算成 9.9999999 和 10.0000000，argmax 就翻转了。第一词变了，后面AI 词典：自回归生成">自回归生成会沿着新上下文继续，差异越来越大。连续批处理、并行规约、算子实现、硬件和驱动都可能参与其中。
和相邻概念的区别
temperature=0 消除的是“采样随机性”；随机种子（seed）控制的是随机数序列；确定性推理要求的是“执行路径和数值结果也可复现”。三者不是一回事。
| 概念 | 控制什么 | 能否保证逐字复现 |
|---|---|---|
| temperature=0 | 不按概率抽样，选最高分 | 不保证 |
| 固定 seed | 采样随机数可复现 | 只在采样路径下部分有效 |
| 固定批大小/算子/并行配置 | 数值归约顺序稳定 | 更接近，但跨硬件仍难 |
对从业者的意义
要把复现做到极致，通常得固定硬件型号、推理框架、算子实现、批大小和并行策略，并避免动态拼批；但线上服务为了吞吐很难完全做到。调试时别只看“同一 prompt 两次输出不同”就断定模型有问题，先记录完整配置。评估确定性，可以用结构化输出校验、容差比较和多次运行统计，而不是要求逐字一致。具体能力与限制，以所用框架或服务商的官方页面为准。
对普通人的意义
同一个问题问两遍，答案措辞略有不同，往往不是模型“反悔”，而是底层计算和调度造成的微小分叉。涉及合同、财务、医疗等高风险场景，仍要人工复核，别把“temperature=0”当成法律意义上的可复现承诺。