一句话定义:温度参数(AI 词典:Temperature">Temperature)是大语言模型生成文本时用来控制"随机程度"的一个数值——调高,输出更发散、更有意外;调低,输出更稳定、更像标准答案。
它到底在调什么
模型每生成一个字,其实是在算"下一个字是某某的概率"。比如"今天天气真___",模型可能算出:好 60%、热 25%、糟 10%、其余 5%。温度就是对这些概率分布的"缩放系数"。
打个比方:这是一场抽奖。温度低的时候,抽奖箱里 60% 的球都是"好",你几乎每次都抽到它,结果高度可预测;温度高的时候,相当于把其他小概率的球也大量塞进去,抽到"糟"甚至冷门词的机会变大,结果五花八门。
更准确地说,温度趋近 0 时,模型几乎总是选概率最高的那个字(贪心解码);温度等于 1 时,基本按模型原本算出的概率抽;温度大于 1 时,会把原本悬殊的概率差距拉平,让"冷门选项"更容易被选中。温度一般不会设得特别高,太高会开始语无伦次。
不同场景怎么设
| 场景 | 建议方向 | 原因 |
|---|---|---|
| 抽取结构化数据、分类、信息提取 | 低 | 要的是唯一正确答案,容不得发挥 |
| 写代码、数学推理 | 低到中 | 逻辑要严密,但不能完全没有变通 |
| 客服问答、知识库检索回答 | 低 | 事实必须准确,少编造 |
| 日常对话、邮件润色 | 中 | 自然流畅即可 |
| 头脑风暴、起名、写文案、写小说 | 高 | 要的就是多样性和"没想到" |
和相邻概念的区别
温度常和另外两个参数一起出现,容易混淆:
- Top-p(核采样):不调整概率高低,而是先圈定"累计概率达到 p 的那批候选词",再从中抽。温度是改形状,Top-p 是划范围。
- Top-k:更直接,只保留概率最高的 k 个候选词,其余全部淘汰。
- 最大 token 数:管的是"写多长",和随机性完全无关。
实践中,调低温度的副作用是回答变得千篇一律、缺少灵气;调高温度的副作用是事实错误和跑题变多。所以"调温度"本质是在准确性和创造性之间找一个平衡点,没有一个万能值。
对从业者和普通人的意义
对开发者:温度是最值得先动的参数之一。做评测时,建议固定同一个温度再对比模型或提示词,否则结果没法归因;做产品时,可以给不同功能配不同温度,比如"帮我改简历"用低温度,"帮我想十个 slogan"用高温度。
对普通用户:你未必能直接看到这个设置,但你能感觉到它。同一个问题问两遍,答案一模一样,多半温度很低;答案每回都不一样,温度可能偏高。如果某个工具答得太死板,试着在提问里加一句"给我几个不同风格的版本";如果它老是胡说,就把问题问得更具体、要求它"只依据我给的材料回答"——这往往比找温度旋钮更管用。
各家平台对温度的取值范围和默认值并不统一,具体以官方文档页面为准。
