跳到主内容
快讯直播
AI智模界
AI 词典

温度参数(Temperature):控制 AI 输出随机性的那个旋钮

一句话定义:温度参数(AI 词典:Temperature">Temperature)是大语言模型生成文本时用来控制"随机程度"的一个数值——调高,输出更发散、更有意外;调低,输出更稳定、更像标准答案。

它到底在调什么

模型每生成一个字,其实是在算"下一个字是某某的概率"。比如"今天天气真___",模型可能算出:好 60%、热 25%、糟 10%、其余 5%。温度就是对这些概率分布的"缩放系数"。

打个比方:这是一场抽奖。温度低的时候,抽奖箱里 60% 的球都是"好",你几乎每次都抽到它,结果高度可预测;温度高的时候,相当于把其他小概率的球也大量塞进去,抽到"糟"甚至冷门词的机会变大,结果五花八门。

更准确地说,温度趋近 0 时,模型几乎总是选概率最高的那个字(贪心解码);温度等于 1 时,基本按模型原本算出的概率抽;温度大于 1 时,会把原本悬殊的概率差距拉平,让"冷门选项"更容易被选中。温度一般不会设得特别高,太高会开始语无伦次。

不同场景怎么设

场景建议方向原因
抽取结构化数据、分类、信息提取要的是唯一正确答案,容不得发挥
写代码、数学推理低到中逻辑要严密,但不能完全没有变通
客服问答、知识库检索回答事实必须准确,少编造
日常对话、邮件润色自然流畅即可
头脑风暴、起名、写文案、写小说要的就是多样性和"没想到"

和相邻概念的区别

温度常和另外两个参数一起出现,容易混淆:

  • Top-p核采样:不调整概率高低,而是先圈定"累计概率达到 p 的那批候选词",再从中抽。温度是改形状,Top-p 是划范围。
  • Top-k:更直接,只保留概率最高的 k 个候选词,其余全部淘汰。
  • 最大 token 数:管的是"写多长",和随机性完全无关。

实践中,调低温度的副作用是回答变得千篇一律、缺少灵气;调高温度的副作用是事实错误和跑题变多。所以"调温度"本质是在准确性和创造性之间找一个平衡点,没有一个万能值。

对从业者和普通人的意义

对开发者:温度是最值得先动的参数之一。做评测时,建议固定同一个温度再对比模型或提示词,否则结果没法归因;做产品时,可以给不同功能配不同温度,比如"帮我改简历"用低温度,"帮我想十个 slogan"用高温度。

对普通用户:你未必能直接看到这个设置,但你能感觉到它。同一个问题问两遍,答案一模一样,多半温度很低;答案每回都不一样,温度可能偏高。如果某个工具答得太死板,试着在提问里加一句"给我几个不同风格的版本";如果它老是胡说,就把问题问得更具体、要求它"只依据我给的材料回答"——这往往比找温度旋钮更管用。

各家平台对温度的取值范围和默认值并不统一,具体以官方文档页面为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。