跳到主内容
快讯直播
AI智模界
AI 词典

默认温度因厂商而异

一句话定义:temperature(温度)这个采样参数在你没有显式传值时,各家 API 会各自填一个自己的默认值;默认值不同,同一段提示词就会得到风格明显不同的回答。

温度控制的是模型在每一步挑选下一个词时的“随机程度”。模型先算出每个候选词的概率,温度就像对这些概率做一次缩放:温度低,高概率的词更容易被选中,输出稳定、保守、爱用套话;温度高,概率分布会被压平,冷门词也有机会被选中,输出更发散、更有创意,也更容易跑偏。打个比方,温度低像是考试时只写最有把握的答案,温度高像是想到什么写什么。

问题在于,这个参数没有行业统一标准。每家厂商在训练方式、对齐策略、产品定位上都不一样,各自调出的“手感最好”的默认档位自然也不同;有的偏保守,有的偏活泼。更麻烦的是,很多厂商提供“OpenAI 兼容”接口,字段名一样、请求格式一样,但默认值不一定一样。所以你把同一段提示词从 A 家搬到 B 家,代码一行没改,输出却从干巴巴的列表变成了爱加感叹号的散文,原因常常就在这里,跟模型“变笨了”或“变聪明了”没关系。

容易混淆的邻居:top_p(核采样)也是控制随机性的旋钮,但它做的是“只从累计概率最高的一批候选词里挑”,改变候选池大小;温度改变的是分布形状。两者经常一起出现,调其中一个时最好把另一个显式固定住,否则很难判断效果是谁带来的。另外,max_tokens、presence_penalty 这类参数影响的是长度和重复度,跟“风格突变”不是一回事。

场景温度偏低温度偏高
典型表现稳定、可复现、措辞保守多样、有惊喜、偶有跑题
适合任务抽取、分类、结构化输出、代码头脑风暴、文案起稿、起名
迁移风险换厂商后可能变得啰嗦换厂商后可能开始编内容

对从业者的意义:把 temperature 当成必填项而不是可选项。做评测、做回归测试、做线上灰度时,显式写死这个值,结论才可比;做产品时把它当作一个可配置项暴露出来,让“严谨模式”和“创意模式”由业务决定,而不是由某家 API 的默认值替你决定。具体每家的默认值是多少、取值范围是 0–1 还是 0–2,以官方文档页面为准,这类信息变动频繁,值得在接入时确认一遍并写进注释。

对普通用户来说,记住一句话就够了:同一个问题在不同产品里得到不同风格的答案,很多时候不是模型能力差异,只是那个看不见的旋钮被拧到了不同档位。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。