跳到主内容
快讯直播
AI智模界
AI 词典

基座模型与指令模型:为什么一个只会续写,一个能听懂指令

一句话定义:基座模型(Base Model)是只经过大规模预训练、以“预测下一个词”为目标的模型;指令模型(Instruct Model)是在基座基础上,用“指令—回答”数据继续训练,从而能听懂并执行总结、翻译、分类等要求的模型。

严格说,Instruct 不是给 Base 换个提示词。它通常从同一套预训练权重出发,再经过后训练(post-training)得到,架构和分词器往往相同,但权重已经变了。若真拿完全相同的权重,只换提示词,Base 通常不会稳定变成 Instruct。可以想成同一块面团:Base 是生面团,Instruct 是蒸好的馒头。生面团也能吃,但你得会加工;馒头直接上桌。

Base 的任务很简单:给前文,补后文。它读网页、书籍、代码,学的是语言统计规律。你输入“帮我总结下面这段话”,它可能接着写“首先,要明确总结对象……”,因为它没把这句话当命令,只当成一段待续写的文本。它擅长续写、补全、风格模仿,却不一定听话。

Instruct 多了后训练:先用大量“指令→理想回答”样本做监督微调(SFT),再用人类偏好数据做对齐(如 RLHF、DPO)。训练中反复出现“请总结”“请翻译”及对应回答,模型因此学会识别角色和意图。推理时,聊天模板(chat template)会标出 system、user、assistant 等角色,模型看到 user 段落后更可能给出回答,而不是续写用户的话。

维度基座模型 Base指令模型 Instruct
训练目标预测下一个词预测下一个词 + 遵循指令、符合偏好
典型输入任意文本带角色标记的对话或指令
典型行为续写、补全、模仿回答、总结、分类、写代码
适合场景继续预训练、领域适配、文本生成底层助手、RAG、Agent、办公自动化
提示方式给例子、给前缀更有效直接下命令即可

对从业者:做垂直领域模型,常见路径是从 Base 继续预训练或做领域微调,再用指令数据让它“会干活”;若只做应用,直接用 Instruct 更省事。对普通人:日常聊天助手基本都是 Instruct 或在其上继续对齐的版本。遇到“不听话”的模型,先确认你用的是 Base 还是 Instruct,以及有没有套对聊天模板。具体选型以模型官方页面为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。