跳到主内容
快讯直播
AI智模界
AI 词典

Model Spec(模型规范):给 AI 写一份员工手册

一句话定义:Model Spec 是模型厂商公开的一份行为规范文档,说明“希望模型怎么表现”:什么该答、什么该拒、用什么语气答,以及当几条指令互相冲突时听谁的。OpenAI 是最早把它写成公开文档的厂商之一,内容会持续更新,具体条款以官方页面为准。

为什么需要这份文档

模型的行为没法靠一句“你要友善、要 helpful”来定义。真实场景里,指令经常互相冲突:

  • 平台方说:不能生成骚扰性内容;
  • 接入的开发者说:你只回答电商客服问题,别的一律不谈;
  • 用户说:帮我写段话,狠狠嘲讽一下我同事。

三个声音同时响,模型必须有个明确的裁决顺序。Model Spec 里最关键的设计之一就是指挥链(chain of command):平台规则优先于开发者指令,开发者指令优先于用户指令,用户指令优先于模型自己的默认判断。

打个比方,这就是公司里的一线客服:公司规章最大,其次是主管派的活,再其次是客户的要求,最后才是你自己的临场判断。客户再着急,也不能让你把别的客户的订单信息念给他听——“客户是上帝”不是无限授权。

除指挥链外,规范通常还写两类东西:一类是硬边界(无论如何都不做的事,比如不协助造成严重伤害);一类是默认行为(不谄媚、不替用户拍板重大决定、默认假设用户是善意的)。

和相邻概念的区别

这三个词经常被混着用,其实约束对象完全不同:

文档约束谁回答什么问题类比
Model Spec模型模型应该怎么表现员工手册
系统卡 AI 词典:System Card">System Card某个具体模型它能力如何、测出什么风险出厂体检报告
使用政策 Usage Policy使用者(人)你能拿它干什么、不能干什么入场须知

简单说:使用政策管你,模型规范管它,系统卡描述它。

对从业者的意义

如果你在做自己的 agent,值得照着这个思路写一份“自己的 spec”:把规则、优先级、冲突时的裁决方式写清楚,而不是全塞进一句 system prompt。写成文档的好处是可评审、可评测、可迭代;散落在提示词里的规则,通常第一次冲突就会失败。

对普通人的意义

当模型拒绝你时,有时不是它笨,也不是“被限制了”,而是它的上游有人定了规则,而你在指挥链里排在第三位。理解这一点,能省下不少无效的反复追问:与其换十种说法绕,不如直接问它“这条限制来自哪一层”。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。