一句话定义:输出校验(Output Validation)指模型返回结果之后、系统真正使用它之前,按事先定好的规则检查它是否合格;不合格就拦下,不让它写入数据库、触发操作或展示给用户。
可以把它理解为餐厅出菜口的质检台。厨师水平再高,端出来的菜也要过一眼:盘子里有没有异物(结构对不对)、分量够不够(数值是否落在合理区间)、这桌有没有备注忌口(是否符合业务规则)。这与不信任厨师无关——出菜口是流水线本来就该有的一站。
校验通常分三层。
第一层是结构校验,看字段是否齐全、类型是否正确、JSON 能否解析,数组该有几项。模型返回一段夹着解释文字、前后带着代码块围栏的 JSON,是最常见的失败。
第二层是范围校验,看枚举取值是否在白名单里、金额是否为正、文本长度是否超限、日期格式是否合规。
第三层是业务规则校验,也是最能挡住真实事故的一层:开始日期必须早于结束日期、订单金额要与明细合计对得上、返回的客户 ID 必须在库里真实存在、模型不能凭空编出一个不存在的商品编码。
校验没过怎么办,规则一般是:把错误信息回喂给模型让它重试一次(repair);能用规则修补的,比如剥掉围栏、补默认值,就地修;修不好就降级成固定话术或转人工。关键在“有兜底”,不能校验失败后把半成品直接放过去。
与几个相邻概念的区别:
| 概念 | 检查什么 | 卡在哪个环节 |
|---|---|---|
| 输入校验 Input Validation | 用户或上游传进来的数据 | 调用模型之前 |
| 输出校验 Output Validation | 模型返回的内容 | 调用模型之后、使用之前 |
| 内容审核 Content Moderation | 是否违规、有害、涉敏 | 常在展示前,看“能不能说” |
| 模型评测 Evaluation | 模型整体表现好不好 | 离线批量,看“水平如何” |
一句话区分:评测回答“这个模型行不行”,内容审核回答“这句话能不能给人看”,输出校验回答“这份数据能不能进系统”。
对从业者的意义:大模型的输出本质上是概率性文本,不能当作可信输入直接使用。把它接到真实业务系统上时,输出校验相当于一次类型转换和边界检查。有三条经验:规则要写成可测试的代码,不能只靠提示词要求模型自己守规矩;每条失败都要留日志,失败率突增往往意味着提示词变更或模型侧发生变化;校验规则跟着业务走,业务改了规则也要改,否则它会悄悄挡住正常请求。
对普通职场人的意义:你可能已在做这件事。AI 生成表格导入系统时提示“格式错误请重试”,AI 助手给出的日期被自动打回,就是输出校验在工作。用 AI 处理报销、合同、数据录入时,也可以照着这个思路给它加几条硬性检查——金额范围、必填字段、编号要在系统里查得到,比反复叮嘱它“别出错”可靠得多。
