跳到主内容
快讯直播
AI智模界
AI 词典

后置隐藏指令:模型答完之后,还悄悄做了一步

一句话:后置隐藏指令(Post-Response Hidden Instruction)指的是,模型给出用户看得见的回答之后,系统还会追加一段用户看不见的指令,让它(或后续环节)再执行一步处理——检查、改写、补注、记录,用户最终只看到处理后的结果。

打个比方:像寄快递时的二次安检。你收到箱子,外观完好,但它在分拣中心被开箱看过、贴过一张内部标签,只是那张标签在到你手里之前被撕掉了。你没被骗,但有一段过程你确实没看见。

两种常见做法

第一种是“同一次生成里藏一段”。系统在上下文尾部追加类似“先输出正式回答,再输出一段内部备注,用某个分隔符隔开”的指令,前端拿到完整文本后,按分隔符把后半段截掉,只渲染前半段。模型其实是在一次生成里写了两块内容,用户只看到第一块。

第二种是“编排层再调一次”。第一次调用产出回答,程序拿这段回答再发一次请求,让它自查事实、统一口径、去掉不该说的内容,然后把第二次的结果返回给用户。这种方式里,“后置指令”不一定写在提示词里,而是藏在应用代码的流程中。

它和几个容易混淆的概念

概念由谁执行相对回答的时机用户可见性
AI 词典:系统提示词">系统提示词(system prompt)模型回答之前不可见
后置隐藏指令模型或编排层回答之后(或同一轮的后半段)结果可见,指令不可见
思维链(chain-of-thought)模型回答过程中通常被隐藏,但性质是推理过程
输出过滤(guardrail)规则或分类器回答之后内容可能被拦截,通常不走“自然语言指令”

关键差别在最后一行:后置隐藏指令是用自然语言要求模型做事,模型有一定裁量空间;输出过滤多是规则匹配或分类器判定,行为更确定。前者灵活,后者可预测。

为什么这件事被讨论

一是可审计性。用户看到的文字和模型实际产出的文字不再一致,出问题时“模型说了什么”和“用户看到了什么”要分开查。二是知情与责任。如果一句话是被后置指令改过的,责任落在模型、提示词作者还是产品方?三是安全面。凡是“用户看不到但会影响输出”的通道,都是提示注入(prompt injection)的潜在入口——如果模型把用户内容里的指令当成后置指令来执行,就会出岔子。

对从业者的意义:把后置环节当正式链路对待——打日志、留原文与改写后的对照、明确谁有权改、改了什么要能回溯。对普通使用者:如果发现回答结尾的口径突然变得“很官方”,或前后语气不一致,可能是后面还有一段你没看到的流程。各家实现差异很大,具体机制以官方文档为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。