OpenAI 官网发布了题为《Improving instruction hierarchy in frontier LLMs》的内容，相关页面地址为 https://openai.com/index/instruction-hierarchy-challenge。从标题看，讨论的核心是"指令层级"（instruction hierarchy）问题。
在大模型的实际部署中，模型往往要同时处理来源不同的文本：开发者写入的系统消息、用户当轮的输入，以及从网页、文档、工具返回结果中带入的第三方内容。对模型而言，这些内容在形式上都只是 token 序列。如果缺乏明确的优先级规则，模型就可能把低优先级来源的文本当作高优先级指令来执行——这正是提示注入（prompt injection）与越狱风险的重要来源。
所谓指令层级，通常指让模型稳定遵循"系统指令优先于用户指令、用户指令优先于第三方内容"这样的优先顺序：高优先级指令可以覆盖低优先级指令，而低优先级内容不应篡改高优先级的目标。
对 AI 从业者而言，这一方向的重要性正在上升。随着 Agent 与工具调用场景增多，模型需要读取越来越多来自外部、且不可信的内容，指令层级直接关系到系统的安全边界与可控性。如果模型无法可靠区分"谁在下指令"与"谁只是提供了数据"，那么再强的推理与执行能力，也可能被恶意内容劫持。
因此，如何在前沿大模型中改进指令层级，既是模型对齐与安全研究的课题，也是产品能否在真实、开放环境中被放心使用的关键前提。