OpenAI 官网发布了一篇题为《Designing AI agents to resist prompt injection》的文章，主题是让 AI 智能体抵御提示注入攻击。
提示注入是指攻击者把恶意指令隐藏在网页、邮件、文档等模型会读取的内容中，诱导智能体偏离用户原本的任务，转而执行攻击者期望的操作。在聊天机器人阶段，这类攻击的影响通常停留在输出层面；但智能体具备调用工具、访问文件、执行代码、操作浏览器等能力后，风险就从"说错话"变成"做错事"，可能造成数据外泄或不可逆的操作后果。
因此，抵御提示注入已成为智能体从演示走向生产环境必须跨过的一道门槛。仅靠模型自身的对齐训练往往不够——攻击面分布在模型读取的每一段外部内容上，防御需要在系统设计层面展开。文章标题中的"designing"也提示，讨论的重点更可能是智能体的整体架构与交互设计，而非某个单点补丁。
对正在构建智能体产品的团队而言，这篇内容值得对照自身的工具权限、外部内容处理和人工确认流程做一次检查。该文发布在 OpenAI 官网，具体方案细节可查阅原文。