近日,arXiv 收录一篇题为《Agentic backdoors via pretraining poisoning》(通过预训练投毒植入智能体后门)的论文,链接为 https://arxiv.org/abs/2610.37741。该条目被归类为论文,目前官方页面暂未提供摘要,因此论文的具体威胁模型、触发机制、实验设置与结论尚待查阅原文确认。
从标题本身可以看出,这项工作研究的是一条常被分开讨论、但危害可能更隐蔽的攻击链路:在预训练阶段通过投毒数据或权重层面的污染埋入后门,使模型在后续被用作智能体(agent)时出现异常行为。与只影响单轮输出的传统后门相比,“智能体后门”这一表述指向的是模型在自主调用工具、执行多步任务、与外部环境交互的场景中被动触发,这类行为链路更长、责任边界更模糊,也更容易绕过仅针对对话输出的安全评测。
其重要性在于攻击面的位置上移。预训练数据规模大、来源杂、清洗成本高,一旦污染发生在这一环节,后续的监督微调、偏好对齐与安全护栏都可能只覆盖表层行为,而难以清除早前埋下的触发条件;对依赖第三方基座模型构建智能体产品的团队而言,这直接关系到模型来源审查、数据溯源与上线前的行为评测流程。
需要强调的是,在摘要与正文细节公开之前,不应据标题外推该论文的攻击成功率、适用条件或防御方案。建议关注者直接查阅 arXiv 原文,重点核对三点:投毒发生在数据侧还是训练流程侧、后门在何种智能体任务形态下被激活、以及作者是否给出可落地的检测或缓解手段。
