跳到主内容
快讯直播
AI智模界
AI 词典

跨会话串扰:智能体把别人的记忆混进了你的对话

一句话定义:跨会话串扰(Cross-Conversation Bleed)是指智能体(agent)在处理当前会话时,错误地取用了其他会话或其他用户的记忆与上下文,从而答非所问,甚至泄露隐私的失效模式。

为什么会串

现在很多 AI 产品不再是“一问一答”,而是带记忆(memory)的长期助手:它会把你过往说过的偏好、项目背景、称呼习惯提取出来存进外部存储(常见是向量库或用户画像表),下次对话再检索回来拼进提示词(prompt)。

问题在于:模型本身看不见“这条记忆属于谁”。隔离完全靠工程层——写入时打上 user_id、session_id,检索时强制按这两个键过滤。只要某一环漏了(摘要任务把多个会话揉成一段“用户画像”、缓存键设计成全局、检索先取 Top-K 再过滤导致越权片段已进上下文),就会串味。

打个比方:集体宿舍的公共冰箱,每个人饭盒上贴名字。贴标签的环节一松,你打开饭盒吃到的就是别人的红烧肉——而且你还以为是自己昨天剩的。

常见三种形态:

形态表现
会话间串上周聊的项目代号,出现在今天写给客户的邮件草稿里
用户间串A 用户提到的公司名、职位、偏好,被 B 用户看到
摘要污染多个会话压缩成一份“长期画像”,从此长期错下去

和几个近亲的区别

  • 上下文污染(context pollution):同一个会话内塞进太多无关内容(比如一长串工具返回结果),是“一间屋子太挤”,边界没破。
  • 幻觉(hallucination):模型凭空造事实,来源是参数化知识,不是别人的数据。
  • 检索不准:召回的内容相关性低,但仍属于本人范围,是质量问题不是越权问题。
  • 跨会话串扰:核心特征是跨越了会话或用户的边界,是隔离问题,往往同时是隐私问题。

一句话:污染是“屋里乱”,串扰是“串门了”。

对从业者和普通人的意义

做产品/工程的:把 user_id 和 session_id 当作贯穿全链路的强约束,从写入、摘要、索引到检索每一层都带上;检索走 filter-first(先按归属过滤再算相似度),而不是取回结果后再删;会话结束生成的摘要只写进该用户的命名空间;上线前做双账号交替对话的红队测试,专门验证“串不串”。

普通使用者:工作和私人身份尽量用不同账号或不同工作区;换一个不相关的话题时新开会话;留意“记忆”开关是否开着,涉及敏感信息的对话尤其如此。各家产品的记忆机制和清理入口不一样,具体以官方页面为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。