一句话定义
滚动摘要(Rolling Summary)是一种长对话记忆管理方法:把较早的聊天历史不断压缩成一段会持续更新的摘要,只把「摘要 + 最近几轮原文」送进模型,从而在有限的AI 词典:上下文窗口">上下文窗口(context window)里保住关键信息。
为什么需要它
大模型每次回答时,能看到的只有上下文窗口内的内容。对话一长,早期内容就会被挤出去,模型自然“忘了”前面说过什么。
滚动摘要像开长会时的会议纪要:没人每次重读全部录音,而是拿上一版纪要,加上本轮新讨论,产出新版纪要;原始录音归档备查。对应到对话系统里,大致是:
1. 最近若干轮对话保留原文,保证语气、细节和指代不断线;
2. 更早的历史交给模型压缩成结构化摘要,重点保留目标、已确认事实、已做决定、待办事项、用户偏好;
3. 下一轮再把「旧摘要 + 刚被挤出窗口的对话」合并成新摘要;
4. 每次请求拼成:系统提示 + 滚动摘要 + 最近原文 + 当前问题。
和相邻概念的区别
| 方法 | 保留什么 | 主要风险 |
|---|---|---|
| 滚动摘要 | 持续更新的压缩摘要 + 最近原文 | 细节被磨掉,错误可能逐轮累积 |
| 滑动窗口(sliding window) | 最近 N 轮原文 | 早期关键信息直接丢失 |
| 检索增强生成(Retrieval-Augmented Generation,RAG)式记忆 | 原文切片,按需召回 | 召回不准时关键信息取不回来 |
| 一次性全文摘要 | 对全部历史做一次总结 | 新对话难以增量更新 |
滚动摘要不是“更聪明的滑动窗口”,它更像一层会自我更新的工作记忆;而 RAG 是从外部仓库里“查档案”,两者常一起用。
对从业者和普通人的意义
做长对话助手、客服机器人、编程 Agent 的人,别把滚动摘要当数据库。金额、订单号、法律条款、接口约定、用户明确禁止的事项,最好外置成结构化状态或可检索原文,摘要只负责让对话连贯。写摘要提示词时,明确规定要保留哪些字段,并定期用原文抽检,防止“摘要的摘要”把早期小错误放大。
普通人也能用上这个思路:当 AI 忘了你早前说的要求,不必反复抱怨它失忆,可以把关键约束再贴一遍,或让它先列出当前确认的要点;重要决定自己另存一份。不同产品的记忆实现差异很大,具体行为以官方页面为准。
