跳到主内容
快讯直播
AI智模界
AI 词典

摘要漂移:为什么第三层摘要读起来像另一份文档

一句话定义:摘要漂移(Summary Drift)指在分层、递归式的多轮摘要中,每一次压缩产生的取舍误差被当作事实继续向下传递,几轮之后摘要的重点、比例甚至结论偏离原文,并且偏离方向基本不可逆。

原理:复印件级联放大

单次摘要类似有损压缩(lossy compression):把一万字压到一千字,模型必须选择删掉什么。删减依据是“这段文字里什么看起来重要”,而重要性依赖上下文。第一层通常没问题:细节没了,主干还在。

问题出现在第二层:把十段第一层摘要再压缩。此时每句话都已变成同等平滑的陈述句,原文中真正的重要信号,比如反复强调、数据密度、“但是”后面的转折、作者花三段讲的那件事,在摘要里已经被磨平了。模型只能按“读起来像不像重点”来选,于是误差从删除变成改写。

到第三层,剩下的话往往最通用、最不容易错。抽象陈述在任何语境下都成立,所以最安全;具体数字、限定条件、反例最先被淘汰。结果是摘要正确、流畅、且没用:每句话都能在原文找到影子,整体却已经偏移。它像是把“某方案在 A 条件下比 B 快,但在 C 场景会退化”压成“某方案性能更好”。

误差并非线性叠加,它带有方向,偏向更抽象、更平均、更不容出错,因此叫“漂移”而不是“噪声”:噪声是随机的,漂移是有方向的偏移。

和相邻概念的区别

现象出错方式典型表现
幻觉(hallucination)加入原文没有的编出数字、来源、结论
摘要漂移逐层丢失限定条件与重点每句都对,整体偏移
长上下文失焦(context rot)单次超长输入中中段被忽略中间段落的内容问不出来

实际意义

对从业者:分层摘要不要只传摘要文本,要同时传递锚点,比如关键数字、专有名词、关键原句片段和指向原文的引用;最后一层务必回原文抽检;在 RAG 与记忆系统里,摘要层应定位成索引而非替代品,必须能回溯到原文。也可以减少层数,或在同一层做“合并”而不是“再摘要”。

对普通人:看到“AI 总结的总结”要多留一分警惕。判断标准很简单:这份摘要是否还保留了让你能做决定的那些条件。如果只剩“整体向好”“效果显著”这类放之四海皆准的话,就该问一句:这个结论是从哪段原文来的?

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。