一句话定义
Stateful Evidence Management(有状态证据管理)指智能体在推理过程中,把用到的证据以持久化状态保存下来——记清"哪份文档、哪一段、得出什么结论、被哪一步推理引用过"——后续步骤直接复用这份账本,而不是每次回头重读原始语料。
打个比方
想象一位律师办一桩卷宗几十万页的大案。
无状态的做法是:每次开庭前把卷宗从头翻一遍,翻完就放下,下次再翻。翻到第 300 页时前面早忘了,而且每次都得铺满整张桌子——AI 词典:上下文窗口">上下文窗口很快撑爆。
有状态的做法是边看边记:写下"第 12 卷 P340,证人提到转账时间",贴标签、建交叉索引。下次开庭直接翻笔记,需要核对原文时按位置精准回看那一页。笔记越记越厚,但每条都只指向原文,不复制原文。
核心就在这一句:证据是"带地址的引用",不是"全文的副本"。
状态里存什么
- 定位:来自哪份文档、哪一段、大致偏移量,保证可回溯
- 提炼:一段摘要或一条断言
- 关系:它支持还是反驳哪条结论,与哪些证据冲突
- 引用记录:被哪些推理步骤用过,避免重复劳动
因为上下文里放的是"指针加摘要"而非全文,当语料达到上千万乃至上亿 Token 量级时,推理才跑得下去;否则光反复搬运原文就把窗口占满了。
和相邻概念的区别
最容易和 RAG(Retrieval-Augmented Generation,检索增强生成)、长期记忆混在一起。
| 概念 | 证据存在哪 | 跨步骤/跨会话 | 主要解决 |
|---|---|---|---|
| 无状态 RAG | 每次现检现拼进提示 | 否 | 让模型用上外部知识 |
| 长期记忆 memory | 用户偏好、对话历史 | 是 | 让助手"记得你" |
| KV cache / prompt caching | 引擎内部张量或前缀缓存 | 是 | 省算力、降延迟 |
| 有状态证据管理 | 应用层的证据账本 | 是 | 结论可溯源、上下文不膨胀 |
RAG 通常是一次性的"检索—塞提示—生成";有状态证据管理把检索结果当成持续演化的工作状态。KV cache 是推理引擎底层的优化,属另一层,替代不了应用层对证据的组织。临时草稿(scratchpad)多半只在单次上下文里有效,会话一关就丢。
对从业者和普通人的意义
对做智能体的人:把"证据账本"当一等公民设计,明确证据的写入、更新、失效与回收规则,是控制上下文膨胀、让长任务不跑偏的关键;可以盯重复读取率、证据复用率、结论可溯源比例这几类指标。
对普通职场人:这意味着面对几百页合同、财报或尽调材料时,助手能记住"我在第几页看到过什么"并给出处,而不是把整本重读一遍再说一句含糊的话。具体实现方式各家不同,以官方文档为准。
