一句话定义: Grounding(接地 / 溯源)指的是把模型的输出锚定在可核查的外部证据上——你给的资料、检索结果、工具返回值——而不是靠它训练时记下来的东西。
为什么这件事难
大语言模型(LLM)的参数里存着海量知识,这些知识跟它在上下文里读到的资料,走的是同一套语言流程。对模型来说二者没有本质区别:都是从概率上接着往下写。所以它不会主动告诉你"这句是我记住的"还是"这句是从你文档第三段抄的"。
打个比方:请一位博学的朋友来读一份合同,然后向他提问。他可能答的是合同里写的,也可能是他以前处理过的类似合同。两种情况的语气一模一样,光听语气你分不出来。
怎么判断一句话是从资料里来的
最直接的办法是做对照实验:把资料换掉再问一遍。答案跟着资料变,说明它被接地了;无论喂什么资料答案都一样,那就是参数记忆在起作用。
另一个办法是问只有你的资料才能回答的问题,比如文档里编的一个内部代号。模型如果答得头头是道,基本就是在编。
引用为什么常常是假的
因为引用(citation)本身也是模型生成的文本,不是从原文里拷贝出来的指针。它在"预测一段看起来像引用的文字",于是常见三种错法:
- 文档名对,但里面根本没有那句话;
- 句子大意对,但页码、章节号是编的;
- 语义上确实相关,字面上对不上。
根源在于:引用要求字面级的精确匹配,而模型擅长的是语义相似。这是两件事。所以"答案接地了"和"引用是真的"必须分开看,前者成立时后者仍可能是假的。
和相邻概念的区别
| 概念 | 它是什么 |
|---|---|
| Grounding | 一种目标或属性:输出有外部证据支撑 |
| RAG(AI 词典:检索增强生成">检索增强生成) | 一种手段:先检索,再让模型基于检索结果作答 |
| 幻觉(hallucination) | 一种症状:没有证据支撑却说得像真的 |
| 归因(attribution) | 把输出反向对应回具体来源这个动作 |
注意:用了 RAG 不等于接地成功。检索没召回、模型无视了资料、引用张冠李戴,都会让 RAG 产出没接地的答案。
实际意义
对从业者:别信模型自报的引用,用程序去核对原文;需要精确引用时,让检索系统或确定性代码把原文片段贴出来,而不是让模型自己写。评估时把"答案对不对"和"引用准不准"拆成两个独立指标。
对普通职场人:把模型给的引用当成线索而不是证据,顺手点开原文扫一眼。文档里没写的内容,它照样能说得有鼻子有眼。涉及具体事实、数字和条款时,以官方页面和原始文件为准。
