一句话定义:假引用(Fabricated Citation)指语言模型生成的参考文献在格式上完全合规——作者、期刊、年份、卷期、页码、DOI 一应俱全——但对应的文献根本不存在,或者存在却不支持被引用的那句话。
它为什么会这么像真的
参考文献是训练语料里格式最规整的文本之一:作者名的排列顺序、期刊名的缩写习惯、卷期与页码的数字比例、DOI 的 10. 前缀后跟注册机构号、URL 的路径结构,全是高度重复的模式。而"按模式补全下一个字符"恰好是模型最擅长的部分;"这篇论文是否真实存在"则是一个它无法从参数里查到的事实。
可以把模型想象成一个从没进过图书馆、却背熟了海量书目卡片的实习生:让他按格式写一张卡片,作者、刊名、页码、DOI 都填得像模像样,但卡片背后没有那本书。他做的其实是填空题,并非查询。
和相邻概念的区别
| 现象 | 文献存在 | 真支持该断言 | 典型成因 |
|---|---|---|---|
| 假引用 | 否 | — | 概率补全 |
| 张冠李戴 | 是 | 否 | 检索或匹配错误 |
| 抄错卷期页码 | 是 | 是 | 转录疏漏 |
| 无出处的断言 | — | — | 未被要求引用 |
还要和"学术造假"分开:人的伪造有主观意图,模型的假引用只是概率补全,没有意图。但责任不因此转移——署名发表的是人,核对义务也在人。另外,检索增强(RAG)并不免疫:检索结果可能匹配错误,模型也可能在检索之外自己补出几条它"记得"的文献。
对普通人的意义
模型给出参考文献时,把每一条都当作待核对的线索,不能直接当真。三步:把标题原样粘到学术搜索引擎里查;用 DOI 解析服务验证;最后读一遍被引段落,确认它真的说了你要引的那句话。第三步最容易被跳过,也最要命——"存在"不等于"支持"。生成只要几十秒,核对可能要一小时,这是引用这件事的固有成本。
对从业者的意义
核心思路是把引用当外部事实处理,不要当成文本生成:
1. 闭卷改开卷。先检索出候选文献,给模型一份带 doc_id 的白名单,只允许从中选择,禁止自由书写文献信息。
2. 引用落到片段。要求模型输出"引用了哪一段的哪一句",而不是笼统挂一个文献列表,方便后续逐句核对。
3. 出口必校验。DOI 解析或标题检索判断是否真实存在,再把被引段落取回做蕴含判断(是否支持该断言);两关都过才放行。
4. 界面检查。未通过校验的引用标灰或隐藏,别让它悄悄进入终稿。
5. 可度量。维护一个小规模人工标注集,分别统计"引用存在率"和"引用支持率",后者通常明显更低。
一句话收尾:能在生成侧加上限制,就别留到校验侧;校对时最容易漏的那一步,往往是最该自动化的那一步。
