跳到主内容
快讯直播
AI智模界
AI 词典

假引用:模型编的参考文献,为什么那么像真的

一句话定义:假引用(Fabricated Citation)指语言模型生成的参考文献在格式上完全合规——作者、期刊、年份、卷期、页码、DOI 一应俱全——但对应的文献根本不存在,或者存在却不支持被引用的那句话。

它为什么会这么像真的

参考文献是训练语料里格式最规整的文本之一:作者名的排列顺序、期刊名的缩写习惯、卷期与页码的数字比例、DOI 的 10. 前缀后跟注册机构号、URL 的路径结构,全是高度重复的模式。而"按模式补全下一个字符"恰好是模型最擅长的部分;"这篇论文是否真实存在"则是一个它无法从参数里查到的事实。

可以把模型想象成一个从没进过图书馆、却背熟了海量书目卡片的实习生:让他按格式写一张卡片,作者、刊名、页码、DOI 都填得像模像样,但卡片背后没有那本书。他做的其实是填空题,并非查询。

和相邻概念的区别

现象文献存在真支持该断言典型成因
假引用否—概率补全
张冠李戴是否检索或匹配错误
抄错卷期页码是是转录疏漏
无出处的断言——未被要求引用

还要和"学术造假"分开:人的伪造有主观意图,模型的假引用只是概率补全,没有意图。但责任不因此转移——署名发表的是人,核对义务也在人。另外,检索增强(RAG)并不免疫:检索结果可能匹配错误,模型也可能在检索之外自己补出几条它"记得"的文献。

对普通人的意义

模型给出参考文献时,把每一条都当作待核对的线索,不能直接当真。三步:把标题原样粘到学术搜索引擎里查;用 DOI 解析服务验证;最后读一遍被引段落,确认它真的说了你要引的那句话。第三步最容易被跳过,也最要命——"存在"不等于"支持"。生成只要几十秒,核对可能要一小时,这是引用这件事的固有成本。

对从业者的意义

核心思路是把引用当外部事实处理,不要当成文本生成:

1. 闭卷改开卷。先检索出候选文献,给模型一份带 doc_id 的白名单,只允许从中选择,禁止自由书写文献信息。

2. 引用落到片段。要求模型输出"引用了哪一段的哪一句",而不是笼统挂一个文献列表,方便后续逐句核对。

3. 出口必校验。DOI 解析或标题检索判断是否真实存在,再把被引段落取回做蕴含判断(是否支持该断言);两关都过才放行。

4. 界面检查。未通过校验的引用标灰或隐藏,别让它悄悄进入终稿。

5. 可度量。维护一个小规模人工标注集,分别统计"引用存在率"和"引用支持率",后者通常明显更低。

一句话收尾:能在生成侧加上限制,就别留到校验侧;校对时最容易漏的那一步,往往是最该自动化的那一步。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。