OpenAI 在其官网发布文章《Why language models hallucinate》,主题是语言模型幻觉的成因,该内容被归入论文类目,原文链接为 https://openai.com/index/why-language-models-hallucinate。
幻觉指模型生成看似合理、实则与事实不符或缺乏依据的内容。它长期位列大模型落地最受关注的问题之一:在问答、摘要、代码生成以及检索增强系统中,一旦错误输出被用户当作事实采纳,偏差就会向下游传导,且往往难以追溯。
对从业者来说,弄清幻觉从何而来,直接关系到技术路线的取舍——是继续押注更大的模型与更多数据,还是借助检索增强、工具调用、外部校验等工程手段加以约束;也关系到评测体系如何设计,才能把“言之凿凿的错误”与“坦率承认不知道”区分开来。
OpenAI 以专文形式介入这一话题,显示幻觉仍被视为模型可靠性的关键瓶颈之一。对于关注模型可靠性、评测与安全对齐的读者,这类讨论提供的是问题框架,而非单一产品的更新。正在把模型接入生产环境的团队,可结合原文判断各类缓解手段的实际边界;具体论证与结论以原文为准。
