当前位置:首页>AI新闻>大模型引用虚构论文现象检测方法解析
AI新闻

大模型引用虚构论文现象检测方法解析

2025年4月,多所高校图书馆陆续在学术规范培训中新增了一个条目:如何识别大模型生成的“幽灵引用”。起因是过去半年内,至少有14篇投稿至预印本平台的论文被发现引用了不存在的文献,其中一篇关于材料科学的

来源:发布时间:2026-11-22 05:22:42栏目:AI新闻浏览:616 次

大模型引用虚构论文现象检测方法解析

2025年4月,大模多所高校图书馆陆续在学术规范培训中新增了一个条目:如何识别大模型生成的型引象检析“幽灵引用”。起因是用虚过去半年内,至少有14篇投稿至预印本平台的构论论文被发现引用了不存在的文献,其中一篇关于材料科学的文现稿件引用了7篇完全虚构的期刊文章,篇名、测方作者、法解卷期号一应俱全,大模但在任何数据库中都无法检索到。型引象检析

大模型引用不存在论文的用虚检测方法之所以成为刚需,是构论因为这类错误的隐蔽性远超拼写失误。模型不是文现随机生成字符,而是测方根据训练语料中的引用格式“仿造”出结构合理的条目。常见特征包括:作者姓名组合真实但从未合作过、法解期刊名称存在但卷期页码对不上、大模DOI格式正确但解析后指向完全无关的文章。检测教程的第一步,就是把引用条目拆解为“可验证单元”,逐项交叉比对。

交叉验证比关键词搜索更可靠

直接复制大模型给出的文献标题到搜索引擎,是最低效的做法。虚构标题如果从未出现在网上,会得到零结果,容易误判为“数据库不全”。更有效的做法是拆解作者与期刊:去期刊官网的历史卷期中查找该作者是否发表过文章。2024年底一组统计显示,虚构引用中约62%使用了真实期刊名称,但卷期号超出该刊实际出版范围,比如某期刊2023年只出到第58卷,虚构条目却写着第73卷。

DOI解析是性价比最高的过滤步骤

大模型生成的DOI常常通过校验码规则,这意味着它“看起来合法”,但解析结果是判断真伪的关键。检测经验分享中反复提到一个细节:虚构DOI解析后可能跳转到一篇真实存在的论文,但标题、作者完全与引用条目不符。此时不应只看“能解析”就放过,而要核对解析页面的第一作者与引用作者是否一致。有研究团队测试了200条虚构引用,其中89条的DOI可以解析,但无一条指向正确目标。

引用密度异常是早期预警信号

一篇万字以内的论文如果集中出现大量“恰到好处”的引用,且每条都精准支撑论点,反而需要警惕。正常写作中,引用来自多年积累,总会带有某些偏门、冷门或并非完全契合的文献。大模型引用不存在论文的检测技巧之一,就是检查参考文献的发表年份分布:虚构引用倾向于集中在近五年,且多发表于高影响力期刊,因为它学到了“高被引更可信”的模式。当一份参考文献表里近五年高风险期刊的引用比例超过七成,人工复核成本会急剧上升。

目前还没有单一工具能自动识别所有虚构引用,Crossref和OpenAlex的API批量校验可以过滤掉大部分不存在的DOI,但对“存在但被错误引用”的条目无能为力。建议编辑和审稿人在收到AI辅助撰写的稿件时,优先核查作者自报的“关键性引用”,尤其是支撑核心论点的前三到五条。这项工作枯燥,但在当前的模型能力边界下,仍是成本最低的防线。