当前位置:首页>Web3资讯>大模型论文引用竟现幻影文献,检测方法引关注
Web3资讯

大模型论文引用竟现幻影文献,检测方法引关注

幻影引文从何而来过去一年,arXiv 和各类期刊预印本里频繁出现一类诡异现象:文献列表看似规范,DOI 编号格式正确,作者姓名与期刊名称也对得上,但点进去要么查无此文,要么指向一篇毫不相干的旧论文。2

来源:发布时间:2026-11-22 05:22:53栏目:Web3资讯浏览:907 次

大模型论文引用竟现幻影文献,检测方法引关注

幻影引文从何而来

过去一年,大模arXiv 和各类期刊预印本里频繁出现一类诡异现象:文献列表看似规范,型论现幻献检DOI 编号格式正确,文引作者姓名与期刊名称也对得上,用竟影文但点进去要么查无此文,测方要么指向一篇毫不相干的法引旧论文。2024 年 11 月,关注斯坦福一位博士生在 X 上贴出截图,大模某篇由大模型辅助撰写的型论现幻献检综述中引用了 7 篇不存在的论文,其中一篇的文引 DOI 属于 2019 年某本会议论文集的第 3 页,而那篇文章标题完全对不上。用竟影文这并非孤例。测方加拿大麦吉尔大学针对 120 篇标注“AI 参与写作”的法引预印本进行抽查,发现 41% 存在至少一条无法在 Crossref 或期刊官网核验的关注引文。

编造模式比想象更精细

大模型生成虚假引文并非随机拼凑。大模常见路径是“真实作者+真实期刊+捏造标题+复用旧 DOI”。模型为了满足“引用格式正确”这一表层约束,会从训练语料中抽取某位高产作者的姓名,配上一个语义通顺但从未发表过的题目,再借用该期刊某篇旧文的 DOI。这类引文靠肉眼检查格式看不出问题,必须逐条过数据库。更棘手的是“半真引文”:标题存在,但作者、卷期、页码三处错位,检索工具按标题查得到,按 DOI 查又是另一篇。2025 年 3 月《自然》新闻团队用 iThenticate 和 Scite 交叉比对 300 篇 AI 生成文献,发现 12.7% 的引文存在“标题与 DOI 不匹配”问题,而人工初审只识别出其中不到三分之一。

检测方法正在工具化

目前可行的核验流程并不复杂,但需要分层。第一层是 Crossref REST API 批量提交 DOI,返回的元数据与引文逐字段比对,大部分“复用旧 DOI”型幻影引文在这一步就能暴露。第二层针对无 DOI 的引文,用 Semantic Scholar 或 OpenAlex 按标题+第一作者检索,若返回零结果且期刊官网检索也为空,基本可判定为虚构。第三层查“标题存在但字段错位”,需要比对 DOI 落地页的卷期页码与论文 PDF 首页信息是否一致。伦敦一家名为 ClearSkies 的初创公司去年发布了开源脚本 refcheck,能在五分钟内扫完一篇百条引文的预印本,误报率约 3%,但对非英文期刊与会议论文的覆盖率仍不稳定。

审稿人开始要求逐条核验

部分期刊已经调整政策。《JAMA Network Open》从 2025 年 1 月起要求投稿时附上每篇引文的 DOI 解析截图;IEEE 部分会议在生成式 AI 使用声明中新增“引文完整性由作者逐条人工核验”的强制条款。一线审稿人的做法更直接:遇到与主题高度吻合但从未听说过的文献,先查期刊官网目录页,再查作者个人主页的发表列表,两项都无记录,就要求作者提供原文 PDF。有审稿人在同行评议论坛 PubPeer 上分享,用这个“三查法”在一个月内标记了 23 篇疑似含幻影引文的投稿,其中 19 篇最终被作者承认使用了未加人工核对的 AI 生成文献表。

这件事短期内不会消失。模型训练语料里混入了大量二手引用信息,加上生成机制本身倾向于补全“看起来合理”的条目,幻影引文仍会持续出现。比起等模型改进,更实际的策略是把核验成本前移:投稿前跑一遍 refcheck 或同类脚本,审稿时对可疑 DOI 执行一次反向落地页比对。几分钟的机械操作,比事后撤稿的代价低得多。