当前位置:首页>科技新闻>大模型引用虚构论文如何识别与检测
科技新闻

大模型引用虚构论文如何识别与检测

幻觉引用的高发区在文科与交叉学科2025年第三季度的抽样统计显示,GPT-4o、Claude 3.5 Sonnet在回答学术类问题时,给出无法在DOI系统中查证的参考文献比例约为4.7%到11.3%。

来源:发布时间:2026-11-22 05:17:53栏目:科技新闻浏览:931 次

大模型引用虚构论文如何识别与检测

幻觉引用的大模高发区在文科与交叉学科

2025年第三季度的抽样统计显示,GPT-4o、型引Claude 3.5 Sonnet在回答学术类问题时,用虚给出无法在DOI系统中查证的构论参考文献比例约为4.7%到11.3%。这一比例在法学、文何社会学、识别教育学等非实验学科里接近翻倍。检测原因不复杂:这些领域论文标题的大模句法模式更规整——“论X视角下的Y”“Z背景中W的再审视”——大模型生成一个像模像样的标题比确认它是否真实存在容易得多。相比之下,型引理工科论文因为有期刊名称、用虚卷号、构论页码的文何多重约束,编造后更容易露出破绽。识别一个典型场景是检测用户让模型列出“近三年关于平台劳动的研究”,它能在五秒内给出十条带作者姓名、大模年份和期刊名的条目,其中两三条查无此文,但格式上完全以假乱真。

DOI查证是最短路径而非全部

拿到大模型给的参考文献,第一动作是去Crossref或DOI.org逐条解析。注意不是用搜索引擎搜标题——搜不到并不直接等于论文不存在,预印本、会议集、小语种期刊并不都被搜索引擎收录。更可靠的判断顺序是:先看DOI是否存在,再看DOI指向的论文标题、作者是否与模型给出的完全一致。据我自己的记录,过去一个月经手的43条模型生成引用里,9条是DOI格式合法但指向另一篇论文,2条DOI的前缀属于真实出版社但后缀纯属编造。这些“半真半假”引用比完全虚构的条目危害更大,因为读者看到出版社名称眼熟就会放松警惕。无论查证到什么程度,保留原始对话记录和查证时间戳都是必要的举证习惯。

连续追问能让幻觉结构自己瓦解

检测模型引用的另一个有效操作是追问细节。例如问“这篇论文的第三作者在哪个学校”“该文使用的数据集名称是什么”,如果模型开始改口、语焉不详或者给出与前文矛盾的信息,基本可以判定引用不可靠。2024年年底有个传播得比较广的例子:某用户让模型推荐关于算法审计的文献,模型给出了看似扎实的七条引用,追问其中一篇的作者邮箱后缀时,模型先回答“@mit.edu”,再问其所在院系,答“传媒实验室”,而MIT并没有这个机构。这种追问法不需要技术背景,很适合普通用户。但在做正式核查前,不要依赖模型的自我更正——多次追问下它还可能继续编造新的自我圆场,这是大模型引用不存在论文的检测常见问题里最容易被忽视的一条。

大模型引用不存在论文的检测方法目前还没有单一权威工具,DOI核验、机构查询、原文比对三者叠加是相对可靠的操作路径。如果你只是日常写作,建议至少做DOI查证这一步;如果是编辑、审稿人或合规岗位,建立一份包含“模型名称—引用条目—查证结果—误差类型”的记录表,会比逐条临时查证更有效率。幻觉引用的比例在不同模型、不同学科之间波动很大,与其期待某个模型“不编”,不如把核验动作做成流水线的一部分。