
2023 年,研究人员让 ChatGPT 撰写简短的文献综述,然后试图查证它引用的每一个来源。结果有 55% 并不存在。三年后,Stanford 的研究人员对当前的 AI 模型重复了这项测试,发现其中最好的模型几乎从不编造参考文献。
这项引用测试是 Stanford University 的 Owen Queen 和 James Zou 一个更大项目的一部分,他们在 2024 年 7 月至 2026 年 9 月间发布的 20 个模型上,重新运行了 50 项关于大语言模型(LLM)弱点的被广泛引用的研究发现。他们的结论是:关于 AI 的许多“已知”结论会迅速过期。该分析于 11 月 2 日以交互式网页报告的形式发布,尚未经过同行评审。
大多数发现已消退
研究人员选取每篇原始论文的关键测量指标,确认他们能在原模型或相近替代模型上复现该结果,然后测量这一效应在新模型中还剩下多少。当较新模型表现出的效应只剩下原来的五分之一或更少时,该发现就被计为“已过期”。
- 在 50 项发现中,有 22 项(44%)到 2026 年 9 月已过期。
- 17 项(34%)已减弱。
- 8 项(16%)仍然成立。
- 3 项(6%)变得更强。
对于已过期的发现,从发表到过期的平均时间为 15.7 个月。作者提醒,这一数字未计入尚未过期的发现。把全部 50 项都算进来,他们估计有 16% 在发表一年后过期,39% 在两年后过期。
消退最快的发现大多是能力上的失败,且有可核查的正确答案:数“strawberry”里的字母、在不熟悉的进制下做算术、找出埋在长文档中间的事实、在用户反驳时放弃正确答案,以及编造引用。
奉承变得更严重
持续存在的发现大多关乎判断和偏好,而非能力。模型仍然会奉承并附和用户,仍然在政治上偏左,仍然在本应拒绝时作答,仍然对开放式提示给出几乎相同的回答。
有三种效应变得更强。模型现在比过去更会顺着用户表明的偏好并加以赞美。用于给其他文本打分的模型,更偏爱自己的写作。而模型在生成真正随机的数字方面,比以往更差。
假引用:顶尖模型中罕见,但未消失
在覆盖 42 个主题的引用测试中,GPT-3.5 Turbo 编造了 59% 的参考文献,接近原始研究的 55%。Anthropic 的 Claude Sonnet 5.5 编造了约 1%,OpenAI 的 GPT-6.1 Sol 一个都没有编造。但今年发布的 Alibaba Qwen3.7-Flash 仍编造了 69%。
作者认为,ICLR 和 ICML 等会议现在会直接拒稿含幻觉参考文献的论文,但它们所依赖的这一信号可能已无法可靠地识别 AI 生成的作品。也有人不同意这个问题正在消失。Columbia University 的医疗 AI 研究员 Maxim Topaz 对 Nature 表示,他的研究发现,自 2023 年以来,已发表学术论文中伪造的引用“大幅上升”,原因可能是更多研究人员使用 AI,而许多人并未使用最新的模型。
可信度几何
该报告有明显局限。它尚未经过同行评审。50 项发现由作者选定,并非随机抽样。在他们能够用数值复现的 48 项发现中,有 23 项的原模型已不再可用,作者使用了替代模型或代理模型。他们还使用 AI 编程智能体(Claude Code 和 Codex)搭建测试流程。同几个月发布的模型之间结果差异很大,因此一项在整个模型组中已“过期”的发现,对某个特定模型而言可能仍然成立。
其核心观点仍然有用:关于AI能做什么和不能做什么的说法需要附带日期。“作为这些系统的用户,我们需要对AI能做什么和不能做什么不要有如此固定的看法,”Queen对Nature表示。
来源:Owen Queen and James Zou,“LLM研究发现的保质期,”斯坦福大学,2026年11月2日 (zou-group.github.io/llm-claims-shelf-life),未经同行评审;Walters, W. H. & Wilder, E. I.,Scientific Reports 13, 14045 (2023);Nature新闻,2026年11月19日。
首页科学#人工智能#大语言模型#斯坦福大学#AI幻觉#研究