Nature发文：为什么不能让AI撰写科学综述？

过去两年，ChatGPT、DeepSeek、Claude等生成式AI工具迅速进入科研圈。越来越多研究人员开始使用AI检索文献、总结论wen、撰write综述，甚至有人认为：“未来的Review文章，或许可以完全交给AI完成。”

然而，最近发表于《Nature》的一篇评论wen章，却给这种乐观预期泼了一盆冷水。

文章作者现任全球最具影响力的循证医学组织之一——Cochrane Collaboration主编。而Cochrane发布的系统综述（Systematic Review），长期被认为是医学证据综合领域的“金标准”。

也就是说，这并不是一篇“AI怀疑论者”撰write的反对AI的文章，恰恰相反，这是一个长期尝试将AI引入科研流程的机构，在实践之后给出的真实结论。

一、AI最大的短板，是判断力

很多人认为，综述写作的核心工作就是：搜文献、看文献、整理文献、总结文献。既然AI能够完成这些工作，那么写Review似乎只是时间问题。

但作者指出：真正高质量的系统综述，从来不仅是简单的信息汇总。

研究人员需要回答的问题包括：

• 哪些研究应该被纳入分析？

• 哪些研究质量不足？

• 不同研究结果为何存在差异？

• 哪些证据更可信？

• 这些结果对临床实践意味着什么？

这些问题并没有标准答案。它们依赖于研究者长期积累的学科知识、临床经验、方法学训练以及学术判断力。

而这恰恰是当前AI最欠缺的能力。

二、AI幻觉，仍然是学术界最大的担忧之一

近年来，“AI幻觉（Hallucination）”已经成为学术出版领域反复讨论的话题。

所谓AI幻觉，是指模型生成：

• 不存在的文献

• 不存在的数据

• 不存在的结论

• 错误的引用关系

此前已有研究发现：大型语言模型生成的参考文献中，存在相当比例的虚构引用。

AI幻觉已经引起学术出版界警惕。今年5月，预印本平台arXiv公开表示，对于包含AI编造文献等明显未经核查内容的稿件，作者将面临1年禁投处罚。

鉴于系统综述常常被用于临床指南制定、公共卫生决策与医疗政策制定。一旦错误信息进入证据体系，其影响范围可能远超单篇论wen。

三、Cochrane亲测：AI并没有想象中高效

作为全球最著名的系统综述机构之一，Cochrane其实一直在尝试利用AI提高工作效率。例如：文献筛选、数据提取以及信息整理，这些工作本来非常耗时，理论上非常适合自动化。

然而，作者坦言现实效果并不理想。

目前很多AI工具：

• 需要较长训练周期；

• 使用者需要专门学习；

• 模型运行逻辑难以解释；

• 输出结果仍需人工核查。

更令人意外的是：在不少项目中，使用AI后的整体耗时甚至超过了完全人工完成。

这与外界宣传的“几分钟完成系统综述”显然存在巨大差距。

四、更值得警惕的是“黑箱”问题

文章还提到一个出版界越来越关注的问题：目前大量科研AI工具模型通常非开源，内部决策逻辑并不完全透明。

研究人员较难判断：模型究竟依据什么标准筛选文献。

对于药物评价、医疗器械评价等高风险领域来说，这种不透明性意味着：研究人员无法确认系统是否存在潜在偏倚。

AI真正适合做什么？

有趣的是，作者并不反对AI。她认为：AI最大的价值并不是替代研究人员，而是帮助研究人员完成重复性工作，例如：

✓ 管理海量文献

✓ 建立结构化数据库

✓ 自动跟踪撤稿论wen

✓ 识别潜在学术不端

✓ 辅助数据整理

这些工作原本需要大量人工投入，而AI在处理大规模信息时具有天然优势。

事实上，在文献阅读、信息整理和知识管理等环节，AI已经能够显著提高科论wen研效率。例如，LetPub推出的多款AI科研辅助工具，可帮助作者快速完成文献理解、信息提取与研究整理等工作：

• 文章结构化总结工具

• 文章关键信息提取工具

• 文章比对工具

• 参考文献挖掘工具

  ……

不过，正如《Nature》文章所强调的那样：AI擅长处理信息，而高水平科研真正稀缺的，仍然是研究者对问题的理解、对证据的判断以及对学术价值的把握。

因此，AI更适合作为科研助手，而科研工作与SCI论wen .撰write的最终决策者和负责人仍然是科研学者本人。