生成式人工智能(generative AI)问世后让世界步入更为混乱的场景。有人将中国散文名家朱自清经典散文《荷塘月色》送检某主流论文检测系统,被判定AI生成内容疑似度高达62.88%。更荒诞的是,中国散文千年名篇之一的《滕王阁序》在检测中竟显示100% AI生成。这表明,现实世界已经被AI搅得分不清真假。
为了避免利用AI造假严谨的学术论文,早在2023年6月,英国《自然》杂志发表一篇社论提出,不会刊登任何使用生成式人工智能工具创作的图片、视频或插图,除非是与人工智能相关的文章。同时,《自然》杂志坚决不承认任何生成式人工智能工具作为论文作者。

即便使用了AI,很多人也不会主动披露。视觉中国|图
然而,随着近几年涉及使用AI的论文数量急剧增加,国际学术界和学术期刊的态度正在发生变化,可能从过去的拒绝走向逐步开放,因为只有在开放和研究中,才有可能解决使用AI撰写论文的重要问题,包括论文的真伪、剽窃,以及传播虚假信息和知识。
对AI撰写论文态度的转变同样由《自然》杂志反映出来。2025年5月14日,《自然》杂志发表了一个在3月份对全球5229名科学家通过电邮进行的关于AI撰写论文的调查。这份调查报告聚焦于目前伦理规范尚不明确的论文撰写和审稿。
调查以虚构学者“Bloggs博士”询问受访者,AI生成论文初稿、编辑自己的草稿、撰写特定章节以及翻译论文、使用AI撰写同行评审意见等,哪些是他们能接受的,哪些是不能认同的,同时也询问受访者是否在这些情况下使用过AI或愿意使用,以及是否愿意披露使用了AI。
结果正如人们所预料的那样,受访者对AI以不同形式参与撰写论文有不同的观点和态度,甚至针锋相对,主要有几种情况。
超过90%的受访者认为使用生成式AI编辑或翻译研究论文是可接受的,但在是否需要披露使用AI以及如何披露上看法不一。
超过65%的人认为,可以使用AI撰写文本,包括撰写论文的全部或部分内容,但约三分之一的人表示反对。
超过60%的受访者认为,用AI撰写同行评审报告是不适宜的,但57%的人认为使用AI通过回答手稿相关问题辅助同行评审是可接受的。
尽管调查的结果显示,大部分人赞同可以用AI撰写文章,但是在所有受访者中很少有人承认使用AI写文章,最常用的是用AI编辑文章(约28%的人承认,另有43%的人表示愿意尝试),而用AI撰写初稿,为自己的论文制作摘要、翻译论文和辅助同行评审的人,只有约8%。
这些结果表明,尽管多数研究人员赞同用AI撰写文章,但大部分人并没有使用。原因在于,使用AI写文章目前仍然被大多数研究人员视为“可悲的作弊和欺诈”。而且,即便使用了AI,很多人也不会主动披露使用了AI生成。因为,在大多数人心目中,本质上还是认为使用AI不诚实,是学术造假,或者用AI撰写的研究成果不真实,或者是水货、赝品。因为,使用AI可以轻而易举地直接生成实验数据、伪造调研问卷等。
一个基本的问题是,如果实验是研究者自己实打实地做的,调查也是一份一份做的,而且文本的结构和思路是自己拟定,只是让AI根据研究者提供的这些材料和指令写论文,这是否允许?
现在,《自然》和其他的调查表明,AI撰写文本(包括所有的文章)将在未来几年被普遍接受,关键是管理。一是学界和出版商要制定规则和定出规矩,二是作者需要对自己用AI生成的文本负法律责任,三是所有利用了AI撰写的文章都要声明或披露使用了AI。
现在,国际出版机构把涉及AI的文本分为两大类,一是改进文本(包括使用AI提升拼写、语法和可读性),二是生成新内容。前者不需要披露使用了AI,后者需要披露。2023年,荷兰海牙的国际科学、技术和医学出版商协会(STM)建议,AI用于完善、纠正、编辑或格式化手稿等任务时无需披露,但超越这些基本任务的AI使用则需要披露。美国医学期刊JAMA,则要求使用AI的作者提供软件及其制造商的详细信息,以及使用方式的简要说明(用于拼写和语法检查等简单任务除外)。美国《科学》系列期刊已要求投稿时同步提交AI使用声明。
而在中国,AI用于论文写作也有一些禁区,可借助Elicit梳理文献脉络,用Zotero管理参考文献,通过Python自动清洗数据(可快速有效处理数据);不得直接采用AI生成的研究假设,严禁用DALL-E虚构实验样本图像。中国国家自然科学基金申报系统还新增了“AI辅助内容申报项”,如未如实填写,将影响科研诚信评分。
采用AI撰写论文和辅助进行科研是因为AI有巨大的优势。首先是AI有强大的文献整合效率,通过语义检索技术,AI系统可在5分钟内分析10万篇相关论文(如Semantic Scholar系统),而且AI的数据可视化生成快速而自动,AutoML工具已经能做到从实验数据到出版级图表的自动转化(如Tableau集成AI模块)。AI的结构化写作能力更强,如GPT-4等模型可生成符合IMRaD(引言-方法-结果-讨论)框架的论文雏形,准确率达78%(Nature子刊2023研究数据)。
在实践中,虽然很多研究人员不愿意声明使用AI辅助写作,但是爱思唯尔出版集团(Elsevier)旗下75%期刊作者使用AI语法润色工具,而在初稿生成方面,BioGPT可以生成符合生物医学期刊格式的初稿(准确率92%)。
但是,AI的缺陷也是显而易见的。AI无法进行创新性的工作、研究和写作。现有AI模型在提出原创理论方面成功率小于0.3%(Science Robotics 2024研究),逻辑验证有缺陷,数学推导错误率高达41%(人工智能国际表征学习大会ICLR 2023测试数据),而且AI无法自主规划实验方案(生物实验设计成功率0%)。
不过,采用AI撰写文章的发展趋势似乎不可阻挡。可以判断的趋势是,在2025年前,AI主要用于辅助工具,如拼写和语法检查;到2030年可利用AI建立半自动写作系统,包括初稿生成+文献整合;2035年后,AI与研究人员进入人机协同研究和撰写论文(假设生成+实验设计)。
对于AI介入科学研究和撰写论文,一个比较认同的观点是,AI可作为超级研究助理承担30%-40%的论文撰写任务,但核心的创新构思、实验验证、实际调查和试验、学术判断仍需要人工主导。人机协同模式可能成为未来学术写作的新常态,但完全由AI撰写的文章在较长时间内仍不能达到学术出版标准,也难以被学界接受。
张田勘