人工智能时代期刊同行评审中的科研诚信风险探析

张益嘉

(渤海大学 学报编辑部,辽宁 锦州 121013)

随着科技快速发展的步伐,人工智能作为一种新兴技术已经被广泛应用于各个领域。人工智能技术给出版业带来了模式上的改变,包括无纸化办公[1]、增强出版、开放科学计划、同行评审等。但是,随着互联网的便捷,而期刊又作为传播科学的平台之一,关于期刊论文各种各样的科研诚信风险也被暴露无遗。近年来,国际、国内由于同行评审问题,论文工厂被撤稿的论文、被处理的期刊数见不鲜。因此,国家也出台了相应文件。国科办监[2023]53号文件《关于开展论文学术不端自查和挂名现象清理工作的通知》要求各部门彻查关于论文学术不端行为,其中也特别强调关于科学研究中的科研诚信问题。2022年8月,科技部等22个部门联合印发《科研失信行为待查处理规定》的通知,旨在“加强科研诚信体系建设,建立健全科研领域失信联合惩戒机制,构筑诚实守信的科技创新环境”。

2020年同行评审周开幕的主题是“信任同行评审”,2019年4月发布的《2023年学术出版领域技术趋势报告》中指出,未来技术趋势侧重于跨行业协作,以改善学术交流并确保研究中的信任和诚信。美国“STM未来小组”每年对学术出版领域的技术趋势进行预测,近几年的主题均与科研诚信、人工智能相关。在出版界中,人工智能技术可以帮助期刊同行评审流程更快速、准确地判断论文是否符合学术规范和伦理要求,提高了学术论文的学术质量和审查效率。人工智能技术带来机遇的同时,也出现了一些关于人工智能时代下期刊同行评审中引发的科研诚信问题的报道。因此,如何防范人工智能时代期刊审稿中的科研诚信问题,也是未来出版业面临的挑战。

目前,关于人工智能时代在期刊中的应用,多数是关于期刊论文学术不端检测系统的探究[2],较少涉及到关于人工智能技术运用到科技期刊同行评审过程中。

1 期刊同行评审的现状

从17世纪中叶的法国的《学者杂志》和《英国皇家学会刊物》提出评审开始,同行评审过程已经传承了三百余年。同行评审是用于评价科学工作的一种组织方法,这种方法经常被科学界用来判断工作程序的正确性、确认结果的可靠性以及对有限资源的分配[3]。期刊同行评审依然是承载着学术期刊的“学术把关人”的重要任务,是保证稿件质量和科研诚信的关键环节之一。人工智能技术在期刊同行评审中的应用是一个热门话题。但是,人工智能既可以解决同行评审系统中出现的困难,也面临科技出版价值判断的伦理困境、数据开放和可靠性进一步提高的挑战。

2023年3月公布Wiley出版社旗下的Hindawi特刊在2022年9月28日因操纵同行评审问题大爆雷,突然官宣撤回16家期刊的511篇论文后,2022年10月中旬开始,Hindawi系列所有杂志都进入了暂停接收或暂停发表的状态。2022年8月3日,美国知名期刊PLOS ONE一次性撤回20篇论文。最后调查结果显示,由于期刊出了“内鬼”——论文的同行评议被操纵了。该刊所依赖的编委会成员也卷入了同行评议操纵事件,也就是说,一些学术编辑在帮助作者发表论文[4]。这一系列的案例中,有的因为操纵期刊同行评审过程,有的利用人工智能技术的漏洞误导期刊同行评审人员,或者把作者本人扮演自己论文的同行评审人角色,从而导致同行评审出现极大偏差,最终引起科研失信事件。

由于同行评审诚信问题导致期刊论文被撤稿等危机频频发生,期刊论文撤稿问题不仅对作者学术研究生涯带来影响,而且期刊影响力也受到严重威胁。所以,全球学术界对期刊同行评审的科研诚信风险呼声越来越高。如何改善期刊同行评审中的科研诚信风险,从而提高全球学术研究的水平和公信力。可以考虑借助人工智能技术在期刊同行评审中对稿件的创新性、运用的模型、数据算法等把关,以减少学术不端事件发生。针对期刊同行评审步骤中可能存在的科研诚信环节提出相应的措施和建议,将有助于更好地维护学术研究的公平公正环境,营造诚实守信、追求真理、崇尚创新、鼓励探索、勇攀高峰的良好氛围,为建设科技强国奠定坚实的社会文化基础[5]。

2 人工智能技术在期刊同行评审的应用

2017年对1200多名《自然》审稿人进行的一项调查显示,87%的受访者表示他们认为审稿是他们的学术职责,77%的人认为这是保障已发表研究成果的质量,71%的人预计审稿不会得到奖励或认可。仅在2020年,全球研究人员在同行评审上花费的时间就相当于超过1.5万年,由此可见,同行评审压力过大,耗费了科研工作者的时间和精力。科睿唯安的ScholarOne是8000多种学术期刊稿件评审跟踪平台,科学家接受评论的平均比率从2020年的37.5%下降到2022年的32.3%,许多评论者发现这项职责过于繁重。这种同行评审人出现的严重饥荒情况,可能会导致同行评审人在时间紧任务重的压力下,产生虚假评审结果。2014年进行的一项关于“为什么同行评审人会拒绝审稿?”的调查,研究人员发现同行评审人拒绝了14%的审稿邀请,因为他们觉得会有其他人更适合该领域论文的评审。该报告得出结论,建议使用人工智能应用在同行评审中,提高专业辨识。此时,应该充分发挥人工智能技术在同行评审的优势。

由于人工智能技术同行评审的自动化程度高,评审速度更快,也更准确性等特点。使用人工智能进行审稿可以极大地缩短审稿时间,提高效率,减轻同行评审人员工作量,更加准确地诊断可能存在的科研诚信问题,从而提高论文审核的可靠性和有效性。人工智能技术在辅助期刊同行评审中的应用正逐步发展壮大,人工智能同行评审有以下优势。

2.1 整体评估稿件

人工智能技术可以根据前期评审数据、历史数据等,对投稿文章进行初步筛选,缩短编辑部工作的时间成本。相较于人工处理稿件,人工智能审稿不会被主观因素所影响,都是依据设定的规则和算法进行检测的,减少了关系稿、人情稿等。

2.2 相似度比对

人工智能技术可以根据论文的摘要、关键词、文中具体语言和模型等信息,将已有的文献进行比对,从而判断该论文是否具有独特性和原创性。比如,现在期刊已经应用普遍应用的CNKI科研诚信管理系统研究中心的期刊行为不端检测系统,也是利用人工智能对稿件进行复制率对比检测。另外,还有维普论文检测系统的查重软件,以及万方、paperpass、paperfree、CrossCheck[6]等,都是通过人工智能把新稿件和数据库已有文献进行比对。

2.3 自动化程度高

人工智能技术可以自动将论文进行专业或者栏目分类,以便更快速地分稿到对应的责任编辑,同时也减少了稿件在编辑这个环节耗时过长。人工智能自动化在精确寻找同行评审人时,可以细化到小分支专业。这样既加快匹配同行评审人的速度,又避免了因为送错评审人专业耽误时间和浪费评审人宝贵时间的情况发生。人工智能可以很好地处理海量数据。通过对数据的分析,可以帮助同行评审人精准把握文章质量,从而提高文章审核标准的可靠性。采用人工智能进行同行评审可以将审稿流程自动化,降低人力、物力成本。

2.4 处理稿件效率高

人工智能技术在评审稿件时可以准确、客观地检查文章中的语法错误、拼写错误等问题,并纠正文章中的语法错误,避免了人为疏漏问题,提高文章的可读性和准确性。人工智能技术可以同时处理大量的文章,提高审稿效率,从而加快了整个处理稿件流程,为科研工作者的创新点公布提供了先机。人工智能系统可以高效的不断学习和优化,根据已有的数据和规则进行新的训练,进一步提升在同行评审中的准确性和效率。

相对于传统的人工审稿方式,人工智能技术审稿更快、更准确、更客观、更全面,这些优势使得利用人工智能技术在期刊同行评审中的实际应用更有广泛的应用前景和发展空间。

3 期刊同行评审中的科研诚信风险

2023年6月23日起,NIH禁止ChatGPT等在线生成AI工具用于“分析和制定同行评议评论”,澳大利亚研究委员会从7月7日起禁止使用AI生成同行评议,《科学》期刊也禁止审稿人使用人工智能技术。虽然人工智能技术在期刊审稿中的应用在提高编辑工作效率、减少人力成本等方面具有优势,但因其局限性,可能会出现自动化抄袭检测系统的误判问题、机器学习算法偏见与歧视问题、学术伦理和道德风险等。

3.1 智能化的缺陷

人工智能算法虽然可以快速处理大量的数据和信息,但是其对于文章质量、学术价值、实用性等方面的评估,还不如人工审稿人那样准确和全面,缺乏人工审稿的主观判断和专业知识。由于人工智能系统是人类通过算法训练出来的程序化工具,仍然存在一定的局限性,特别是在需要对文章内容进行评估和判断的情况下,不能完全取代人类的角色。尤其是有些别有用心之人抓住系统缺陷和漏洞,通过篡改信息、投入假数据等方式来干扰其同行评审意见。撰写的评审报告容易出错,特别是对非主流观点有偏见,且缺乏推动科学创新的创造力。这些由于人工智能缺陷在同行评审中带来的负面影响,都会隐藏科研诚信风险的存在。

3.2 学术抄袭

Nicholas Carlini在博客文章《机器学习研究中的一个抄袭案例》中详细列举了人工智能团队论文存在大段抄袭其《去重训练数据使语言模型更好》论文的嫌疑,因为其中有大规模的文本重叠。关于利用人工智能学术抄袭问题,有学生用人工智能技术生成作业和学业论文,科研人员利用人工智能技术写出科研论文、科研项目申请书等。

3.3 虚假同行评审人员

2014年,台湾研究人员陈震远涉嫌假造130个不同的别名和电子邮件账号,在SAGE系统中登录为不同学者,为自己的论文护航,不但误导读者,也重创了《振动与控制期刊》的学术声誉。对此,出版商赛捷宣布撤回陈震远的60篇学术论文,同时,芮飞也宣布退休,辞去《振动与控制期刊》的总编辑职务。这是通过伪造同行评审人邮箱,通过注册虚假邮箱,最后自己为自己的文章进行审稿,从而达到顺利发表并获取利益。

3.4 关系网同行评审

有的期刊允许作者在投稿时自己推荐同行评审人,作者可以假造审稿人或是推荐对自己有利的审稿人选,这个方法虽然可以加快寻找审稿人的速度,却也让同行评审系统变得脆弱的同时也为同行评审造假提供了土壤。有的期刊虽然只是把推荐的审稿人作为参考,但是由于学术专业方向的圈子特点,作者会充分利用人工智能技术去搜索同一方向的同行评审人,然后进行维护关系,最后也达成文章被录用的结果

4 同行评审中科研诚信风险的防范策略

人工智能技术同行评审的科研诚信是保证科学研究质量和推动学术进步的重要方面。为了规范人工智能领域的同行评审科研诚信,可以采取以下几个方面的措施:

4.1 加强管理与规范

随着人工智能工具在期刊同行评审中的应用越来越广泛, 有必要建立科研诚信监管机构,加强对期刊同行评审过程中的不当行为和违规行为的监督和处罚,保护学术诚信和研究者的权益,减少科研诚信风险存在。2021年发布的《新一代人工智能伦理规范》,该规范增强全社会的人工智能伦理意识与行为自觉,积极引导负责任的人工智能研发与应用活动,促进人工智能健康发展。如果没有明确的行为规范和规章制度的监管,就有可能损害期刊同行评审过程的完整性,破坏学术出版物的公信力。

4.2 提高科研诚信意识

建立人工智能领域下期刊同行评审准则,明确同行评审人员必备的专业素养和道德标准,包括诚实、公正、透明等。通过组织培训班、开展研讨会等方式,提高评审人员运用人工智能技术的专业知识和技能水平,并加强他们对伦理道德的认知和规范。 另外,由于人工智能系统容易出现漏洞,而被攻击导致出现泄密或者误判情况。需要对人工智能技术中的算法进行加密处理,以保护所评审的论文重要数据、模型、程序等安全,增强对过程的监管和审查程序,减少科研失信行为的发生。给同行评审人员和科研人员赋予ID编号,像ORCID,BRID等唯一的身份识别码。还可以使用匿名化技术来去除个人身份信息,防止同行评审人信息或者作者信息被泄露,确保其不会被别有用心之人误用或滥用个人信息,导致科研诚信风险发生。

4.3 人机结合

由于人工智能技术有其一定的局限性,在一段时间内不能完全取代人类的工作,为了更好的发挥人工智能技术在期刊同行评审中的优势,适当加强人工干预和审核。加强期刊同行评审流程和制度,并且人工介入评审的整个流程,包括稿件提交、评审分配、评审意见反馈等环节,确保评审程序的公正性和透明度。

4.4 引入多元评审机制

探索可信赖的人工智能技术应用解决方案,增加期刊同行评审过程多元化指标和方法。建立多样化的评审机制,双盲评审、公开评审、预印本等方式,避免评审过程中出现主观偏见和利益冲突。还可以建立一个可信的第三方评审专家机构来审核同行评审结果,并提供最后的意见。此外,还可以建立一个开放式数据库来共享同行评审结果,并允许其他研究人员对其进行验证和评估。

规范人工智能时代同行评审的科研诚信需要借助制度建设、专业培训以及科研伦理意识的提升。只有确保同行评审过程的公正性、透明度,才能促进人工智能领域在出版业的健康发展。

5 结语

人工智能技术在期刊同行评审中的应用是一项有发展前景的技术,可以提高编辑工作效率、减少人力成本,并保证文章的质量和准确性。但是,人工智能技术使用也有其局限性,存在一些科研诚信问题,抄袭检测准确性、投稿评估公正性、基础数据准确性等,需要采取相应的解决方案和对策来避免这些问题。在实际应用过程中,可以考虑将人工智能和人工相结合,充分利用两者的优势。此外,还需要进一步完善相关法规和政策,加强管理和监管,以确保人工智能时代在期刊同行评审中的应用是安全、可靠和公平的,减少科研诚信风险