马瑞
摘要:科研项目评估即以科研项目的目标要求为核心,就项目的经费、方法、进度、成果等要求评定其优劣的工作,是通过各类指标组合而成的体系评估研究的过程。本文通过分析1992-2020年国内科研项目评估相关研究论文,得知当前我国科研项目评估研究呈以下态势:一是国内科研项目评估领域发文量尽管存在一定波动,但整体发文量保持平稳增长趋势;二是该领域研究热点包括国家基金项目、科研项目绩效评估、杰出青年科学基金、面上项目、项目评审、同行评议六个方面;三是国内学者间合作交流存在一定欠缺。针对以上情况,我国科研项目评估科研工作应在整体上加强合作,在科研评价过程中加速指标体系多元化进程,利用交叉融合方法作为科研项目评估工作的补充,最后构建评估内容回馈制度,完善整体评估流程。
关键词:科研项目 项目评估 研究态势分析 文献计量学
一、引言
科研项目评估是指按照一定要求,通过合理有效的方式对项目的不同层面进行绩效评价的过程。如今科研项目立项申报难,项目实施过程中缺乏有效且规范的评价方法与手段,存在很多评估方法滥用的现象,项目结项后缺乏跟踪评估方法,难以获取完整的项目评估内容。对科研项目的评估研究有助于在项目立项前中后期对项目实施情况进行科学监督,帮助科研管理者及时了解项目进展,并在必要时进行干预以保证科研项目顺利完成,同时保障各类评价手段在科研项目评估中的科学有效应用。科学有效的开展评估活动是科研委员会决策科学化、管理评估规范化的重要保障。科研项目评估按前、中、后期可分为立项、阶段、绩效评估[1],因此对这3个阶段所包含内容的评价均包含于科研项目评估之中。
从国际的角度,美国是科研评估活动规范化最早的国家之一。1914年,美国成立国会研究部CRS,于1975年颁布《项目评价标准》。美国的项目评估机构主要包括国会、非官方机构和大学本身。美国高校科研评价主要采用专家评审、计量学等方法。主要方法是以定量指标为基础的,研究各种科研成果的对应数据,分析定量数据对科研的影响[2]。随着科研活动呈现学科多维渗透、知识体系内涵与外延的架构日趋集成化,高校评价体系的建立和完善首当其冲[3]。
我国科研项目评估工作起步晚,随着科学技术的持续发展,科技创新逐渐成为经济社会发展的主要动力[4]。科研项目在社会各界的高度重视下,投入的资金不断增长[5]。科研体制机制改革特别是90年代至今,科研项目评价已经被逐步关注。第四次工业革命到来之际,中国提出了“中国制造2025”的理念,这对中国的科研工作提出了更高的要求。科研评估在科学研究活动与人才教育培养中起着关键作用。我国采用的评价方法同国外相似,定性分析基于同行评审,定量分析基于计量学方法,在指标体系、规范性、科学性等方面与国外还具有一定差距,这与我国科研评估工作发展尚处于完善阶段有关[6]。
文献计量学是指通过数学、统计学等方法,从定量的角度分析研究对象的方法。以学術期刊论文作为研究对象可对论文所属领域研究现状分析及发展态势研究提供真实有效的参考。由此,本文基于文献计量学视角,对国内科研项目评估研究现状加以分析,明确当前研究进展及存在的问题,为我国科研项目评估、审核提出建设性意见。
二、研究对象及方法
(一)研究对象
本文通过中国知网数据库检索相关信息,检索策略为:期刊、专业检索、来源类别勾选SCI来源期刊、EI来源期刊、核心期刊、CSSCI、CSCD;检索表达式:SU=(‘科研项目+‘国家社会科学基金+‘国家自然科学基金)*(‘评估+‘评审+‘审核+‘评价);发表时间不作限制。对相关文献加以筛选,排除与检索内容不相关或题目多次出现的文献,由此共检索到文献1426篇,检索时间为2020年2月10日。
(二)研究方法
本文主要采用定量分析方法,首先利用中国知网内置计量可视化分析系统对国内科研项目评估相关期刊论文发文趋势加以分析说明,在此基础上,通过切分知网Refworks格式文本文档,获取所选文献发表期刊、机构,分析相关论文发表期刊情况及机构相关文献产出能力。最后将文本文档导入Endnote文献管理软件整理后,利用Vosviewer软件绘制关键词共现图谱、作者共现图谱,利用Ucinet绘制单位共现图谱,分析当前我国科研项目评估研究热点及合作情况,从面到点了解国内科研项目评估研究进展,结合当前研究现状以提出相关建议。
三、 结果分析
(一)整体发展趋势分析
1.国内发文趋势。由检索结果可知,我国科研项目评估于1992-2020年间共发表了1426篇论文,其年度发文趋势如图1所示。早在20世纪90年代,中国科学院南京土壤研究所的谭清美教授便将科研项目评估分为先、后两部分,并给出相关评估指标及评价模型作为成果鉴定、验收依据,开创科研项目评估研究先例[7]。但由于科研水平、经费限制,我国科研项目发展在1992-2001年期间速度缓慢,随着2001年中国加入世界贸易组织,经济迅速发展,与世界逐步接轨,科研条件也随之得到迅速发展,2002-2015年期间,国内科研项目评估发文量尽管存在一定波动,但整体上呈现逐年上升趋势,并于2015年达到发文顶峰127篇,相比于2002年发文量13篇,增长近10倍。一方面表现出国内学者对科研项目评估关注度显著提升,另一方面说明我国科研项目发展态势良好,但在发展过程中项目评估方法尚需完善,由此引发学者对科研项目评估的讨论。2016年发文量尽管存在一定波动,伴随着十三五规划的实施,中国创新驱动战略重点继续推动我国科研项目及科研项目评估领域的发展。在2017-2019年发文量呈现递减趋势,但总体保持平均水平,发文量趋于稳定,2020年伊始,受到当前国内新型冠状病毒攻坚战影响,截止论文数据检索日期国内发文量相对往年较少。
2.国内期刊发文现状。经知网数据切分,利用Excel统计得出,国内科研项目评估相关的1426篇文献发表于国内426种期刊,由此可见科研项目评估学科分布较为广泛,是各个学科领域分析研究的热点。发文量大于等于10篇的期刊共14种,其中中国科学基金发文256篇,占比17.95%,隶属于第一发文阶梯。中国科学基金是由中华人民共和国国家自然科学基金委员会主管、主办的学术期刊,自然科学基金是我国科研项目的重要组成部分,期刊内发文多与科研基金项目相关。科学管理研究、地球科学进展、中国高校科技、科研管理、科技进步与对策、中国科技论坛隶属于第二发文阶梯,发文量均高于2%。第二发文阶梯期刊与科研、科技发展相关性较高,为科研项目发展提供重要支持作用。剩余7种期刊隶属于第三发文阶梯,其中涉及会计、财经、高等教育等研究领域期刊,由此可见科研项目评估在不同领域均有所关注。其他期刊属于第四发文阶梯,由于检索条件限制期刊均为核心及以上期刊,因此对于相关学科领域科研项目评估的文献多发表于各自所属学科高等级期刊中也在意料之中。
3.国内机构发文现状。经知网数据统计,1426篇文献共计作者1635名,将作者对应的1635个单位(某基金委员会学部、某大学某学院)作为国内科研项目评估机构发文现状的分析依据。其中发文量大于5篇的单位共27个,其中国家自然科学基金委员会分部共13个、大学单位8个、研究所6所。国家自然科学基金委员会是我国科研项目评估相关文献发表的主力军,国家自然科学基金委员会成立于1986年,以创新环境建设为重点,以机制和体制创新为保障,不断提高国家自主创新能力,为我国科研项目评估的完善作出巨大贡献。经统计,发文量大于5篇的大学包括西安交通大学(32篇)、合肥工业大学(12篇)、中国科学院大学(13篇)、北京理工大学(8篇)、华南理工大学(5篇)、南京大学(5篇),剩余7个机构均为研究所或政策制定机构,由此可见在科研项目评估工作中,高等院校与研究所均对该领域有所研究,其中西安交通大学研究相对深入,学科涉及公共政策、管理等,代表人物为马亮教授,于2009-2012年期间以第一作者、通讯作者等身份发表10篇相关论文,主要针对科研活动绩效评估提出方法及建议[8]。近年来,随着国家对于科研项目资助力度的显著提升,国家自科、社科基金项目、杰青、优青资助项目申请成为国内学者的主要科研目标,科研项目评估工作也伴随着这股浪潮不断发展与完善,引发国内众多科研机构热议。
(二)研究热点分析
经EndNote软件整理,将知网数据以RIS文本文档格式导出,通过VOSviewer绘制关键词共现图谱用于分析当前我国科研项目评估工作研究热点。采用全计数方式选取文献中高频关键词(出现频次大于10次),共获取关键词91个,绘制结果如图2所示。
由图2可得,我国科研项目评估当前研究方向主要包括以下六个部分:一是国家科学基金方面的研究,包括国家自然科学基金、国家社会科学基金等;二是科研项目绩效评估方面的研究,涵盖科研评估及科研经费、管理模式等;三是国家杰出青年科学基金方面的研究,科技强国背景之下,国家之间国力的竞争实际上也是人才的竞争,因此杰青作为我国科研发展的主力军也成为我国科研项目评估研究热点之一;四是面上项目方面的研究,面上项目也叫一般项目,是国家自然科学基金研究项目系列中的主要部分,作为自科基金的分支,面上项目同样广受学者关注,主要涉及资助强度、资助经费等方面;五是项目评审方面,主要包括基金评审、资助成果等内容;六是同行评议方面的研究,同行评议是当前最主流的科研项目评估手段,在定性研究与定量研究相结合的过程中同行评议方法不可或缺,因此国内学者对于同行评议中的会议评审、专家库等方面讨论较多。
(三)作者合作网络分析
通过VOSviewer绘制作者共现图谱,采用全计数方式选取发文量大于3篇的作者,共获取作者158名,作者合作网络绘制结果如图3所示,作者发文年限图如图4。
由图3可知,在我国科研项目评估方面的研究中,学者在本领域内相互之间缺乏紧密合作,科研活动多局限于某一圈子内。如以黎明教授、王国彪教授为代表的学者,同其他学者之间的联系存在一定欠缺,相同的情况也出现在朱卫东教授、白坤朝教授所处的学术团体之中。由图4可知,我国科研项目评估领域,学者学术传承效果明显,并且在学术传承过程中,呈现一定聚合趋势,学者之间联系逐渐紧密。在发文量方面年轻学者发文量尚且少于资深学者,科研项目评估领域当前正处于过渡阶段。
四、结论及建议
本文通过中国知网获取相关文献资料,通过文献计量学视角对我国科研项目评估从不同角度加以分析,总结得出以下发展态势:国内科研项目评估领域发文量尽管存在一定波动,但整体发文量保持平稳增长趋势。国内科研项目评估领域期刊发文中,中国科学基金(17.95%)、科研管理研究(6.80%)相对发文量较大,科研机构中,国家自然科学基金委员会各分部是科研项目评估研究的主力军;国内科研项目评估领域研究热点包括国家基金项目、科研项目绩效评估、杰出青年科学基金、面上项目、项目评审、同行评议六个方面;国内学者间合作交流存在一定欠缺。
结合作者自身理解及国内科研项目评估研究热点分析,提出以下建议:
(一)加强合作交流,促进科研项目评估发展
马健表示,当前科研评估过于强调论著数量,科研期限缺乏弹性[9]。科研项目应是一个整体,从项目申请、立项到发表阶段性成果、完成项目目标、结项,每个环节都具有一定相关性,每一个阶段性成果的发表,专利的获取都会对项目产生重要影响,成为项目绩效评估的主要依据。科研项目评估与之对应,不能仅仅注重于立项评估或结项评估,对项目评估应实施全过程评估,对科研项目过程也应提高重视,以保障科研项目监督机制有效实施。科研人员在研究过程中,应主动寻求合作,同其他科研院校、研究院所研究人员取得联系,在科研合作过程中完善科研项目评估体系建设。
(二)加速科研評价指标体系多元化进程
科研项目履约率高,“高成功率”的背后科研项目绩效评估的有效性不禁受到质疑,资金是否有效利用,项目成果是否达标都成为当前项目评估的重点。目前科研项目存在强调成果数量、绩效挂钩误导科研方向等方面问题,科研项目指标体系应向多元化方向发展以减少或杜绝相关问题的产生。指标体系的构建主要分为指标的筛选与指标权重的赋值两方面,在指标的筛选中,投入、产出、效益是影响科研项目绩效评估的主要因素,对于不同的项目评估阶段应侧重于不同的指标类型,并始终保持指标完备性、含义单一性及实用性。在事前(立项评估)过程中,应更加注重申请人是否能够胜任该研究项目、项目经费预算及项目组成员能力、项目可行性及预计成果产出情况;在事中(阶段评估)过程中,应保证指标目的性、简洁性,侧重于对项目实施情况即阶段性研究成果、经费使用情况、科研项目对当前环境条件的适应性;在事后(绩效评估)过程中,则应侧重于计划实际执行情况、项目产出情况包括发表论文,专利,人才培养,学术会议及课题负责人员后续课题研究等、课题产出预期等方面。对不同的研究时段采取不同的评价指标体系,一方面可以保障科研项目不同研究时间段评估的合理性,另一方面通过多次评估,指标多元化,使评价体系更加全面具体,对学术不端行为的产生也有一定遏制作用。
(三)评估方法交叉融合使用
以往学者多提倡采用定性与定量方法相结合,以减少定性方法所带来的主观局限性,同时可避免全部采用定量方法带来的缺乏对项目研究实际状况的考虑。评价方法交叉融合,旨在引入多种评价方法,以减少项目评价误差及缺陷。当前科研项目定量评估方法主要为文献计量法,定性评估方法主要为同行评议法,在对科研项目各指标定量评估的基础上,采取定性评估的方式实现科研项目各阶段评估。可以在定性研究过程中引入新的研究方法,一方面可以作为同行评议方法的补充,另一方面可以对同行评议所产生的结果进行验证分析,当前定性研究方法主要有模糊综合评价法、综合评价模型、灰色关联分析方法、案例分析法等,可以适量引入新方法以实现对科研项目评估体系的补充完善。
(四)构建评估内容回馈制度
对科研项目的评估是否科学合理,科研项目相关人员对评估建议是否落实是科研项目评估有效性研究的重要一环。项目评估是双向的过程,项目评估人员对科研项目完成评估后,应对科研项目保持关注,注重科研项目组成员对评估结果的反馈意见,可总结分析相关建议作为日后评估体系完善的参考。建立评估结果反馈机制,使各科研项目在完成项目评估后定期对项目修正情况进行反馈,同时将自身对评估结果的建议、信服程度予以传达,达到评价者与被评价者相互促进,共同完善修正的效果,有效提高科研项目质量及科研項目评估科学性、有效性。
五、结语
本文在研究过程中仅通过文献计量学角度对国内科研项目评估现状做出简要分析,尚且存在一些漏洞,如在知网检索过程中,科研项目实际涵盖内容广泛,检索词内容不够完善。科研项目资助是激发我国科研工作者科研热情、提升科研效率的重要举措,科学有效的开展评估活动则是科研委员会决策科学化、管理评估规范化的重要保障,合理有效的科研项目评估将为国内广大科研工作者提供更多公平的竞争机会。
参考文献:
[1]项目中评价初探[J].管理工程学报,白思俊,王保强,2000(2):65-66.
[2]美国高校科研评价及其借鉴[J].管理观察,陆翊翊,郭胜伟,2016(21).
[3]Gross PF.A critical review of some basic considerations in post-secondary education evaluation[J].Policy Sciences.1973.4(02):171-195.
[4]科技原创力发展规律探析[J].中国科学基金,冯越强,齐玮,2007(1):14-16.
[5]科研项目经费管理:中英比较研究[J].科研管理,顾全,2012,33(1):120-126.
[6]周鹏,张敏,郭胜伟.中国科研评价的历史沿革、现状及对策分析[J].管理观察,2016(32):173-176.
[7]谭清美,刘文政,李开运.科研项目评价方法探讨[J].科研管理,1992(03):31-39.
[8]吴建南,马亮,白波,郑永和.科学基金管理绩效评估:基于项目资助与组织管理的视角[J].科学学与科学技术管理,2010,31(07):10-16.
[9]科研项目评价制度的缺陷及其完善[J].自然辩证法研究,马健,2010(10).
基金项目:山西省软科学研究计划项目“山西省科技人才评价工作中量化指标的滥用及应对策略研究(项目编号:2018041045-1)”; 中国博士后科学基金资助项目“研究评估中科学计量学的不确定性现象及应对策略研究”(项目编号:2018M631551)。
作者单位:山西财经大学