□ 江爱世 陈海平 丁 玎 刘斯佳
事业单位新进人员公开招聘制度(原人事部发布的《事业单位公开招聘人员暂行规定》[1])自2006年实施以来,不断扩大推行范围,已成为事业单位招录人员主要的人才通道。与公务员录用考试相比,事业单位公开招聘考试有其自身特点,事业单位涉及行业众多,分岗位进行管理,且对岗位胜任力的要求千差万别,对考试测评技术也有着很高要求。
从2007年开始,北京市通过联合考试和同步考试两个阶段,探索解决事业单位公开招聘考试中的规范性和科学性问题,逐步解决了“怎么考”和“考什么”的问题。在同步考试阶段,历经方案设计、文献检索、招考单位访谈、问卷调查、数据分析、大纲编改、专家论证等过程,北京市于2011年制定了事业单位公开招聘工作人员公共基本能力笔试大纲,明确了“入门筛查”的考试定位,设计开发了多种考试新题型,针对3 类岗位所需要的能力素质,在题型上进行不同组合,确立了事业单位公开招聘考试的新模式。
北京市事业单位公开招聘人员笔试“入门筛查”的定位,是考虑到对全市各级各类事业单位的适用性和通用性。所考查能力为“通用能力”,即所有性质的事业单位、所有岗位应该具备的基本素质,包括逻辑思维能力、语言文字能力、问题解决能力和学习能力。这些能力要素具备良好可操作性和可接受性,基本涵盖事业单位3 类岗位招聘所必须考查的基本方面。
为更好体现事业单位特色和工作特点,使得这项考试更好地为各事业单位所接受,并区别于公务员考试,北京市设计开发了具有不同岗位特色的8 种新题型。新题型力图模拟事业单位工作情境,如考虑到事业单位管理岗工作中对工作的计划和安排事项较多,新题型要求考生根据所设情境,充分运用提供的条件和资源,做出符合预定要求的安排或提出最佳的问题解决方案,意在考查考生问题解决能力和逻辑思维能力。考虑到管理岗工作经常涉及理解政策和制定政策,北京市设计开发了规则解读题型,要求考生运用材料给出的规则,对问题进行判断或提出问题解决方案。鉴于学习能力对于事业单位工作而言非常重要,北京市设计开发了时新知识题型,要求考生对各个学科领域的新发现、新发展及其相关背景知识及最新国际、国内新闻时事的描述进行判断,以此希望甄选出具有足够视野和吸纳新事物能力、具有良好学习意识和学习习惯的考生。空间关系题型,要求考生根据图形组件及其方位关系进行想象和推理,主要用于专技岗和工勤岗考试。实用写作题型,要求考生根据题目指定的目的进行写作。
北京市事业单位公开招聘考试新模式确立后,从2012年开始每年进行3 次考试,全市统一组织,各用人单位自愿参加。报考岗位分为管理岗、专技岗和工勤岗,每类岗位一套试卷。截至2019年11月,已进行23 次正式考试,参与单位累计500 余家,考生累计21 万余人次,为事业单位甄选人才发挥了积极作用,促进了北京市事业单位人才队伍整体质量的提升。在考试的规范性和科学性得到初步解决的基础上,如何进一步提高考试的科学性已提上日程。
自事业单位公开招聘考试推出后,每次考试后都会进行质量分析,但单次的质量分析可能会受到各种因素的影响而呈现不同特点。在此基础上,有必要进行跨年度、大规模的系统数据分析,以便对考试进行全面的检验,收集考试稳定性和有效性的证据,进而总结发现潜在的问题,加以进一步的完善。
利用3年9 次考试数据,北京市开展了跨年度、跨考次的大规模系统数据分析(涉及27 套试卷、8 万余名考生数据),并分3 类岗位进行了问卷调查,包括用人单位领导问卷(发放问卷90 份,回收有效问卷87 份)和考生问卷(发放1 326 份,回收有效问卷892 份)。在对考试总分分布、题型质量分析、内部一致性信效度分析、考试社会评价等方面研究的基础上,北京市还利用跨年度、跨考次的数据进行了跨次考试的等值性分析、与公务员录用考试的相容效度分析。[2]
为衡量不同次考试的等值性,检验事业单位公开招聘考试的一致性或者说可靠性,北京市对采顺次复考考生的成绩进行了分析。顺次复考考生指的是参加过上一次考试的考生接着参加下一次考试,也就是时间上连续参加两次考试的考生。以管理岗顺次复考考生成绩为例,首先我们比较了9 次考试中后面8 次管理岗所有考生的平均分、管理岗平均分差(当次考试管理岗所有考生平均分与上次平均分之差)、管理岗顺次复考考生平均分差(当次考试管理岗顺次复考考生平均分减去上次考试平均分所得差值)。结果如图1所示,顺次复考平均分差的变化趋势与平均分数、平均分差的变化趋势一致,这意味着复考考生的得分分差大小主要是考试本身的难度变化造成的,也就是说复考不一定能提高分数。
图1 管理岗平均分和顺次复考平均分差变化
两次考试测量的是同一考生群体,顺次复考考生群体在这两次考试中得分的相关性可以认为是复本信度或者等值性信度,其高低反映了这两次考试试卷在内容上的等值性程度[3]。对管理岗顺次复考考生两次考试成绩数据进行相关分析,结果见表1,两次考试成绩相关显著(ps<0.01),相关系数在0.6~0.8 区间,可以认为北京市事业单位公开招聘考试试卷等值性良好,任意两次考试的成绩具有一定的可比性。
表1 管理岗顺次复考考生两次考试成绩相关分析
为更好地检验北京市事业单位公开招聘考试的效度,我们还对同时报考管理岗(或专技岗)与公务员录用考试考生的成绩数据进行了相关分析。北京市事业单位公开招聘考试与公务员录用考试在测验内容及其测量目标上有部分重合,因此两项考试应具有相容效度。我们分析了参加某次北京市事业单位考试后又参加公务员录用考试的考生的两次成绩数据,结果发现两项考试成绩相关显著(ps<0.01),相关系数分别为0.652(管理岗分数与公务员录用考试分数的相关)和0.594(专技岗分数与公务员录用考试分数的相关)。对各个具体题型分析后发现,两项考试中测查类似能力的题型相关性更强。如管理岗试卷中百科知识题型与公务员录用考试中常识单选题型达到了中等程度相关(r=0.423,p<0.01),事业单位公开招聘考试中句段排序题型与公务员考试中言语理解与表达题型中等相关(r=0.305,p<0.01)。事业单位公开招聘考试新题型中,规则解读旨在测查逻辑思维能力,其与公务员录用考试演绎推理题型中等相关(r=0.335,p<0.01);旨在测查阅读能力的文稿校对题型与公务员录用考试中的言语理解与表达题型中等相关(r=0.366,p<0.01)。而事业单位公开招聘考试中部分新题型所测查的能力不同于公务员考试,如图形比较题型旨在测查考生细心耐心的品质,它与公务员录用考试中多个题型相关不显著或者相关很低。
这些结果证明,无论是整个考试还是其组成的题型,北京市事业单位公开招聘考试与公务员录用考试既有差别又相容,两者具有相容效度。
在其他考试质量评价指标上,研究表明历次北京市事业单位公开招聘考试的表现均较好。考试分数大致呈正态分布,符合招聘考试的特点。大部分题型难度适中,区分度比较高,能够支撑大型考试测查通用能力的需要;其中传统题型如阅读理解、资料分析和逻辑推理的题目质量在9次考试中均较好,新题型如文稿校对、计划编排、规则解读、短文加工在难度、区分度、内部一致性等方面都表现较好。但有几个新题型表现不够理想,其中空间关系题型难度偏大,图形比较题型相对容易,时新知识和图形比较两个题型中有题目出现区分度不理想的情况。在内部一致性信度指标上,9 次考试3 类岗位试卷整体信度均在0.7 以上,这对于招聘考试而言是可以接受的。学历效度分析表明,随着学历层次的提高,考生成绩也相应提高,证明这项考试具有以学历为效标的实证效度。
就社会评价结果而言,北京市事业单位新入职员工的直接领导和人事部门负责人认为,近几年通过事业单位公开招聘考试入职的新员工整体表现较好,他们在逻辑思维、学习能力、语言文字能力上得分均较高,但是问题解决能力的评价得分相对最低。用人单位领导认为对事业单位工作而言,最重要的能力有学习能力、语言文字能力、综合分析能力、问题解决能力、计划组织能力和逻辑思维能力,而数量关系、资料分析和常识判断的分数比较低,空间思维能力得分最低。
总体而言,研究结果表明北京市事业单位公开招聘考试具有较好的可靠性和有效性,用人单位和考生对考试持认可态度,认为考试基本满足事业单位公开招聘考试笔试的需要。但具体的分析结果也表明,考试所测查的能力要素和题型也有需要改进之处。用人单位期望考试能够加强对问题解决能力、写作能力的考查;对立体空间思维能力并不看重,认为其与实际工作生活关联不大,这些都需要加以具体分析,并进行改善。
1.问题剖析
在考查能力要素上,用人单位认为目前考试对于问题解决能力的考查相对薄弱,新员工的写作能力还不够理想。具体表现包括:经常把问题上交,独立处理事务能力需加强、综合处理问题的能力不足、处理应急事件上尚有不足、处理复杂问题能力有所欠缺;综合组稿能力有待提高,对各种文体和公文的掌握还存在不足。而用人单位和考生问卷调查显示,问题解决能力和写作能力对于胜任事业单位岗位工作较重要,需在考试中加强对相应能力的考查。
2.改善实践
考虑到目前事业单位公开招聘考试的试卷结构,将由写作题型来考查考生的问题解决能力和写作能力。按照最初命题构想,实用写作题型是一项考查复合能力要素的题型,既考查写作能力,也能够考查发现问题、解决问题的能力,如概括、分析已知信息的实质特点;运用文字准确、清晰地表达观点等。但是目前实用写作题型的设问对于写作能力的考查较为充分,对于问题解决能力的考查相对薄弱。基于此,我们拟对实用写作题型进行改善。
改善后的写作题主材料由原先的几百字变为2 000 字左右,聚焦某个主题,并设置一些场景和问题,考生由完成一项任务变为完成两项任务。第一个问题侧重考查考生发现及解决问题的能力,包括测查考生把握核心问题、关键所在、矛盾、共性问题、最大分歧、服务对象的需求等方面的能力;第二个问题是要求考生结合具体场景和限定的身份,在给定的具体场景下进行应用文写作。
3.实证分析
衡量题型质量的主要指标是难度和区分度,分别以题型得分率(题型平均分/题型满分)为难度指标,以题型得分与总分的相关系数为区分度指标,对两次考试管理岗和专技岗试卷中改善后的实用写作题目进行质量分析,具体结果见表2。
表2 两次考试管理岗和专技岗试卷实用写作题目难度和区分度
难度方面,按得分率处于[0.3,0.7]为中等难度的标准,两次考试管理岗和专技岗试卷中两个实用写作题目的难度均为中等。区分度较好,题目能够鉴别不同能力水平考生。两个题目之间具有中低相关,表明两题考查能力的相对独立性。
为进一步分析两个题目所考查能力,我们分析了参加过某次事业单位公开招聘考试、之后又参加了公务员录用考试的考生,将他们事业单位考试写作分数与申论分数进行相关分析,具体结果见表3。
分析表明,事业单位公开招聘考试管理岗考生实用写作第一题得分与他们在申论4 个题得分相关均显著(ps<0.05),相关系数区间为0.06~0.176,均较低,其中与第三题的相关为0.176,为4 题中最高。专技岗考生实用写作第一题得分与他们在申论第三题的相关为0.167(p<0.05),也相对较高。这与题目所考查能力有关,事业单位公开招聘考试实用写作第一题侧重考查问题解决能力,而申论第三题也侧重考查考生的提出和解决问题能力(准确理解把握给定材料所反映的问题,提出解决问题的措施或办法),因此两道题目得分具有关联性是合理的。
表3 事业单位公开招聘考试考生实用写作分数与申论部分题型相关分析
考生在事业单位公开招聘考试实用写作第二题上的得分与申论第四题得分相关性也相对较高,相关系数分别为0.258(管理岗)和0.231(专技岗),均显著(ps<0.05)。事业单位公开招聘考试写作第二题侧重对文字表达能力进行考查,与申论第四题所考查能力更为接近,因此两者得分具有显著相关也是合理的。
同时,在事业单位公开招聘考试写作题目材料和设问的表面效度上,我们在题目中更多融入了事业单位工作情境,设问要求考生多站在事业单位工作人员的角度去解决问题和进行写作。从考后用人单位和考生的反馈来看,收到了较好的效果,既体现了事业单位公开招聘考试考查能力的侧重点,又区别于公务员录用考试申论科目的考试形式。
1.问题剖析
空间关系题型用于事业单位公开招聘考试专技岗和工勤岗试卷中,主要考查考生的空间思维能力,之前题目形式为传统的折叠图、三视图、剖面图等。空间关系题型初期由于难度过大存在“地板效应”以致区分度较差,后期进行难度调整,该题型难度和区分度较为适宜。就与事业单位公开招聘考试其他题型、与公务员录用考试题型的相容效度而言,这个题型与事业单位公开招聘考试的逻辑推理、图表解读两个题型相关系数较好(中等显著相关),与其他题型低相关;与公务员录用考试的图形推理低相关,说明空间关系考察的能力要素和图形推理所考查的能力较为独立。
2.改善实践及实证分析
理论上,空间知觉能力主要测查立体视觉及空间操作产生某种具体形状的能力,是非常重要的基本认知能力,很多智力测验、能力测验如比内量表等智力测验、明尼苏达空间关系测验和明尼苏达书面形状测验等机械能力测验、一般能力倾向成套测验等都包含空间知觉测验。为提高这一题型的受众程度和与实际工作、生活场景的关联程度,一种解决方法是提高题目的表面效度,使得题目考查的内容与实际生活更为相关。
我们从命题环节对空间关系题型进行了改善,命题素材来源于现实生活中空间能力使用场景,如不同空间位置拍摄照片排序问题等。例题如下:摄影爱好者小红抓拍到某轿车从其面前经过的一组照片(见图2),照片洗出来后却发现没有设置时间,不清楚照片的顺序。请你根据汽车被摄入镜头先后顺序的空间关系,帮助小红对下列带有序号的照片进行排序。
图2 例题图片
对改善后的空间关系题型进行质量分析,具体见表4。结果显示,改善后的空间关系题型难度适中,具有较好区分度,能够鉴别不同能力水平考生。改善后的空间关系题型质量较好,表面效度更高,也提高了用人单位和考生对测查空间思维能力的接受度和认可度。
表4 两次考试专技岗和工勤岗空间关系题型质量分析
1.信效度研究
考试的核心问题是信度和效度,理论上预测效度是招聘考试最重要的指标。但预测效度指标难以收集,核心原因是被录取人员在不同部门和单位工作,并没有一个普遍适用、能客观测量的衡量能力的指标。
跨年度、跨考次的数据分析为我们在考试信度和效度方面提供了更多有价值的信息。一方面,顺次复考考生考的是不同的试卷,理论上两套试卷可以看作是专门设计的等值复本,顺次复考考生群体在两次考试中得分的显著相关表明了事业单位公开招聘考试的稳定性和可靠性。另一方面,与公务员录用考试具有相容效度在一定程度上支持了事业单位开招聘考试的有效性。
效度证据的核心概念是“证据”,是一种通过积累证据对考试的有效性进行支持的过程。[4]北京市事业单位公开招聘公共基本能力考试的信效度研究,不仅在总分分布、题型难度区分度、内部一致性信度、学历效度等方面展开研究,还进一步进行了跨次考试的等值性研究、与公务员录用考试的相容效度研究,从这个意义上讲,累积了更多证据,支持了考试的可靠性和有效性。
2.考试改善实践
新考试模式以及新题型的探索需要经历一个不断完善的过程,北京市始终关注考试质量,对考试进行改善探索,以提升考试科学性。北京市根据研究结果,对考试测查能力和部分题型进行了改善实践。依托实用写作题目加强了对问题解决能力的考查,改善后的写作题目难度适中,区分度较好,且承担考查问题解决能力的实用写作第一题与申论承担测查解决问题能力的题目显著相关;承担考查文字表达能力的第二题与申论相应题目也显著相关,表明事业单位公开招聘考试在实用写作题目设置上达到了预期目的,考查了考生相应的能力。另外,从命题环节着手,提高了空间关系题型的表面效度,新的空间题目质量较好,表面效度更高。
1.进一步加强效度研究
跨次考试的等值性、与公务员录用考试的相容效度作为“效标”,用来对北京市事业单位公开招聘考试的质量进行检验,具有一定的支持力度,但也还需要收集更多的效标效度证据来支持考试新题型质量及整个考试在人才选拔上的有效性。
就考试新题型有效性而言,需进一步检验新题型是否考查到了预期考查的能力。其中部分新题型如文稿校题型对与公务员录用考试中言语理解与表达题型得分中等相关,可认为这个新题型在一定程度上确实测量了阅读能力;新题型规则解读与传统题型演绎推理也达到了中等相关,也可以认为这个新题型测查了逻辑思维能力。但对于部分新题型如空间关系、图形比较等是否测查到了预期测量的能力,需要进一步研究探索,如可将空间关系题型与成熟的空间关系测验进行关联研究。
事业单位公开招聘考试在人才选拔上的有效性一直是研究难点,考试是否选拔出了事业单位岗位工作所需要的人员,如何确定有效的外部效标、如何收集工作绩效数据,都需要进一步的研究,多渠道收集数据、多方面验证考试效度。
2.开发新题型
从长远来看,应该继续探索开发新的题型以考查事业单位岗位工作所需的能力。一方面,根据目前的研究,部分新题型尽管考查的能力对于事业单位岗位工作较为重要,但其区分度不尽如人意。如时新知识题型由于其考查学科领域广泛且为是否判断,考生答题难度大,今后有必要开发新的题型以更有效地测查出具有良好学习意识和学习习惯的考生。另一方面,北京市事业单位公开招聘考试推行这些年来,一些新题型也逐渐为考生所熟知,新题型的有效性也面临着培训机构的挑战。
更重要的是,随着时代的发展,事业单位工作人员所需要的能力素质也在不断变化,有关方面还需持续了解事业单位岗位工作所需的能力素质,开发新的考试题型考查相应能力,持续提高考试科学性。
3.针对性成绩报告
目前北京市事业单位公开招聘公共基本能力笔试考试定位是“入门筛查”,考查的是通用能力。在此基础上,如何使事业单位公开招聘考试为用人单位提供更有针对性的考试服务需进一步探索。
事业单位行业分布广,岗位性质各不相同,不同岗位对人才素质的要求可能各有侧重。在未来可能的情况下,用人单位可在考试前细化岗位分类,根据不同的岗位需求,赋予不同的能力要素相应的权重,构建不同岗位的胜任力模型。我们可向用人单位提供各个分测验分数,并根据用人单位提供的不同能力要素权重,提供更有针对性的成绩报告,以求得招聘考试产生更好效果。