刘金华 陈振国
摘要:大连教育学院研究团队历时八年,基于区域教师培训工作实践,借助行政支持,依托课题研究,以“绩效改善”为导向,以培训所带来的“行为改进”为核心,通过对国内外经典评估理论、模型的批判与借鉴,扩展了教师培训评估研究的理论视野,开发了基于行为改进的教师培训项目评估标准与实踐模型,形成了一种创新的教师培训评估设计与实践形态,逐步构建了可复制、可推广的区域教师培训评估体系。
关键词:行为改进;绩效评估;评估标准;评估模型
2018年,教育部等五部门印发《教师教育振兴行动计划(2018—2022)》,明确提出“建立教师培养培训质量监测机制”,“建立健全教师培训质量评估制度”。在教师培训“提质增效”背景下,加强教师培训质量评估管理是教师培训专业化的内在追求。然而,评估乏力是教师培训领域公认的“短板”,在目的、层次、指标等方面存在诸多问题,比如缺少连续贯通的设计,忽视培训与绩效的关联,仅关注满意度、参与度等相对容易衡量的指标,对评估结果应用不足,等等。如何通过创新的评估设计,激励、引导、规范培训的实施来消除“痛点”,已然是教师培训工作者需要研究的重要主题。大连教育学院研究团队开展了持续八年的研究与探索,从标准订立到模型建构,逐步构建了可复制、可推广的区域教师培训评估体系,其实践成果在2021年度辽宁省基础教育教学成果评选中获奖。
一、第一阶段:绩效导向,研制评估标准
2014年起,团队在综合相关理论与实践成果、比较分析不同评估模型的基础上,结合大连市教师培训项目评估实践,以柯氏模型与CIPP模型为原型,构建了一种贯穿培训项目全过程的评估体系,研制了《大连市教师培训项目绩效评估标准》(以下简称《标准》)(见下页表1)。大连市教育局以文件形式印发并在区域内推广使用。
(一)评估标准指标体系
《标准》包括项目计划、项目组织、项目实施和项目结果四个一级指标。其中,项目计划是决定教师培训项目绩效高低的关键因素,包括需求调研、方案设计、课程计划、经费预算、项目审批五个二级指标;项目组织是教师培训项目实施的前提和保障,包括团队组建、培训保障两个二级指标;项目实施是教师培训项目取得良好绩效的决定性因素,包括项目启动、课程实施、培训管理、项目总结四个二级指标;培训项目结果是培训项目实施后取得的成果,包括学员学习效果和培训机构水平提升两个二级指标。
(二)评估标准细节构成
一是评估要素。《标准》中呈现的评估要素是对二级指标的详细分解,它确定了教师培训项目绩效评估的具体内容,是自学院各级各类培训项目中提炼出的常态的、基本的和共性的环节或内容。
二是评估方法。依据项目类型、评估目标与评估要素,综合运用问卷调查、座谈访谈、实地观摩、资料查阅、作品分析等定量、定性方法收集评估证据。
三是数据来源。《标准》中的数据来源代表了对项目各要素进行绩效评估时的参考材料,具体包括各种文档材料、调研数据、访谈结果、培训档案等。
四是指标权重。《标准》综合了主观赋权法(德尔菲法、层次分析法)和客观赋值法(主成分分析法、均方差法),分别为一级指标与二级指标完成了量化赋分。
二、第二阶段:三环四步,优化培训流程
在《标准》研究与应用基础上,研究团队深入论证了“项目绩效”与“行为改进”之间的关系,开发了基于行为改进的“三环节四步骤”培训项目设计模型(见图1),按照培训前、培训中、培训后的时间逻辑,将培训过程分解为学习准备、学习体验、学习应用、学习转化四个关键步骤,并定义了每一步骤中的设计要素与重点。
(一)设计学习准备
一是订立预期。在训前,培训者需留意两点,一是培训中的关键行为指标是什么;二是培训所带来的业务结果是什么。
二是唤醒动机。有需求才有动机,准确的需求分析需要创新的方式。例如,在名师培养对象培训项目中,团队通过采集参训教师的专业发展规划,全面且创新性地了解他们的需求。
三是挖掘经验。参训之前教师能做什么、不能做什么、分别到什么程度,这些都是参训者的经验,它可以带出真正的问题,这正是学习设计的起点。
(二)设计学习体验
一是明确目标。“一致”是培训目标的设置要和业务预期(即绩效结果)相一致,不能仅有“学习目标”而没有“业务目标”,可参考“SMART”原则,采用“ABCD”式目标表述,确保目标清晰、可达、可测。
二是优化内容。在课程层面,要确保课程与主题的关联、专题与专题的关联,避免“拼盘式”课程。
三是创新方式。所谓“参与”,既包括个体在认知与情感方面的投入,也包括个体与其他个体及环境的互动。真正的参与离不开良好的体验,它是参与者获取知识、转变态度、改进行为的原动力。
(三)设计学习应用
一是设计任务。“做”是最好的学习方法,培训中,可依据目标与主题,设计相关、连续、递进的“过关任务”,为参训者提供大量的练习机会。
二是设计对话。赋予参训者权利与责任,培训中鼓励他们以个人或小组形式分享智慧,在培训课堂建立多方互动。
三是设计复盘。学习是一个持续的过程,而不仅仅是一次培训活动,培训者可将“复盘”的理念与实践纳入培训之中。
(四)设计学习转化
一是跟踪职场。通过调查问卷、访谈、行为观察、作品分析等方法,持续关注教师训后行为变化情况。
二是持续支持。借助复盘、531行动计划书等方式与工具,通过学员和专家面对面的分享、建立在线学习群组等方式,为教师训后行为改进提供持续性支持。
三是认可改进。要行为改进,除了发现改进,更要认可改进、奖励改进。
三、第三阶段:四层五步,建构评估模型
依据培训项目设计流程与关键要素,研究团队进一步开发了基于行为改进的“四层次五步骤”教师培训评估模型、框架与流程,并将之初步应用于区域教师培训评估实践(见图2)。
(一)经验层评估
1.评估内容与关键指标
将参训教师的知识、技能、态度、行为等情况进行“摸底性”评估,充分掌握参训教师的学习经验及培训期待。本层次评估关键指标有以下三个。
一是认知现状,即参训教师在训前对培训主题所涉事实、概念、原理、理论等的认知状况。
二是能力现状,即参训教师在训前对培训主题所涉策略方法、重要技能、关键能力方面的掌握程度。
三是行为现状,即参训教师在训前对培训主题所涉关键议题方面的行为表现。
2.数据来源与评估方法
本层级评估数据来源包括:参训教师、学校管理者、参训教师同伴、学生。现实操作中,可以参训教师和学校管理者为主,以参训教师同伴和学生为辅。评估方法有以下三种。
一是前测问卷法。依据培训主题,精心设计结构化或半结构化的前测问卷,重点收集教师训前认知方面的数据信息。
二是训前访谈法。在培训开始前,对参训教师、学校管理者、参训教师同伴、学生等培训相关人员进行访谈,重点收集教师训前能力方面的数据信息。
三是观察分析法。在培训开始前,通过观察、记录、分析参训教师的教学现场、教学录像、教学作品等方式,收集教師训前行为方面的数据信息。
(二)体验层评估
1.评估内容与关键指标
主要是指培训或课程结束时,征询学员对培训的主观看法,包括对培训要素(目标、课程、师资、服务等)参与程度、收获大小等的反应与感受。本层次评估关键指标有以下三个。
一是工作相关度,指培训的目标、内容与岗位要求、个体需求之间的关联程度。
二是学习参与度,指培训是否创造了足够多、足够有吸引力、足够有效的互动与对话机会。
三是培训满意度,指培训在课程设置、课程实施、授课专家、培训服务等方面是否提供了积极的情绪体验。
2.数据来源与评估方法
本层级评估数据来源主要是参训教师,评估方法可采用以下两种。
一是反应量表法。运用纸质或网络形式的里克特五分制量表,以了解参训教师对培训各要素的反应与感受。
二是抽样访谈法。通过个别面谈或集体访谈的形式,针对培训的全过程要素,收集参训者对培训的看法与意见。考虑到现实情况,可以抽取一定比例的参训教师代表进行访谈。
(三)学习层评估
1.评估内容与关键指标
在培训结束后,通过对教师训前和训后知识、技能、态度的比较,测量参训教师对培训课程所涉原理、事实、技能的掌握程度以及在工作中应用所学的信心与承诺。本层评估关键指标有以下三个。
一是知识习得。对参训教师对培训课程所涉事实、概念、理论、观念等知识的认知和理解的程度进行衡量与分析。
二是技能掌握。对参训教师对培训课程所涉主要方法策略、操作技能的掌握情况进行衡量与分析。
三是态度转变。态度主要指在工作中运用新知识、新技能的“信心”与“承诺”。
2.数据来源与评估方法
本层级评估数据来源是参训教师、授课专家。评估方法可采用以下四种。
一是测验法。通过纸笔作答或在线测试对参训教师的知识掌握情况进行评估。测验法可获取量化数据,效度较高。不过,测验法对命题要求很高,需覆盖培训核心的知识点与技能点,培训管理者可与授课专家共同完成该项工作。
二是作品分析法。对参训教师在学习过程中的“作品”,如笔记、作业、日志等进行分析研究,以了解参训教师知识、技能、态度方面的所得。
三是访谈法。由授课专家或团队在课程进行过程中,通过访谈或提问参训教师来了解他们对培训内容的掌握情况。现实中,访谈还可采用“行动计划表”形式,除了可以了解培训所学,还能在学习与下一步的行为转化之间建立联系。
四是模拟法。通常以现场操作或模拟为主,由参训教师操作、模拟,由培训专家指导打分。现场评估结束后,可辅以追踪观察。
(四)行为层评估
1.评估内容与关键指标
行为评估是在培训结束一段时间后(3~6个月),对参训教师的工作行为和职场表现方面发生的变化进行评估,确定参训教师在多大程度上应用了培训所学,或发生了行为改进。本层次评估关键指标有以下三个。
一是应用机会。对参训教师培训所学知识与实际工作相结合的行动进行评估。评估预期行为出现的场景、频次与质量,即衡量参训教师运用培训课程内容和方法工具解决工作中的疑虑和困难的有效程度。
二是转化支持。影响参训教师学习转化的两大核心变量为:来自培训方的专业指导和来自学校管理层的管理支持。在训后,重点就此两方面评估参训教师训后绩效支持系统。
三是行为激励。要让评估落地,很重要的一个方法就是将参训教师行为改进与绩效挂钩,这类评估常见于晋升培训考核、转岗培训考核等。在教师培训中,我们也可以采用类似的奖惩措施。
2.数据来源与评估方法
本层级评估数据来源是学校管理者、参训教师、参训教师同伴、培训专家、学生等。评估方法可采用以下三种。
一是行为观察法。具体是指跟踪观察法,即项目组在训后亲自到工作现场或采用观看录像,借助“关键事件记录表”观察并记录参训教师在教育教学实践中的行为表现,并与教师以往经验进行比较。
二是行为报告法。行为报告法包括多种形式,其中常见的有工作日志、关键事件、成功故事。其操作重点是邀请参训教师参照行动计划,结合培训内容,梳理行为改进的承诺事项、具体措施、资源支持、完成情况等。
三是360度访谈法。通过开展面向参训教师、参训教师伙伴、学校管理者、学生等的访谈来收集有关行为的资料,借助“职场追踪访谈表”,了解训后的预期行为表现及其发生前后的情境与条件。
(五)四层次的评估步骤
1.界定关键行为
确定评估什么是培训效果评估过程中最重要的决策。考虑到成本、时间、指标的易理解性,可以将培训评估指标缩减至可量化的几个关键行为指标。
2.形成评估证据
评估人员先确定比较标准,充分利用经验层评估所提供的原始数据;再依据评估内容、数据类型与数据来源,选择相应的采集时间、采集方式与采集工具;最后运用适宜的数据编码、汇总与统计方法,对评估数据进行综合评析。
3.撰写评估报告
在对培训相关数据和信息进行整理、分析后,评估人员应再结合培訓项目背景与目标等,撰写培训评估报告。报告核心内容包括:评估工作概述、四层级分析结果、评估结论建议等。
4.反馈评估结果
一旦评估有了结果,评估机构有义务将结果汇报给培训管理者以及培训关键利益相关方,推动培训活动的优化与改进。
5.推动持续改进
寻求改进建议前,需知晓问题出现的真正原因。接着采取渐进行动。现实中,很难一次性对培训进行“彻底改造”,可以先选择一或两个问题进行处理,或从那些相对简单的问题开始。在每日培训结束后,可组织项目团队成员就培训流程要素进行反思研讨,针对问题及时调整。
四、区域教师培训评估体系的应用效果
(一)落地标准,保障质量
2017年,《标准》正式印发并进入应用阶段。“十三五”期间,已累计完成12个区县市县示范项目和13个市本级干部教师培训项目的评估。《标准》的使用对指导和规范大连市教师培训工作起到很好的引领作用,使各区市县的教师培训工作有章可循、有制可依,进一步提高了中小学教师培训项目的质量。
(二)应用模型,迭代项目
研究团队综合运用基于行为改进的教师培训项目设计与评估模型,不断迭代“领雁工程——培训者培训”项目。近年来,“领雁工程”围绕政策理解、项目设计、课程开发等培训者必备的核心能力,通过通识培训、主题研修、在线学习等方式对市、区两级进修院校教研员开展多主题专项培训。目前,已累计完成4000多人次的培训。
(三)扩大影响,辐射全国
研究团队曾先后4次在国培计划——示范项目培训管理者培训中介绍大连教师培训项目绩效评估的设计思路和实践探索;“基于行为改进的教师培训质量评估思考与实践”先后亮相2019年、2020年教师培训者联盟年会;“基于行为改进的‘三环四步培训项目设计经验”“基于行为改进的‘四层五步教师培训效果评估探索”先后入选中国教育学会教师培训者联盟2020年度、2021年度实践案例。
参考文献:
[1]王冬凌,刘金华.《大连市教师培训项目绩效评估标准》的设计思路与创新实践[M].大连:辽宁师范大学出版社,2017.
[2]刘金华,陈振国.行为改进导向的培训项目设计实践与探索[J].中小学教师培训,2021(6).
(责任编辑:赵昆伦)