[摘要]在评估领域,为弥补基于文化客位的客观评估忽略项目参与者在评估工作中所起作用的缺陷,强调项目既得利益参与者作用的赋权评估得以提出。在赋权评估实践中,专业评估者在赋权理论的指导下,通过将项目既得利益参与者纳入评估过程,以实现项目既得利益参与者的自我决定和项目完善。通过将项目既得利益参与者纳入评估实践,评估实践实现了从外部向内部的转变。由于赋权评估实践的干预性特征会对项目运作造成影响,因此难以确定项目实现目标的真正原因,而导致赋权评估在方法上存在效度检验的困境。本文根据赋权评估的干预性特征,结合社会服务项目的程序逻辑模型(PLM)的思路,提出应对赋权评估效度校验困境的方法。具体方法是将赋权评估作为独立干预,然后检验这一干预与项目结果(outcome)之间的关系。
[关 键 词]赋权评估 效度检验困境 程序逻辑模型 PLM
[作者简介]刘江,男,四川泸州人,南京理工大学社会学系讲师,博士,研究方向为社会工作理论、社会工作评估、社区研究。
[中图分类号]C916 [文献标识码]A [文章编号]1008-7672(2018)04-0011-08
一、 引言
在我国政府购买社会工作服务越来越重视责信(accountability)的背景下,为能够对社会工作服务项目进行客观公正地评价,第三方评估机制得以引入。根据评估实践,第三方评估者通常与项目及项目参与者保持一定距离,以凸显评估过程和评估结果的客观性。作为外部评估专家,第三方评估者使用严格的定性或定量的方法收集与项目有关的资料,并通过对资料的客观分析进而对项目做出评价。这种方法因倡导评估实践的“客观性”、“非介入性”而能够降低评估实践对项目运作过程和结果造成的“污染”。“客观性”和“非介入性”的评估方法遭到了来自项目参与者的批评。他们认为,“客观性”和“非介入性”的评估方法在本质上以牺牲评估者对项目运作的深入理解为前提。从方法论的层面,项目既得利益参与者(vested interest program participants)比其他群体更了解影响其日常生活的重要变量及其效果。与强调评估过程、评估资料和评估结果的客观性、非介入性的评估实践不同,另外一些评估实践(如参与式评估、利益相关者评估、赋权评估等)则强调评估的参与性。这类评估强调项目既得利益参与者参与评估实践。
作为一种重要的参与式评估方法,赋权评估由Fetterman于1993年提出,进而进入评估领域的视野。赋权评估的提出主要为了回应基于文化客位、强调价值无涉的评估模式。赋权评估强调项目既得利益参与者参与并掌握评估实践。在具体评估实践中,它要求评估者将项目既得利益参与者纳入评估实践,并在评估的过程中实现项目既得利益参与者的自我决定和项目完善。虽然通过参与可以深刻理解项目运作,但是作为一种干预,赋权评估对项目运作造成了“污染”。由此导致难以区分项目运作的效果到底是源自项目本身投入,还是源自评估。面对这一困境,本文将从赋权评估的内涵和具体方法出发展开分析,找到赋权评估的本质特征,然后以程序逻辑模型(Program Logic Model,PLM)为指导提出应对策略。期望通过这些分析能够呈现出赋权评估的基本面貌,以指导相关评估研究和实践。
二、 文化客位与文化主位的评估实践之争
一般而言,为实现评估目标,第三方评估机构会使用监测评估(或过程评估)和影响评估(或效果评估)。其中,监测评估主要指项目开始执行之后评估者必须建立一个服务运行监督机制,以确定服务执行者是否明白服务的目标以及是否有效地推进服务朝着目标发展。影响评估(或效果评估)的主要目的是确定服务干预是否在实践意义上产生了预期的效果。它一方面要检验服务接受者在接受服务前后发生的变化,同时还要检验这些变化是否根源于服务提供的各种介入。受到价值无涉(value free)观点的影响,监测评估和影响评估均要求评估行为本身不会对项目运作和结果产生影响。因此,评估实践与项目之间是外部的、平行的关系。在评估过程中,评估者通常扮演专家的角色,通过使用客观的评估工具(如项目计划书、各类指标体系、量表等)收集项目信息、对项目信息进行分析、对评估结果进行发布。此过程由作为专家的评估者主导完成,而项目参与者被排除在评估实践之外。虽然基于文化客位的评估方法能够降低评估实践对项目运作和项目效果产生的影响,但是它遭到来自文化主位观点的批评。从文化主位的观点看来,基于文化客位的评估实践过于强调客观性和外在力量的作用,而忽视了项目参与者对评估产生的作用。文化主位的评估实践强调项目参与者应该在评估实践中扮演重要角色。其理由是,项目参与者比外在于项目的评估者更了解项目的实际运作过程,更了解对案主日常生活产生重要作用的要素和效果。由此,在文化主位观点的指引下,评估实践应该由外部转向内部,评估的主体由外部评估专家转变为项目参与者。
除了项目参与者更了解项目实际运作过程这一原因外,基于文化客位的评估实践遭到批评的另外一个重要原因是,它无法通过评估实践对项目的运作和结果产生有益的影响。Everhart和Wandersman指出,当前的项目通常面临两种困境:其一是很多项目在具体运作时与项目规定之间存在差异,因此导致项目的运作和评估无法根据规定进行评鉴;其二是项目本身缺乏能力,当外在力量撤离后项目就面临失败。而聚焦于培育项目参与者自我决定、实现自助和项目完善的赋权评估能够有效回应基于文化客位评估实践存在的问题。
三、 赋权评估的内涵及方法
(一) 赋权评估的内涵及目标
賦权评估主要建立在赋权理论的基础上。理解赋权的内涵是理解赋权评估的前提条件。赋权是社会工作实务和政策中的核心议题。在社工实务中,赋权的目标之一是提升案主和社群的实际权能,以便采取行动改变和预防案主及社群面临的问题。就赋权与赋权评估之间的关系而言,赋权评估是社会工作赋权视角的自然延伸,并且可以将其置于协作式或参与式项目评估模型中进行理解。
那么,何谓赋权评估呢?赋权评估根源于参与理论。项目参与者越是参与和项目评估有关决策过程,越有可能在决策过程中做出承诺。通过参与评估的决策过程,参与者得以掌握项目评估的过程和结果,进而实现赋权。Fetterman等指出,赋权评估是使用赋权的概念和技术以培育“自我决定”。“自我决定”聚焦于实现项目既得利益参与者的“自助”。就赋权评估中项目既得利益参与者的“自助”而言,Fetterman指出,赋权评估坚持“自我决定”(self-determination)和“能力建设”(capacity building)的取向。其中,“自我决定”能力包括:识别和表达需求的能力、从多种可替代的方案中确定行动方案的能力、采用合适的方法实现目标的能力、评估短期和长期效果的能力、坚持实现所追求目标的能力。
赋权评估另外一个焦点是实现项目的完善(improvement)。有研究者将赋权评估置于项目的整体框架来理解,并认为赋权评估是一种通过为项目既得利益参与者提供评估项目实施的工具对项目进行自我评估、将评估作为项目计划和项目管理的一部分,进而实现项目获得成功的评估方法。由此可以看出,作为一种评估实践,赋权评估嵌入于项目发展的过程之中。赋权评估除了从个体层次培育项目既得利益者在评估过程中的“自我决定”的能力外,还要促使相关机构利用赋权评估以改进服务提供系统。基于赋权评估以改进个体自我决定能力和项目改善的双重特征,赋权评估本质上是一种基于批判解放(critical-emancipatory)的项目评估方法。
(二) 评估者构成及角色
根据赋权评估的内涵,评估者不再全是来自外部的专业评估者,而是由专业评估者和项目既得利益参与者共同构成的评估团队。赋权评估要求模糊专业评估者和项目既得利益参与者之间的界线,并且在二者之间培育伙伴关系。在这种伙伴关系中,评估者力图以有意义的方式让项目既得利益参与者参与评估过程。有意义的参与方式主要指项目既得利益参与者深度参与项目评估的规划和设计、确定评估问题、评估过程决策、数据收集和分析、评估结果解释等。专业评估者通过让项目既得利益相关者参与这些过程或环节来培育“自我决定”的同时,实现评估控制权向项目既得利益参与者转移。
在赋权评估实践中,专业评估者的角色随项目既得利益参与者的加入而发生改变。专业评估者的身份转变为教育者、促进者和协助者。在共同参与评估实践的过程中,项目既得利益参与者在专业评估者的监督和训练下提升评估技能、学会批判性地评价项目。随着与“自我决定”有关的各项能力的培育,项目既得利益参与者将主导评估实践,而专业评估者则主要起到协调或引导的作用。随着项目既得利益参与者成为掌控评估实践的主体,并自己开展项目评估工作,评估实践因此从外部实践转变成为内部实践。
(三) 赋权评估的具体方法
赋权评估强调评估实践的赋权内涵,那么赋权评估如何实现赋权呢?在个体层次上,赋权评估聚焦于培育项目既得利益参与者“自我决定”。而“自我决定”的培育是一个系统性的过程。具体而言,“自我决定”的提升是一个涉及与项目有关的项目既得利益参与者评估项目计划、制定项目要实现的目标、形成实现项目目标的策略、记录实现项目目标的过程。而这些目标的实现有赖于项目既得利益参与者在项目实施和项目评估过程中有意义的参与。在参与过程中,专业的评估者通过教育、培训、协助等方式,通过给项目执行者提供评估项目计划、项目实施、项目结果的工具,项目既得利益参与者能够获得改善项目计划、提升项目实施质量、评估项目结果等与评估实践有关的能力,并形成完善项目质量的系统,进而提升项目成功的概率。
在项目层次上,赋权评估聚焦于项目完善。赋权评估实践者通常使用三种方法以实现项目完善:(1)设定(评估)目标;(2)收集项目资料;(3)制定计划。其中“制定计划”这个步骤主要用于指导项目既得利益参与者对项目运作进行修订和改进。在赋权评估实践过程中,传统的评估工具(如问卷、焦点小组、深度访谈、实验设计等)用以评估项目计划是否正常运作。如果项目无法正常运作,那么就根据评估结果重新设定目标、收集资料和制定计划,直至项目产生特定的影响。这一循环的评估过程使得评估团队可以对项目的运作过程进行监控,并借助项目运作过程中收集的资料做出有针对性的项目决策。Owen提出了三个相互关联的步骤以指导评估实践的展开:(1)制定研究计划;(2)获取评估资料;(3)与项目利益相关者交流评估结果。他进一步强调,为确保评估的有效性,专业评估者需要协助项目利益相关者形成完成各阶段评估任务的胜任力。与上述三个步骤类似,Patton提出了基于利益相关者参与评估的五个步骤:(1)评估项目计划(包括评估项目的背景、范围、预算、项目要应对的问题等);(2)评估项目设计(包括评估的具体方法和测量方法);(3)数据收集;(4)数据分析(包括解释、评价评估结果);(5)做出决策并实施。根据上述步骤可以看出,赋权评估是一种内嵌于项目运作过程的实践行动,是构成项目有效运行的重要组成部分。
根据前述赋权评估内涵、评估者构成、评估步骤可以总结出赋权评估具有以下特征:(1)赋权评估的实际执行者是由专业评估者和项目既得利益参与者共同构成的评估团队,并最终由项目既得利益参与者主导;(2)赋权评估内嵌于项目,是推动项目有效运行、实现目标的重要组成部分;(3)赋权评估是一个包含评估计划设计、计划实施、资料收集和分析等步骤的干预行动。“内嵌于项目”体现出评估不再独立于项目而展开。“干预行动”体现出赋权评估的干预性特征。
四、 赋權评估的效度困境
前文已述,赋权评估的焦点在项目既得利益参与者“自我决定”的培育和项目完善,而不是要求评估者以旁观者的姿态对项目的运作效果进行外部评鉴。即便如此,作为一种具有干预性质的评估实践,赋权评估面临效度问题。赋权评估的效度问题主要表现为两个方面:其一是个体层次赋权的效度;其二是赋权评估作为项目完善的干预所具有的效度。
(一) 赋权的效度困境
赋权的效度困境主要聚焦于赋权评估个体层次的目标。其具体指项目既得利益参与者“自我决定”是否因专业评估者的赋权行动而得以实现。为实现这一目标,在赋权评估的实践中,外来专业评估者需要通过教育、培训、协助等方式,在评估项目计划、制定项目要实现的目标、形成实现项目目标的策略、记录实现项目目标的过程、评估结果解释等方面提升项目既得利益参与者的能力。进而实现项目既得利益参与者对项目进行自我评估。由于项目既得利益参与者“自我决定”能力与评估实践的好坏直接相关,因此需要以项目既得利益参与者为评估对象、以项目既得利益参与者与评估实践有关的“自我决定”各项能力为内容进行效果评鉴。主要评鉴“自我决定”的各项能力是否在赋权评估前后具有显著正向改变。
(二) 赋权评估的效度困境
赋权评估的效度关注作为一种内部评估实践的赋权评估,因其嵌入性和干预性对项目所产生的影响。Stufflebeam指出,虽然协助利益相关者实现“自我决定”对赋权评估而言非常重要,但是,赋权评估混淆了评估的真实目标(如系统地评价项目的优点或价值)与其可能产生的附加作用。当评估者从外部专家转变为项目既得利益参与者时,评估实践的控制权随之转让给项目既得利益参与者,这将会导致评估项目的标准变得不再清晰。因为,赋权评估可能会因项目既得利益参与者强调自己实务工作的重要性而对项目运作和结果产生主观偏见,因此导致评估结果缺乏可靠性。这会导致评估实践难以对项目运作的优劣做出有效评价。实际上,赋权评估模糊了评估的本质在于评鉴项目的价值,并且过于强调评估的建构作用。这将进一步导致赋权评估忽略了项目的总结性评鉴。过分强调评估实践的建构性和项目既得利益相关者的参与会导致项目受污染。在此情况下,评估者难以有效区分项目运作的结果到底是源自项目投入本身,还是源自具有干预性质的评估实践。由此,为了能够对项目进行总结性评鉴、有效解释项目结果,在项目运作之初,就应当启用外部评估者对项目的运行和结果进行评估,尤其注意对项目运行和结果造成影响的赋权评估的实践进行评估。
五、 基于PLM的应对策略
前文已述,在项目层次上,赋权评估具有干预性的特征。当项目既得利益参与者实现“自我決定”,并开始独立地开展评估工作时,评估实践便开始对项目的运作产生影响。由此,需要检验赋权评估的实践对项目所产生的影响。为实现这一目的,可以将赋权评估处理为协助项目运作的一种投入(inputs)。这种处理之目的在两个方面:一方面澄清赋权评估对项目设计所做的改动;另一方面澄清赋权评估为项目运作所做的实际投入。然后,可以使用项目发展中的程序逻辑模型(PLM)作为逻辑指导,以回应赋权评估对项目所产生的实际影响。
那么,何谓程序逻辑模型呢?如何在程序逻辑模型的指导下对赋权评估实践的效度进行检验呢?程序逻辑模型是利用逻辑思维,协助活动或服务推行者分析项目中各个环节之间的关系。程序逻辑模型假设项目之间各主要成分若能环环紧扣,那么项目达成目标的可能性将会大大提高。根据程序逻辑模型的思路,一个项目的主要组成环节包括:投入的资源(inputs)、输出的服务、产品(outputs)、服务的成效及影响(outcomes-impact)。其中投入的资源主要包括人力、财力、技术、器材等用于项目运作的各种投入。实际上,程序逻辑模型坚持线性因果逻辑。其重点是根据项目理论建立资源投入、服务输出、服务成效之间的线性逻辑关系,并通过项目资料对这一潜在的逻辑关系进行检验(程序逻辑模型的框架如图1所示)。因此,可以将赋权评估效度的检验转化为,检验项目投入(含赋权实践的投入和其他项目投入)与项目运作结果之间的真实关系。
线性逻辑的优点在于可以简洁地呈现项目各部分之间的关系,不足在于它无法将服务成效作为反馈指导项目本身的改进。与线性逻辑不同,赋权评估是项目既得利益参与者从评估计划制定到项目改进的“自我决定”的循环过程。由于这一循环过程能够根据项目运作的实际情况及时修订项目计划、改进项目目标,因此,它导致项目内容、项目运作、项目结果等随评估实践而不断发生变化。项目的不断变动为检验项目投入和项目结果之间的关系造成了难度。那么,在项目因使用赋权评估而不断变动的情况下,如何在程序逻辑模型(PLM)的框架下检验项目投入和项目结果之间的关系呢?
结合程序逻辑模型(PLM)的原理,笔者认为在赋权评估实践的过程中,需要对赋权评估每个完整的循环过程做详细记录。所谓完整的循环过程,主要是指在赋权评估过程中,从评估项目计划到根据评估结果修订项目的完整过程。然后,按照“资源投入”、“活动/服务”、“服务结果/影响”对记录内容进行归类。最后,在项目完结时检验三者之间的逻辑关系。具体而言,可以通过以下几个步骤来完成:(1)以一个完整的赋权评估为单位展开评估实践并做记录;(2)根据前一阶段赋权评估的结果对项目的投入、产出进行修订,并形成新的项目介入计划;(3)对新的项目介入计划及实施进行评估和记录。然后如此反复,一直到项目运作趋于稳定或者项目结束。也即赋权评估无法再提供修改项目投入、项目活动、项目成效的信息(实际上,这一过程正好体现出赋权评估实现项目完善的目标)。这一做法可以追踪项目的变更过程,为总结性评估提供丰富的资料。上述评估方法如图2所示。
根据图2,作为一种干预性质的评估实践,赋权评估过程中繁杂的内容按照项目的“资源投入”、“活动/服务”、“服务结果/影响”进行分解和归类。由此,赋权评估的实践对项目运作及项目结果所产生的影响,可以转化为检验赋权评估实践内容分解之后的“资源投入”、“活动/服务”、“服务结果/影响”之间的逻辑关系(检验三者逻辑关系的资料是项目最后的、稳定的记录)。逻辑关系的检验通常可以使用两种方法:其一是理论导向,用既定的项目理论作为指导来诊断三者之间的联系;其二是资料导向,从评估者收集的与三个板块有关的资料内容出发,使用正确的定性或定量研究方法来检验三者之间存在的实际关系。
六、 结论
作为一种有别于以客观主义为基础的评估方法,赋权评估关注的焦点发生变化、评估实践的执行者发生变化、评估实践与项目之间的位置关系发生变化。与客观主义强调外在评估者的专业性不同,赋权评估关注项目既得利益参与者在评估实践中的作用。与关注检验项目理论和项目效果的评估不同,赋权评估以培育项目既得利益参与者“自我决定”、实现项目完善为目标。为实现这一目标,评估者通过教育、培训、协助等方式培育项目既得利益相关者自我决定能力。通过这种方式,评估者将评估的控制权转让给更熟悉项目的既得利益参与者。在赋权评估的实践中,外在的专业评估者与项目既得利益参与者之间的界线变得模糊,双方共同构成了评估实践的执行者。评估实践和项目之间的位置从外部的、平行的关系,转变为内部的、嵌入的关系。评估实践也因此由外部实践转化为内部实践。虽然赋权评估由外部实践转变为内部实践导致其可能存在评估偏差,以及无法回应项目效果由谁产生的困境,但是赋权评估实践和项目之间嵌入性的关系又为赋权评估提供了检验项目效果的可能性。根据前文的论述,作为一种具有干预性质的评估实践,赋权评估可以被视为构成项目运行的重要组成部分。评估者可以将赋权评估视为一种项目干预,然后将这种干预作为推动项目运作的众多投入(inputs)之一,并按照程序逻辑模型(PLM)检验投入与项目结果之间真实关系。由此,借助赋权评估的干预性特征和程序逻辑模型的原理,笔者从理论上提出了应对赋权评估无法进行项目效度检验的困境。这一方法的真正有效性有待在评估实践中进行反复检验。在未来研究中,研究者应该重点关注两个方面:一是如何记录赋权评估实践作为干预对项目运作过程造成的改变,二是如何利用严格的定性和定量方法检验项目投入和项目结果之间的关系。
(责任编辑:徐澍)