方法论危机下的问卷调查:挑战、变革与改进路径

2023-09-01 09:31臧雷振徐榕
社会观察 2023年6期
关键词:被访者研究者工具

文/臧雷振 徐榕

引言

问卷调查是社会科学研究的经典方法之一,为社会科学知识增量作出了重要贡献,为现代社会科学学科体系、学术体系、话语体系建设与完善提供了有力支撑。社会科学的理论构建与知识创新,社会科学研究中描述、解释、评估与预测功能的有效实现均离不开问卷调查方法的支持。但随着社会科学研究方法的更新迭代,传统的问卷调查方法受到不同程度的冲击。问卷能否更客观地还原研究对象的真实想法?能否更真实地呈现研究群体的整体特征?能否更准确地反映不同文化背景的差异?这一系列问题持续困扰着研究者,使该方法的信度与效度不断遭受质疑。

政治、经济、社会变迁和学术研究视野、范围的拓展,在强化上述疑问的同时也给问卷调查方法带来新挑战。同时,竞争性方法的发展也对问卷调查方法产生了明显冲击,一定程度上削弱了问卷调查方法的“合法性”,实质降低了其在社会科学研究中的生命力与竞争力,甚至造成了方法的生存危机。

高质量的问卷调查方法应用与高质量的研究相辅相成,如:高质量的问卷调查设计能更有效地降低被访者的无应答率,进而规避数据缺损、测量误差的问题,且能对问卷调查其他环节存在的问题提前进行干预与预防。本文聚焦问卷调查设计阶段,呈现了21世纪以来问卷调查方法发展的学术理路,探讨在社会科学研究持续深入和经济社会不断发展的背景下,新时代问卷调查方法该如何保持旺盛的生命力和竞争力。

方法论危机下的问卷调查:维度与挑战

问卷调查旨在通过收集大量个体特征信息,实现对总体的统计描述。罗伯特·M. 格罗夫斯等在《调查方法》一书中指出这一过程涉及两个“推论步骤”:一是基于被访者对访题的应答推论其特征,二是基于样本特征推论总体特征。格罗夫斯等提出了从“测量”和“代表性”两个维度建立调查设计和质量评估的框架。“测量”关注针对样本观察单位所要收集的数据,而“代表性”关注调查描述的总体。两者均贯穿问卷设计、调查、数据处理的全过程。

聚焦问卷调查设计阶段,为呼应“测量”与“代表性”,以及进一步实现对两个维度的划分,本研究区分了“问卷设计”“调查方案设计”两个维度。“问卷设计”主要对应推论步骤一,主要呼应“测量”,兼顾“代表性”,讨论如何形成一份能实现特定研究目的的调查问卷,包括测量指标建构、问卷结构设计和问卷设计质量评估等环节,从而应对观察误差和非观察误差中的无应答误差。“调查方案设计”对应推论步骤二,呼应“代表性”维度,包括保证研究对象代表性、可及性和方案适用性等环节,讨论在调查开展中如何进行样本框编制和科学抽样设计、选择合适调查工具,形成一套能满足研究需要的调查方案,从而应对非观察误差(主要是覆盖误差和抽样误差)。

问卷设计一直面临着难以彻底解决的“痼疾”,同时,21世纪以来,“新症”也在显现。首先,问卷调查中访者与被访者不平等的单向度关系,以及通过统一标准提问方式以避免干扰被访者的“刺激—反应”模式受到挑战。其次,随着针对传统议题有更多样的测量指标可供选择,当研究者主观选择的测量指标不能较好反映研究议题,就会导致测量指标的选择性偏差;由于经济、社会、政治条件的限制,部分研究议题所选替代性指标如果不可行,同样可能降低测量的构念效度。再次,21世纪以来创新性工具的运用也提升了问卷测量的复杂性。调查工具不同,其问卷设计具有显著差异,问题设计与工具的错配也会影响问卷设计质量。

调查方案质量关系到问卷工具能否获得具有代表性的数据,同样关乎问卷调查方法的质量控制。随着经济社会发展以及调查群体、环境、工具的多样化,调查方案所面临的质量挑战更为复杂多样。混合数据采集模式的运用不断拓展,有助于进一步实现降低问卷调查成本,覆盖调查对象等目标。但多重采集工具的使用也可能提升测量误差的复杂程度。此外,民族区域、战争与群体运动等特定情境都对调查方案形成较大挑战。研究内容的多样化也给调查实施主体选择带来更多考验。

面对问卷调查设计所遭受的挑战,越来越多研究者更依赖现有大型统计调查数据,而非亲自投身问卷调查实践,这使研究问题与现有二手数据间契合性难以得到充分保障。大数据运用与数据挖掘的兴起也在替代问卷调查。一些研究者对问卷调查方法的运用效果、适合主题形成刻板印象,甚至产生了较为盲目的方法不信任。这就导致一些研究主题下问卷调查方法迟迟难有作为,出现方法运用的不平衡。同时,这种不信任还可能削弱对问卷调查设计深入探索的动力,进而不利于问卷调查质量提升及其应用领域拓展。

问卷调查方法质量提升路径一:问卷设计的维度

(一)技术提升:经验积累如何使问卷设计推陈出新?

调查实践中的困难与经验教训的积累是问卷设计不断完善的第一驱动力,促使研究者不断提升问卷设计技术。一是虚拟情境锚定法和列表实验设计等方法的提出和运用。通过将评价参照系和虚拟情境结合,虚拟情境锚定法可同时解决无参照系所致偏差和被访者难以理解复杂抽象概念的测量难题。列表实验、背书实验等广泛用于测量被访者对易受社会期望偏差影响的敏感话题的真实态度。二是工具性题目的设计与图片的运用。自填式问卷中,指示性回答项目被用于检查被访者注意力是否集中。问题前增加随机的陌生人图片,可避免测量普遍信任时,被访者仍基于对熟识者的印象进行作答,还能通过更换图片测量其对不同族裔陌生人信任程度的差异。

列表实验、虚拟情境锚定法、工具性题目也对问卷项目布局及长度控制提出了更高要求。一方面需控制问卷长度,可通过创建信度与效度相近的短版本问卷以适应调查情境,减轻问卷过长对应答率与应答质量产生的负面影响。另一方面需进一步优化问卷项目布局。

问卷设计的技术提升也来自研究间的交流引介,但保障国外引介问卷的信度与效度离不开对其跨国适用性的讨论。

技术提升路径也存在局限性。一方面,研究成本较高,因为其一般以研究过程中的“失败经验”为直接来源,意味着一些问卷设计已对研究造成不可换回的损失。特别是在研究透明度仍有待提升的环境下,问卷设计失败可能意味着出现低质量知识生产。另一方面,技术提升是一个长期过程,新的问卷设计技术需在实践中不断验证改进。此外,方法创新在很多情况下也意味着问卷设计更为复杂,这会提高对被访者认知能力等方面的要求,限制方法使用范围。问卷设计创新方法的恰当运用能否契合调查对象实际条件,需要不断的实验或调查实践的验证。

(二)方法交叉:现象学努力如何再造问卷设计?

作为定量研究数据来源的调查问卷,其设计正在逐渐突破“空白表格”原生的去情感性、非个人化等特征,吸纳定性研究理念与方法。悬置预设、排除成见,让研究对象尽可能地自我呈现等现象学努力,也在推动问卷设计的改变乃至范式革新。首先,问卷设计中对定性方法的运用不断深入。这需要打破问卷设计中从研究者到被研究者单向度的不平等关系,为双方的互动与表达提供更充分空间,使双方积极合作、相互理解。其次,在问卷质量评估环节深入运用定性方法,有助于发现问卷设计问题,检验测量工具有效性。

但是,“现象学努力”不仅将延长问卷设计时间,也会带来后续调查员培训、调查开展、调查数据处理等方面时间的显著增加,进一步提升问卷调查成本。另外,“现象学努力”还会降低问卷设计的可复制性,可能不利于保障其透明度,对提升问卷质量也会形成挑战。

(三)工具运用:科学事实如何为问卷设计提供支持?

其一,实验工具的辅助。很多问卷设计经典问题、争论的破解,都依托于针对性实验所提供的事实支撑。前述问卷设计方法创新的有效性同样可基于科学实验加以检验。其二,数理工具的辅助。这突出地作用于问卷质量评估环节,为科学评估和提升问卷有效性与可靠性提供了指引。数理工具还可用于筛选问卷题目,运用结构方程建模技术,能缩减问卷中的问题数量,控制问卷规模。其三,通信媒体工具的辅助。相对于纸质问卷,网络问卷设计中通信媒体工具的优势得到更充分发挥。研究者可充分运用其技术优势,如网络平台样本检测、自动跳转、数据检测等,使问卷设计更为丰富多样。一系列新软件和新系统的研发与推广,为研究者设计和使用高质量的非纸质问卷提供了技术支持。

需要指出的是,实验工具以科学精巧的高质量实验设计为前提,数理工具运用以掌握数理统计方法为前提,都具有一定使用门槛。更重要的是,通信媒体工具运用在丰富问卷设计的同时,也可能造成问卷问题有效性的变化,一些问题在某些调查工具中可能“失灵”。

问卷调查方法质量提升路径二:调查方案设计的维度

(—)复杂情境挑战与抽样设计突破创新

抽样的基础是有一个完整的、每个抽样单元被抽中概率相同的样本框,且样本框总体应尽可能避免对目标总体的覆盖不足或过度覆盖。官方提供的居住清单可能并不包括所有的住房单元,从而造成抽样框不完整,比较—增强列表、检查遗漏的住房单元和增强地址覆盖率三种方法有助于解决这一问题。在抽样环节,研究者也针对研究群体的不同特点,提出了有针对性的抽样方法,如用地理方法和现场招募相结合的成地理比例的街道拦截抽样方法(GPSIS方法)获取夜生活参与者的样本。随着研究群体与研究议题的拓展,传统的“确定目标总体—构建样本框—抽取样本”过程也被打破。被访者驱动抽样可以更好地接触规模较小而一般不愿暴露身份的“隐藏人口”,且能对总体特征做合理推论。

在文化行为、物质技术环境不断变化的社会条件下,对预算、应答率、及时性、数据收集工具的发展和辅助数据可用性等方面的考量,都会持续影响抽样调查设计,因此,抽样设计还需进一步创新。同时,还需注意研究者自身知识掌握情况对抽样方案选择及实施的影响。

(二)信息化时代红利与调查工具的拓展运用

问卷调查中手机、计算机等现代媒体工具的功能得到进一步发挥,并推演出诸多新模式,如计算机辅助电话采访(CATI)、计算机辅助面访(CAPI)、计算机辅助自填采访(CASI)等。首先,合理的现代工具的选择可使调查方案更利于接触调查对象,适应调查条件。其次,调查目的与调查工具的匹配得到优化。而通过完善调查工具的有效组合,进行混合模式调查设计,则能促进应答率的提升。

但是所选工具有效性仍需不断检验,一系列伴生问题也加剧了调查方案选择的不确定性。不同问卷工具及发放、填答方式均显著影响应答质量,这加大了工具选择的复杂程度。网络调查中,虚假数据、涵盖误差等问题也会因“刷单”行为而不断凸显,从而可能削弱调查对象的代表性、可及性。在信息安全建设尚需完善的情况下,基于网络的问卷调查和信息存储、信息转移可能加剧信息泄露风险,不利于个体隐私保护。

延展性讨论

对问卷调查设计科学性的研究永无止境。问卷调查设计的优化还应遵循几个原则。一是聚焦研究对象关怀性原则。更好地将研究对象纳入研究的重要性不亚于坚持方法的规范性。二是注重访者和被访者自主性原则。促进访者和被访者在问卷设计的“合作”中进行更为充分、平等的交流,有助于提高问卷调查发现新现象、生产新知识的可能性。三是调查方案适应性原则。应进一步明晰不同调查工具、方式对不同调查群体、环境的契合度,提升调查方案设计的针对性。四是调查(研究)成本与成效平衡原则。其一,更科学地控制调查规模。其二,通过多种调查工具的发展与组合运用,以及问题设计创新,持续克服问卷调查中无应答问题。其三,提前解决可预见问题。

基于上述原则,笔者认为未来质量提升应着眼于几个方面。首先,强化实验工具运用,探索影响质量的因素,验证新方法与工具的有效性。其次,增强研究透明度,倒逼质量提升,并为方法碰撞提供平台。研究者公开其削减观察误差与非观察误差的方案及实际效果,将会倒逼其追求更高的问卷设计质量。再次,深入运用混合研究方法,进一步吸纳定性思维与技术,弥补问卷设计局限性。避免只遵循成熟理论并脱离对标准化调查访问、数理统计技术的单向度依赖。最后,强化多主体合作,使调查方案设计更好适应复杂社会情境的挑战。其一,需要加强构建学术共同体,强化小型调查项目间的调查资源、工具、技术共享,提升数据间的兼容性。其二,强化与信息工程等领域专业人员的合作,提升基于信息技术的调查工具研发科学性与有效性。其三,强化与政府、行业部门合作,在收集国家治理、特定行业数据时,克服数据获取的局限性。

越发复杂的新问题与新挑战的出现,也意味着还需强化对研究伦理的关注。首先,警惕对测量技术发展的迷信与单向度依赖。过度重视量化与标准,可能造成单向度追求指标,简单认为让“不可见”变“可见”是正确的。还可能掩盖或忽视真实情况以及随时间发展可能呈现的指标外事物。其次,更好履行对被研究者、资助方、公众的责任,应坚持保障被访者的自愿参与和知情权。如因设计问题造成数据扭曲,出现观察或非观察误差,研究者均应向资助方和公众透明呈现。此外,国内研究中方法论的碰撞与对话力度还需提升。高水平刊物和发表载体有利于高水平文章以较稳定的频率持续输出,学术期刊需开辟专栏或创办专业期刊来强化此议题的研究。

猜你喜欢
被访者研究者工具
被访者驱动抽样法在中国退役运动员群体调查中的应用
高等教育中的学生成为研究者及其启示
人物新闻采访报道应用情感引导的策略分析
波比的工具
波比的工具
研究者称,经CRISPR技术编辑过的双胞胎已出生。科学将如何回应?
准备工具:步骤:
研究者调查数据统计
“巧用”工具
医生注定是研究者