基于文献计量与内容分析法的国外misinformation研究框架的构建

兰苑榕 赵俊杰

（中国科学技术信息研究所 北京 100038）

1 引言

在当今这个信息爆炸的时代，信息质量成为决定人类社会发展的关键所在，真实完善的高质量信息有助于人们正确地认识事物，做出合理决策；与之相对，虚假信息就像影子，能将错误失真的信息情报传播开来，给每个信息接收者甚至人类社会带来巨大的危害，是社会各界亟需解决的问题之一。“misinformation”一词指不真实、不正确的信息，可以直接译作虚假信息，也可以译作错误信息、虚假情报或信息误导、信息失真等。从广义上看，misinformation 泛指错误的信息，是人所持有的不正确的信念[1]；而从狭义上看，misinformation 则与其出现的社会领域密切相关，是谣言(rumors)、虚假新闻(fake news)、误解(misperceptions)以及阴谋论(conspiracy theories)等相关术语构成的总体[2]。

国外对misinformation 的研究起源于二十世纪的认知心理学领域，经过一个多世纪的发展，各学科领域地不断加入，国外学者对misinformation 的研究不仅涵盖了misinformation的内外特征、传播规律、影响评估等基础方面，对人的信息行为也进行了深入的研究，产生了丰硕的研究成果。为总结国外关于misinformation 的研究重点，厘清国外关于misinformation 研究的发展脉络，加深对国外misinformation 研究发展过程的整体性理解和认识，本文以科学引文索引(SCI-EXPANDED)和社会科学引文索引(SSCI)两个数据库作为数据源，使用文献计量法与内容分析法构建了一个国外misinformation 的研究框架，以期为我国后续虚假信息相关研究的开展提供方向、思路上的借鉴。

2 概念辨析

近年来，国外关于misinformation 的研究不断增加，misinformation 已经成为了一个跨领域、跨专业的问题，得到了包括心理学、政治学、社会科学等在内的多个学科领域的广泛关注。但是，“misinformation”一词并非对错误、虚假信息的唯一表达，如disinformation、false information 等术语与misinformation 在含义上相近且相互关联，很多情况下容易产生混淆。

2.1 misinformation 与disinformation

disinformation 可以译作故意制造的虚假信息、故意的假情报等，经常与misinformation 同时被论及。学术界对misinformation 与disinformation在概念上的区别已经取得了广泛共识：disinformation 是带有欺骗意图的、故意制造或传播的，以误导、欺骗、迷惑及操纵信息接收者为目的的虚假信息；而misinformation 则不存在这种欺骗意图，它通常是指被人们无意识制造和传播的不准确或误导性的信息，是一个“无心之过”。然而，二者的关系却存在争议，主要有两种观点：一种是将disinformation 视作misinformation 的一种特殊类型，强调“misinformation”一词作为定义虚假、误导信息的广泛性，认为disinformation是其中故意为假的那一部分。如：Froehlich（2017）[3]将disinformation 解释为“以误导为目的，故意提供的misinformation”。另一种观点是将misinformation 与disinformation 视作相互平等的两类，强调“disinformation”一词在含义上带有的欺骗性要素，认为misinformation 并没有表达这层含义，因此二者不同。如：Karlova 等（2013）[4]指出，misinformation 强调情境性，而disinformation 却不太强调情境性，因为它具有恒定的欺骗意图。

2.2 misinformation 与false information

false information可以译作错误信息或虚假信息，是一个与misinformation 概念相近的术语。这种相近性表现在：从与真实信息（true/real information）的一致性的角度来看，misinformation 无疑是“错误信息(false information)”。但实际上，false information 是一个概括性的广义术语，二者的区别和联系在于：首先，“false information”在研究中通常用于解释“misinformation”、“disinformation”等词的含义。比如Fetzer（2004）[5]指出，misinformation 是人们无意识散布的false information，而disinformation是故意传播的false information。其次，false information 涵盖了与misinformation 不同的其他种类的虚假信息。比如，Froehlich（2017）[3]详细梳理了false information 的主要类型，提出除了misinformation 与disinformation 外，false information 还包括信息缺失（Missing information）和自我欺骗（Self-deception）。最后，二者在表达上的侧重点不同，“false information”突出表达的是错误的信息本身，而“misinformation”一词更注重表达的是错误信息对人的作用。

3 研究设计

3.1 数据来源

本文以Web of Science 核心合集中的科学引文索引扩展版(SCI-EXPANDED) 和社会科学引文索引(SSCI) 两个数据库为数据源，时间跨度选择1912-2020年，使用检索式1“TS=misinformation”进行检索，检索时间截至2020年1月12日，共检索到文献3 100 篇。为确保检索的全面性和准确性，我们同时考虑了misinformation 的另一种表达方式“mis-information”,并使用检索式2“TS=mis-information”进行了检索。剔除与检索式1“TS=misinformation”重复的文献后，检索式2“TS=mis-information”检出的文献仅有40 篇,通过对这40 篇文献的题目、摘要、关键词等信息进行仔细阅读，必要时下载全文阅读后发现，40 篇文献中：有20 篇使用的是“（mis）information”这个表达，表示“虚假信息和真实信息两者都存在”的意思；有8 篇文献虽然在标题或摘要中使用了“mis-information”这个短语，但并非文章主要研究的问题；有4 篇文献为完全无关的文献；有1 篇文献（在Web of Science 核心合集中被引量为0，引用的参考文献为1）因文献信息不全且暂未找到全文而无法确定是否相关；剩余7 篇文献确定为相关文献，其中有4 篇在正文中同时使用了“misinformation”这一表达。由此我们认为，使用“mis-information”这一表达的相关研究数量很少，对研究结果基本不会造成影响，故不考虑使用。

本研究最终确定以检索式1“TS=misinformation”检出的3 100 篇文献作为研究对象总体。从文献类型上看，研究对象包含了期刊论文、研究综述、快报、会议论文等多种文献类型，其中期刊论文2 446 篇，占总体的78.9%；从语言类型上看，研究对象中包含了英语、德语、西班牙语、葡萄牙语、法语等多种语言类型，其中英文文献3 015 篇，占总体的97.2%。

将文献总体按出版时间进行作图，结果见图1。

从图1可以看到，国外关于misinformation的研究自1912年开始总体上呈现上升趋势。按照每年出版文献的数量，可以将国外关于misinformation 的研究划分为三个阶段:第一个阶段为1912-1990年，第二个阶段为1991-2009年，第三个阶段为2009-2019年。在第一个阶段，国外关于misinformation 的研究刚刚开始，每年出版的文献均小于等于10 篇；在第二个阶段，更多的学者开始关注这一研究主题，关于misinformation 的研究较第一个阶段有了提升，每年出版的文献均处于20～100 篇的水平；第三阶段是国外关于misinformation 研究的高峰时期，总体上每年出版的文献均在100 篇以上。

图1 文献出版时间图

3.2 研究方法

本研究在文献计量的方法上借鉴了Chen 等（2019）[6]将文献共被引、主路径分析和文献耦合三种方法结合使用的研究方法，将其应用于misinformation 研究领域。研究过程为:首先使用文献共被引分析和主路径分析两种方法，从不同角度选出了一批国外关于misinformation 的具有代表性的文献。文献共被引分析法是从高被引的角度出发，所选出的文献代表该领域的知识基础；而主路径分析法是从引文网络整体的角度出发，通过识别分析具有最大网络连通性的文献来寻找影响学科发展的关键文献。其次，使用内容分析法对所选文献内容进行梳理和分析。最终根据分析结果提出一个国外misinformation 的研究框架。

研究过程中使用了CiteSpace、HiteCite、Pajek 和VOSviewer 四个可视化分析软件，通过综合利用它们各自的优势，能够得出令人满意的结果。

4 国外关于misinformation 研究的知识基础

本研究使用文献共被引分析法识别国外misinformation 研究领域的核心文献集群，这些文献代表了该研究领域的知识基础。使用CiteSpace软件的文献共被引分析功能，选择时间跨度1912-2020年，时间切片长度为1，每个时间切片中选择前10 被引次数最高的文献(Top 10)，剪枝方式选择pathfinder，最终显示排名前13 位的文献，得到图2。对文献按排名进行编号得到表1。

图2 文献共被引分析图（top10）

表1 文献共被引选出的文献

对文献的内容进行总结可以发现，按照研究关注重点的不同可以将上述13 篇文献划分为四类：

（1）研究重点在于“misinformation 的社会产生机制”（包括1、8、10 号文献），比如1 号文献中，Lewandowsky 等(2012)[7]系统地梳理了misinformation 的来源、特征和影响，研究了misinformation 传播的社会机制和个体层面上人的信息接收行为，最终给出解决misinformation问题的方法。

（2）研究重点在于“misinformation 在网络上的传播情况”（包括2、4、6、12、11、10 号文献），比如2 号文献中，Vosoughi 等(2018)[8]通过研究2006-2017年在twitter 上传播的已被证实的虚假及真实新闻，发现了虚假信息和真实信息在传播上的区别。

（3）研究重点在于“政治方面的事实误解”（包括5、6 号文献），比如5 号文献中，Nyhan 等(2010)[11]研究了政治上的事实误解存在的原因，并通过3 个实验证明了人们对更正信息的反应与其政治意识形态有关。

（4）研究重点在于“事件后误导信息对人记忆的更改”，即misinformation 对记忆的更改(包括3、7、9、13 号文献)，比如7 号文献中，Gabbert 等(2004)[13]研究了目击者的初始记忆受到错误的事件后信息的影响而发生改变的现象，发现社交来源的错误信息比非社交来源的错误信息误导性更强。

为简化网络结构，进一步分析和解读misinformation 的文献共被引网络，本研究进一步选择相同时间跨度和时间切片中前4 被引次数最高的文献(Top 4)构建共被引网络图并聚类，不同的类以不同的颜色进行标识，得到图3。以时间线（Timeline）视图进行呈现，得到图4。

图3 文献共被引分析聚类图

图4 文献共被引分析聚类时间线视图(top4)

如图3所示，该网络图包含113 个节点，383 条连线，将其聚类后共形成5 个簇，聚类的模块值（Q 值）为0.7223，平均轮廓值（S 值）为0.5511，满足聚类的显著性与合理性要求。在聚类标签的确定上，从施引文献中提取信息作为标签对共被引文献的聚类进行表征能更好地解释共被引聚类的性质[20]。本研究使用了Citespace提供的LLR 算法以施引文献的标题、关键词列表、摘要为来源分别进行聚类标签的提取，经过对比，最终选择标题作为聚类标签来源。

如图4所示，聚类形成的时间由远到近依次是：0 号聚类“Misleading postevent information”-2号聚类“Memory accuracy”-1号聚类“Repeated event”-3号聚类“Memory conformity”-4号聚类“Eyewitness memory”。聚类的基本情况如表2所示。

表2 聚类基本情况（按聚类形成时间排序）

由表2可以看到，五个类的S 值均在0.8 以上，说明聚类效果很好。从聚类所含文献总数占总体的百分比上看，五个类所含的文献数比较均匀，共占节点总数的89.38%。聚类所含文献的出版年平均值为聚类形成时间的估计，从时间上看，0 号、1 号、2 号聚类的形成时间在2000年以前；3号和4号聚类的形成时间在2000年以后。由于聚类中的主要成员代表该类的知识基础，以下将通过分析各聚类主要成员的研究内容对聚类性质进行归纳。总结每一个聚类中被引次数最多的前三位文献，得到表3。

表3 每一个聚类中被引次数最多的前三位文献

17 The Suggestibility of Children’s Memory（1999） Bruck 等[26]#1 16 Memory Strength Affects Reporting of Misinformation（1999） Marche[27]10 Children's Eyewitness Reports After Exposure to Misinformation From Parents（2001）Poole 等[28]80 Searching for the neurobiology of the misinformation effect（2005） Loftus[29]#3 Gabbert 等[13]33 Social contagion of memory（2001） Roediger 等[30]41 Say it to my face:Examining the effects of socially encountered misinformation（2004）159 Misinformation and Its Correction:Continued Influence and Successful Debiasing（2012）Lewandowsky 等[7]#4 86 The spread of true and false news online（2018） Vosoughi 等[8]66 When Corrections Fail:The Persistence of Political Misperceptions（2010） Nyhan 等[11]

由表3可以看到，0号聚类“Misleading postevent information(误导性事件后信息)”的形成时间最早，在这个时期，误导性事件后信息对人们记忆的影响、误导信息效应产生的机制是研究者们研究的重点，就事件后误导信息是否会改变人的原始记忆分为了两派。Belli(1989)[21]、Loftus 等（1989）[22]和Tversky 等（1989）[23]是该类中被引次数最多的前三篇文献，三篇文献均研究了误导性事件后信息的问题。其中，Belli(1989)[21]研究了误导性事件后信息的影响,通过两个实验证明misinformation 的干扰和接受是造成误导信息效应的两个因素；Loftus 等（1989）[22]探讨了发生误导信息效应的原因，对记忆损伤、misinformation 接受和纯粹猜测等过程对人的记忆产生的影响进行了分析；Tversky等（1989）[23]通过一种新的测试方法检测误导性事件后信息对人记忆的影响，最终认为事件后误导信息会改变人的原始记忆。总体而言，0 号聚类的主要研究对象是误导性事件后信息及其产生的误导信息效应。

2 号聚类“Memory accuracy（记忆准确性）”是第二个形成的聚类，这个时期，人受到误导性暗示（misleading suggestion）而 产 生记忆错误的问题受到关注，同时，关于误导信息效应产生机制的研究还在继续，来源检测理论（Source monitoring）正是研究成果之一，它的核心思想是人的记忆发生错误的原因是无法正确区分原始信息和误导信息的来源，即记忆不准确。Ceci 等（1993）[19]、Johnson 等（1993）[24]、Lindsay（1990）[25]是该类中被引次数最多的前三篇文献，其中，Ceci等（1993）[19]回顾了儿童因受到暗示而发生记忆错误的历史研究，指出学龄前儿童比成年人更易受到暗示的影响；Johnson 等（1993）[24]则描述了一个用以理解来源检测过程的综合理论框架，详述了来源检测类型、过程和必要条件；Lindsay（1990）[25]研究了误导性暗示对人们原始记忆的影响，研究结果支持来源检测假说，认为暗示削弱了人们记住原始事件信息的能力。可以看到，2 号聚类的研究更关注人的记忆准确性，致力于研究记忆发生错误的原因。

1 号聚类“Repeated event（重复事件）”与2 号聚类的形成时间比较接近，研究内容相似度较高，说明了研究的延续。该类的标签“Repeated event”是研究人的记忆准确性的实验控制条件之一，即通过重复让被试者经历原始事件而加强其原始记忆。Bruck 等（1999）[26]、Marche（1999）[27]、Poole 等（2001）[28]是该类中被引次数最多的前三篇文献，三者均研究了儿童记忆的易受暗示性，Bruck 等（1999）[26]综述了该领域的研究成果，指出儿童的易受暗示性存在年龄差异和个体差异，同时，采访者偏见、刻板印象、提问方式不妥等因素都会造成儿童做出错误的记忆报告；Marche（1999）[27]研究了原始信息和误导信息强度如何影响学龄前儿童的记忆，认为二者的相对强度会影响儿童的记忆；Poole 等（2001）[28]则研究了源自父母的误导性信息对儿童产生的影响。

3 号聚类“Memory conformity（记忆从众）”是第四个形成的聚类，这一时期，misinformation的社会性得到了人们的关注，记忆从众正是人们在社交活动后发生错误记忆的现象。Loftus（2005）[29]、Gabbert 等（2004）[13]、Roediger 等（2001）[30]是该类中被引次数最多的前三篇文献，三篇文献均涉及misinformation 的社会性研究。其中，Loftus（2005）[29]综述了误导信息效应在神经生物学方面的进展，指出与别人交谈、受到暗示或看到带有偏见的媒体报道等都会使人产生错误的记忆；Gabbert 等（2004）[13]研究了社会来源与非社会来源的misinformation 对人记忆的影响，发现社会来源的misinformation 危害更大；Roediger 等（2001）[30]研究了错误记忆的社会传染性，通过实验证明了社会传染效应的存在。

4 号聚类“Eyewitness memory（目击者记忆）”是最后一个形成的聚类，这一时期misinformation领域的研究数量快速增长，研究方向也更加丰富，如政治上的事实误解、misinformation 的网络传播等研究主题纷纷出现。需要注意的是，这一聚类的标签“Eyewitness memory”似乎无法代表所有的研究，只能说明该聚类文献的某些性质，因为目击者记忆仅是关于misinformation 研究的方向之一。Lewandowsky 等（2012）[7]、Vosoughi等（2018）[8]、Nyhan 等（2010）[11]是该类中被引次数最多的前三篇文献，但三者的研究方向均不相同，Lewandowsky 等（2012）[7]研究了misinformation 的来 源和社会机制；Vosoughi 等（2018）[8]研究了misinformation 在网络上的传播特征；而Nyhan 等（2010）[11]则研究了政治上的事实误解存在的原因。研究主题和方向的增加不仅说明了misinformation 领域研究的进一步发展，也体现了由于多学科加入所产生的研究多样性。

综上能够发现，关于misinformation 的研究最早产生于心理学领域，2000年以前，关于misinformation 的研究主要是围绕事件后误导信息效应展开的；此后，随着研究的不断发展和多学科的加入，misinformation 的社会性得到了更高的关注，不仅研究主题更注重探索社会产生和传播机制，研究方向也不断拓展至社会各个领域。通过总结四个聚类中高被引文献的研究内容，依然可以将其划分为“事件后误导信息对人记忆的更改”（0 号、1 号、2 号聚类）；“misinformation 的社会产生机制”（3 号聚类）；“misinformation 在网络上的传播情况”和“政治方面的事实误解”（4 号聚类）这四类。

可以看出，如果将misinformation 自产生到消亡定为一个生命周期，这四类文献的研究内容则正好可以对应misinformation 的产生、传播和更正三个阶段，即misinformation 的来源，misinformation 的传播和misinformation 传播后带来的影响。为了证明这四个类别能够代表国外misinformation 研究领域主要的关注点，本研究使用VOSviewer 软件绘制了研究对象总体的关键词共现图进行验证。VOSviewer 是一款重视图形展示的可视化软件，其基于共现矩阵构造文献计量可视化视图，使用VOS 聚类算法对具有高一致性的项目进行聚类，具有节点可过滤、标签重叠少、图像细节可调整等优点[31]。

具体操作过程如下：分析单元选择“All keywords”，标准化方法选择“Association strength”，阈值设定为至少出现10 次的关键词，共有346 个关键词满足条件，选择聚类视图，节点大小代表出现次数的多少，结果见图5。

图5 研究对象总体的关键词共现图

如图5所示，不同的颜色代表不同的聚类，可以看到，蓝色一簇包括了如social media、online、fake news、rumor 等词汇，倾向于网络虚假信息相关内容；而红色一簇包括了如policy、decision-making、beliefs 等词汇，与政治内容相关；处于右侧的绿色和黄色两簇则包括了如false memory、suggestibility、eyewitness、memory conformity 等词汇，明显更贴近misinformation 对原始记忆的修改、人的信息接收行为等方面内容。可以看到，图中四类与文献共被引所选文献划分出的四类基本相对应，说明这四个类别能够代表misinformation 研究领域主要关注的主题。

5 国外关于misinformation 研究的发展脉络

如前文所述，按照每年出版文献的数量，可以将国外关于misinformation 的研究划分为三个阶段：即1912-1990年；1991-2009年；2010-2019年。在此基础上，本研究将使用主路径分析法，通过分别绘制三个阶段的研究主路径，来分析每个阶段研究的发展脉络。此外，使用文献共被引分析法筛选的文献与使用主路径分析法筛选的文献可能存在重复的情况，这种情况说明这篇文献不仅作为领域的核心文献，代表了该研究领域的知识基础，而且在引文网络中也具有很高的连通性，在知识传播中具有重要意义。

主路径分析使用了HiteCite 和Pajek 两个软件，HiteCite 是一款文献可视化分析软件，通过导入web of science 文献数据，可以快速绘制出文献的引文编年图，而pajek 可以使用HiteCite导出的文件绘制主路径分析图。需要指出的是，LCS 值和GCS 值是HiteCite 用于作图的两个重要指标，其中，LCS(Local Citation Score)指的是本地引用数，而GCS(Global Citation Score)指的是总体引用数，本研究使用LCS 值进行作图。

具体操作如下：首先，使用HiteCite 软件分别绘制三个阶段和整个时期出版文献的引文编年图，每次均选择LCS 值排名前30 位的文献进行分析作图，这一步的目的在于通过HiteCite 选出对每个阶段和整个时期而言最重要的30 篇文献。其次，将HiteCite 处理过的文献数据导入Pajek 软件进行主路径分析，本研究在分别绘制三个阶段的主路径时，选择的是SPC 局部主路径(Local Main Path)的方法；而在绘制整个时期的主路径时，选择的是SPC 全局主路径(Global Main Path)方法，并进行了网络简化(shrink network)。

5.1 第一阶段的misinformation 研究发展脉络

首先，有必要对该阶段的背景进行简要说明。国外心理学是最早开始对人类行为进行研究的学科，并开创了关注人类学习、理解和加工信息过程的一个分支——认知心理学。二十世纪初，人的概率匹配行为(probability matching，即一种非理性的决策行为)成为了认知心理学研究的重点，学者们致力于探索各种情况下概率匹配行为的出现，企图找到使人们突破概率匹配做出最优决策的方法，错误信息反馈(MF，Misinformative Feedback)正是其中的一种情况。错误信息反馈指的是在概率学习实验中，有意告知被试者错误的信息，并观察他们在概率学习中的概率匹配行为的情况。相关研究如Morin(1955)[32]研究了存在错误信息反馈的情况下影响人们学习率和学习范围的因素，发现在收到错误信息反馈后，被试者依旧出现了概率匹配行为，并指出被试者能否超越概率匹配做出最优决策与其对所给任务的概念化有关。

基于以上背景，本研究使用pajek 绘制1912-1990年的主路径，得到图6。图中每个节点代表一篇文献，节点旁的数字为文献的编号，而节点间的箭头指向表示引用关系，文献及其编号如表4所示。

表4 第一阶段（1912-1990）选出的文献

如图6所示，这一阶段的主路径由4 个节点组成，结构较为简单。其中，10 号文献是时间最早的一篇文献，Pishkin(1960)[33]研究了错误信息反馈出现的概率和概念识别中无关维度数的影响，概念识别(Concept Identification )是人的学习行为的一种表现，是指人们根据事物的特性确定它是否属于某个概念的过程[34]。这篇文章的研究发现，概念识别的效率是错误信息反馈的递减函数，无关维度数越多任务难度越大，但是忽略反馈则会显著地降低个体性能；研究还发现，错误信息反馈的效果取决于任务复杂程度，即给被试者的任务越复杂，错误信息反馈对概念识别的干扰就越大。13 号文献[35]是同一作者在10 号文献的基础上所做的进一步研究，它进一步研究了错误信息反馈的分布(MFD,Misinformation Feedback Distribution)对被试者表现的影响，发现在任务复杂度相同的情况下，更有规律的错误信息反馈分布能得到被试者更好的表现结果。11号文献[36]的观点与13 号文献相同，即错误信息反馈分布得越均匀，对人的学习产生的阻碍就越小。14 号文献在13 号、10 号和11 号文献的基础上，研究了可能影响概念识别学习的另一个因素——焦虑，Wolfgang 等(1962)[37]调查了被试者的焦虑程度，发现当增加任务复杂度和错误信息反馈出现概率时，高焦虑者并未表现得比低焦虑者更差，相反，高焦虑者总体上犯的错误更少，由此得出了焦虑对概念学习并无影响的结论。

图6 第一阶段（1912-1990年）的主路径

通过第一阶段国外关于misinformation 研究的主路径分析可知，从整体上看，这一阶段是国外关于misinformation 的研究的初期，文献数量较少，研究间的联系也比较稀疏，故主路径中选出的节点很少。从主题上看，这一阶段的文献主要以研究人的概率匹配行为为主，错误信息反馈是影响人们概念学习的重要因素，而主要的研究成果是MF 将抑制人的学习效率。而从misinformation 的生命周期来看，这一阶段的文献研究的是misinformation 的产生阶段的问题，代表性的问题为：人在怎样的情况下更易接受misinformation 或misinformation 在怎样的情况下更易对人产生干扰。

5.2 第二阶段的misinformation 研究发展脉络

二十世纪七十年代，人们注意到目击者的记忆可能会由于事件后误导信息的影响而发生变化，表现为无法正确回忆起原始事件，这种情况被称为追溯性干扰(RI，Retroactive Interference)。1975年Loftus 在研究中做了一个著名的实验[38]，她使被试者观看关于某个事件的录像(如交通事故)，然后提出具有引导性的问题(如场景中是否存在某个对象)，让被试者进行报告，结果证明被试者的记忆受到引导性信息的影响发生了改变，这种现象称为事件后误导信息效应(PME，Postevent Misinformation Effect)，此后，探讨目击者记忆的改变过程和原因的理论和实验研究开始大量出现。关于误导信息效应产生的原因主要有三种观点：一种是替代假说，认为事件后信息替代了原始信息，这种假设的典型代表是记忆障碍理论(memory impairment)；另一种是共存假说，认为二者在记忆中同时存在，但可达性可能不同；第三种是错误归因假说，认为误导信息效应产生的原因是无法区分初始信息和事件后误导信息的来源。

基于以上背景，使用pajek 绘制1991-2009年的主路径见图7，文献及其编号如表5所示。

表5 第二阶段（1991-2009）选出的文献

图7 第二阶段（1991-2009年）的主路径

如图7所示，这一阶段的主路径由12 个节点组成，第一个节点为10 号文献，Bonto 等(1991)[39]研究了变化的环境对追溯性干扰现象产生的影响，发现操作原始和事后误导信息出现的环境对被试者没有影响；第二个节点是34 号文献，Belli 等(1992)[40]研究了延时间隔对记忆的影响，该研究在短延时间隔条件下未发现误导信息效应，而在长延时间隔下发现了记忆障碍现象，由此得出长延时间隔能促使原始记忆信息发生遗忘，从而更易受到误导信息的影响的结论。值得一提的是，34 号引用了10 号文献，但并非肯定其观点，相反，该研究指出包括10 号文献在内的一些早期研究存在缺陷，认为其之所以没有检测到记忆障碍现象是因为没有使用长延时间隔进行实验的缘故；第三个节点是86 号文献，Belli 等(1994)[41]在10 号和34 号文献的基础上，研究了记忆障碍能否在短延时效应的情况下发生，文章通过4 个实验证实了记忆障碍和错误归因现象的存在；在此基础上，105 号文献中，Payne 等(1994)[42]研究了目击者记忆中误导信息效应产生的量级和识别能力水平的关系，证明误导信息效应产生的量级与识别能力水平相关；156 号文献在105 号文献的基础上，Roediger等(1996)[43]探究了回忆过程中出现的误导信息效应，研究发现回忆过程中误导信息效应大量出现，即对信息的重复检索会导致错误记忆的发生；226 号文献同时引用了105 号文献和156 号文献，Ayers 等(1998)[44]综述了20年以来对误导信息效应的不同理论解释，并提出了一种基于激活记忆模型的理论框架；324 号文献在226 号文献的基础上研究了共同目击者的记忆从众现象(memory conformity)，Wright 等(2000)[45]通过两个实验证明了共同目击者在对原始事件进行讨论后会发生记忆失真——原本的记忆受到其他人影响而改变；496 号文献作为下一个节点，Gabbert 等(2003)[15]研究了记忆从众与年龄的关系，研究发现老年人比年轻人记忆力更差，但并未呈现出更易发生记忆从众现象的趋势，同时，该研究认为记忆从众现象是一种“社会过程”，是人们追求“规范性”和“信息性”的结果；564 号文献与使用共被引分析法筛选出的7 号文献重复，Gabbert 等（2004）[13]研究了目击者的初始记忆受到错误的事后信息的影响而发生改变的现象，发现社交来源的错误信息比非社交来源的错误信息误导性更强；615 号文献在564 号文献的基础上，Echterhoff 等(2005)[46]研究了事件后警告的作用效果，最终证明事件后误导信息产生的影响可以通过警告解决；而620 号文献则同样研究了共同目击现象，Wright 等(2005)[47]发现与记得的事物相比，人们对于不记得的事物更倾向于相信别人的记忆；本阶段的最后一个节点是673 号文献，Gabbert 等(2006)[48]研究了与564、620 号相同的共同目击者的记忆从众问题，研究发现共同讨论过程中第一个发言的目击者将对其他目击者的观点产生重要影响。

通过第二阶段国外关于misinformation 研究的主路径分析可知，这一阶段的重点研究对象为误导信息效应，文献相比第一个阶段数量更多且相互联系更为复杂。以324 号文献作为分界点，主路径的前半段主要关注的是误导信息效应产生的原因，后半段则重点关注目击者的记忆从众问题，这一演变的过程值得关注。另外，虽然这一时期的研究都证明了误导信息效应的存在，但对其产生的原因则存在争议，不同的测试方法能否检测这一效应也存在着不同的研究结论。从misinformation 的生命周期来看，这一阶段的文献研究的是misinformation 传播阶段的问题，误导信息效应和记忆从众都是人在接收错误信息后产生的现象，代表性的问题为：misinformation 的传播方式、misinformation 能否对人产生误导以及人们在什么情况下会接收misinformation。

5.3 第三阶段的misinformation 研究发展脉络

二十一世纪，随着Web2.0 时代的到来，互联网的发展达到高峰。各大社交媒体网站如Facebook、twitter、Tumblr 等相继出现并得到了快速的发展，成为了用户接收和传播信息最快速的渠道。然而，信源的扩张和社交媒体特有的信息传输机制同时为大量misinformation 的产生和传播创造了条件，给社会造成了恶劣的影响。在与虚假言论、不实新闻对抗的过程中，研究者们发现misinformation 具有持续的影响效应(CIE，Continued Influence Effect),即在misinformation 被撤回或纠正后，依然对人的记忆和行为产生持续影响。如国外的“疫苗接种与儿童自闭症相关理论”曾使大批父母拒绝给孩子接种疫苗，造成了患病率的大幅上升，在卫生部门公告澄清后，其影响也没有消除。因此，人的信息接收和接受行为，包括人们会相信什么样的虚假信息、在什么情况下会分享这些信息，以及如何有效地消除misinformation 带来的影响成为这一阶段研究的热点。

基于以上背景，使用pajek 绘制2010-2019年的主路径见图8，文献及其编号如表6所示。此处出现了4 篇文献与共被引网络中的文献重复的情况，说明这4 篇文献不仅在引文网络中具有高连通性，同时也是该领域的高被引文献。

图8 第三阶段（2010-2019年）的主路径

表6 第三阶段（2010-2019）选出的文献

390(重复)Misinformation and Its Correction:Continued Influence and Successful Debiasing Lewandowsky 等[7]587 Do people keep believing because they want to? Preexisting attitudes and the continued influence of misinformation Ecker 等[51]614 Effective Messages in Vaccine Promotion:A Randomized Trial Nyhan 等[53]816(重复)In Related News,That Was Wrong:The Correction of Misinformation Through Related Stories Functionality in Social Media Bode 等[18]820 Emotions,Partisanship,and Misperceptions:How Anger and Anxiety Moderate the Effect of Partisan Bias on Susceptibility to Political Misinformation Weeks[52]913 Belief Echoes:The Persistent Effects of Corrected Misinformation Thorson[54]1142 The Nature and Origins of Misperceptions:Understanding False and Unsupported Beliefs about Politics Flynn 等[2]1205 Reminders and Repetition of Misinformation:Helping or Hindering its Retraction? Ecker 等[55]1305(重复)Beyond Misinformation:Understanding and coping with the post-truth era Lewandowsky 等[14]

如图8所示，这一阶段的主路径由12 个节点组成,开头由107 和156 号两个节点共同组成，107 号文献与共被引分析的5 号文献重复，Nyhan 等（2010）[11]研究了政治上的misinformation(即事实误解)存在的原因，并通过3 个实验证明了人们对更正信息的反应与其政治意识形态有关；156 号文献中，Ecker 等(2010)[49]研究了警告能否消除misinformation 带来的持续影响，他们发现，向接受了misinformation 的被试者提供普通的警告收效甚微，但提供说明性的特定警告和合理的替代解释却能有效减少他们对misinformation 的依赖；在此基础上，212 号文献[50]进一步研究了misinformation 的编码强度和更正力度大小对持续影响效应的影响，研究通过两个实验证明misinformation 更强的编码会导致更强的持续影响效应，而更强的持续影响效应则需要通过力度更强的更正措施来解决；第四个节点390 号文献同时引用了前三个节点，该文献与共被引分析的1 号文献重复[7]，不再赘述。

如图可知，接下来的614 号文献和587 号文献构成了主路径的两个相互关联分支的开端，587 号文献中，Ecker 等(2014)[51]研究了人们预先存在的态度与misinformation 的持续影响效应间的关系，发现人们预先的态度决定了他们对信息的依赖，特别是当信息与他们原来的观点一致时更是如此；820 号文献在587 号文献的基础上，Weeks(2015)[52]发现愤怒和焦虑两种负面情绪能影响人们对政治上误导信息的反应，并认为政治上的误解是党派关系、情感、政党认同和信息环境等因素共同作用的结果；614 号文献则是一篇针对疫苗接种的调查研究，Nyhan 等(2014)[53]通过调查在美国居住的1 759 名父母的态度检测了公共卫生部门提供的旨在降低“疫苗接种于自闭症有关”误解的信息的有效性，研究结果表明这些信息是无效的，不仅如此，对某些父母来说这些信息甚至增加了他们的误解；816 号文献引用了614 号文献，这篇文献与文献共被引分析的12号文献重复，Bode 等(2015)[18]研究了Facebook从2014年开始提供的“Related story”功能在多大程度上减少了人们的信息误解；1 142 号文献在816 号与820 号文献的基础上继续研究了政治误解的产生问题，Flynn 等(2017)[2]发现人们在判断信息真伪时受到定向推理动机（directional motivated reasoning)的影响，更倾向于相信与他们先前拥有的知识相符的信息以及他们本身想要相信的信息；913 号文献在614 号和587 号文献的基础上，Thorson(2016)[54]研究了政治上虚假信息的持续影响效应——“信念回声”(belief echoes)，该实验研究表明，跨越党派的界限可能产生情感信念回声，而当虚假信息强化了人们预先存在的政治观点时则可能产生认知信念回声；1 205 号文献在913 号和587 号文献的基础上，Ecker 等(2017)[55]对提示或重复虚假信息的更正信息是否更正效果更差这一问题进行了研究，发现并非如此，相反，结果显示明显重复虚假信息的更正信息更加有效；1 305 号文献引用了1 205号和614 号文献，这篇文献与共被引分析中的8号文献[14]重复，Lewandowsky 等(2017)研究分析了后真相时代(post-truth era)产生的原因和特征，以及misinformation 是如何给社会造成影响的、人们对关于misinformation 的更正信息会给予怎样的反应等问题，最终给出了最有效的澄清方法。

总结这一阶段的研究可知，这一阶段的研究重点有两个:一是misinformation 的持续影响效应产生的原因，为什么misinformation 在被更正后仍对人们的判断产生影响，研究发现人们原本的态度是一个重要的影响因素；二是如何有效消除这种持续影响效应，怎样地更正信息更有效，主要的发现是提供一个替代解释并告知人们持续影响效应的存在是最有效的更正方式。通过分析可以看出，相比于第二阶段，第三个阶段的主路径更加复杂。而从misinformation 的生命周期来看，这一阶段的文献研究的是misinformation 更正阶段的问题，代表性的问题为：misinformation会带来怎样的影响和misinformation 应该如何澄清。

5.4 整个时期的misinformation 研究发展脉络

使用pajek 选择SPC 全局主路径(Global Main Path)方法绘制整个时期的主路径，并进行了网络简化，结果见图9，文献及其编号如表7所示。

图9 整个时期（1912-2019年）的主路径

表7 整个时期（1912-2019年）选出的文献

如图9所示，整个时期的主路径由15 个节点组成。经过分析，15 个节点中有13 个节点表示的文献与以上三个阶段的主路径分析及文献共被引分析所涉及的文献重复，故不再叙述。全局主路径中新增的两个节点是156 号和157 号文献，位于图9中第一和第二的位置，156 号文献中，Belli(1989)[21]研究了事件后误导信息产生的两种不同的影响:误导信息的干预(Interference)和接受(Acceptance)，最终发现两种影响都存在。157 号文献则在156 号文献的基础上继续研究了事件后误导信息，Loftus 等(1989)[22]认为误导信息的接受是导致被试者做出错误报告的原因之一。

为了证明以上三个阶段的主路径分析中，文献研究主题的演变代表了国外关于misinformation 研究的发展情况，本研究使用VOSviewer 软件绘制了研究对象总体的文献耦合图进行验证。具体操作过程为：将阈值设定为有4 篇以上引文的文献，共有1 727 篇文献符合条件，计算这些文献与其他文献的文献耦合链接的总强度（total links strength），标准化方法选择“association strength”，选择具有最大链接强度的前300 篇文献进行作图，结果见图10，圆圈大小表示引文数量的多少。

图10 研究对象总体的文献耦合图

通过对图10中的文献进行主题识别可知，红色的簇研究主题为记忆的可塑性，包括misinformation 对记忆的篡改、错误记忆的产生等；黄色的簇研究主题为儿童目击者问题，即误导信息效应在儿童身上的表现；蓝色的簇关注的是记忆从众现象、目击者如何在讨论过程中传播misinformation；绿色的簇主要研究为misinformation 的持续影响、从神经心理学的角度分析误导信息效应等。由于这四个簇的研究主题涵盖了三个阶段重要文献所有的研究主题，也可对应misinformation 生命周期中的产生、传播和更正三个阶段，说明主路径分析所筛选的文献具有代表性。

6 基于内容分析法的研究框架分析

综上所述，本研究选择文献共被引分析选出的前13 篇高被引文献和主路径分析选出的25篇文献(去重)总共38 篇文献作为研究样本进行内容分析，内容分析类目设置研究机构和研究内容两个维度，分析单元为独立的文献。研究内容维度为本文分析的重点，分为研究主题、研究领域、研究类型、研究数据来源、misinformation传播的方式、研究解决的问题六个类目。

6.1 研究机构分析

对样本文献的第一作者所在机构进行统计，前15 位统计结果见表8。

表8 文献第一作者所在机构及载文量统计前15 位

样本所涉及的研究机构共有26 个，如表8所示，西澳大学是载文量最多的机构，载文量5篇；阿伯丁大学排在第二位，载文量3 篇；达特茅斯学院、纽约州立大学、布里斯托大学、密西根大学以及退伍军人医院并列排名第三，载文量2篇。可以看到，高校是主要的研究机构类型，其中西澳大学对misinformation 进行的研究最多，同时，大多数研究机构的载文量只有一篇，说明研究成果较为分散。

6.2 研究内容分析

根据类目设计，将研究内容这一维度设计为研究主题、研究领域、研究类型、研究数据来源、misinformation 传播的方式、研究解决的问题六类，对研究样本文献进行编码和统计，结果见表9。

表9 内容分析类目及编码

6.2.1 信度检验

本研究由两位评判员对样本进行评判，每个评判员对38 篇样本文献进行编码，按照霍斯提信度公式，信度R=（n×k）/[1+(n-1)×k]，n 为编码员数，编码员信度K=2M/（N1+N2），N1 为第一评判者对文献进行编码的数目，N2 为第二评判者对文献进行编码的数目，M 为二者一致的编码数目。经过计算K=2×32/(38+38)=0.842,R=(2×0.842)/[1+(2-1)×0.842]=0.914。因为R>0.9,则按照经验，可以把主评判员的评判结果作为内容分析结果。

6.2.2 结果分析

通过表9可知，从研究主题和研究解决的问题两个类目上看，研究“misinformation 对记忆的更改”和“misinformation 的持续影响及更正”的文献数量最多，分别占了总体的42.1%和34.2%，这与研究所解决问题类目中排名前两位的误导信息效应和持续影响效应是一致的，主要对应了misinformation 的传播和更正两个阶段，也说明国外关于misinformation 的研究中误导信息和虚假信息是两个主要的研究方向。误导信息是指事件后误导性的信息，它能对人的初始记忆产生影响，相关研究包括误导信息产生的原因和条件，各种因素对误导信息效应产生的影响等；而虚假信息则是错误的信息，一旦被人所接受并相信，其影响将很难消除，这一问题的研究有两个方向:一个方向是向前的，即研究人们为什么会相信虚假信息，通过文献可以看到，这不仅与人的信息接收和接受行为及心理有关，如选择性接触(selective exposure)，也与传播媒介的信息传播机制有关，比如回声室效应(echo chamber)；另一个方向是向后的，即研究如何纠正人们错误的认识、消除虚假信息对人的影响，但从文献的研究成果来看，尚未找到能完全消除这种影响的方法。排名后两位的研究主题是“misinformation 的传播”和“错误信息反馈对人类学习的影响”，分别占总体的13.1%和10.5%，同样分别对应了研究的解决问题类目中的F3 和F4。其中，“misinformation 的传播”主要研究了虚假新闻、谣言等在互联网社交媒体中的传播规律，虚假信息与真实信息的不同之处是关注的重点；而“错误信息反馈对人类学习的影响”则比较特殊，这一主题中人类的学习行为才是研究对象，错误信息反馈则是用以观察学习行为的一种条件。

从研究领域来看，心理学领域的研究最多，占总体的71%，通过阅读文献，该领域主要关注人的信息行为和心理，且大多使用了心理学实验的研究方法，这也是研究类型和研究数据来源类目中“实验研究”和“实验所得数据”排名第一的原因；新闻传播和政治领域是另外两大研究领域，新闻传播主要关注虚假新闻的传播问题，而政治领域主要关注的是政治、政策上的事实误解问题。

从研究类型来看，实验研究最多，这是由于心理学文献多采取实验研究的方法，理论和综述类研究排名第二，数据分析类研究最少。从研究数据来源来看，主要有实验所得数据和网络数据两种数据来源。

从misinformation 的传播方式来看，现实传播和网络传播是两种主要的传播方式，互联网上各大社交媒体和新闻网站是目前信息传播最快的渠道，也是各类谣言、虚假新闻爆发的主要场所，除此之外，面对面的口头传播也是学者们关注的重点，如目击者讨论后发生的记忆从众问题。

从研究所关注的问题上来看，misinformation相关研究主要关注了误导信息效应、持续影响效应、传播问题和人的学习规律这四个方面的问题，这四个问题彼此之间又存在着联系，涵盖了misinformation 从产生到更正的整个生命周期。

6.3 国外misinformation 的研究框架

基于以上内容分析，本研究提出研究框架见图11。

图11 国外misinformation 的研究框架

该框架将misinformation 按其生命周期分为产生、传播和更正三个阶段，并梳理了每个阶段的研究重点。

“misinformation 传播前”即产生阶段，此时misinformation 处于刚刚出现的阶段，因此研究的主要目的为抑制其产生，防止其扩散。该阶段主要关注misinformation 的产生条件和基本特点，研究重点为适合misinformation 产生和传播的环境(包括人的因素和社会环境两个方面)和misinformation 的产生源。

“misinformation 传播中”即传播阶段，此时misinformation 已经在一定范围内传播且呈现出一定的规模，因此需要及时处理传播源，禁止其进一步扩散。该阶段主要关注misinformation 的传播特点、过程和规律，研究重点是misinformation从来源到接收的整个传播扩散过程。

“misinformation 传播后”即更正阶段，此时misinformation 已经产生了深刻的影响，必须及时更正和澄清，以尽可能减少其影响。该阶段主要关注misinformation 的更正策略，研究重点为misinformation 产生的影响和有效的更正措施。

7 结论

根据研究目标，本研究可以得到以下结论：首先，国外关于misinformation 的研究涵盖了misinformation 的整个生命周期，从misinformation的产生和传播方式到misinformation 的影响及更正措施均有所涉及。从知识基础上看，国外关于misinformation 的研究主题集中于“misinformation的社会产生来源、特征、影响及人的信息接收行为”、“事件后误导信息对目击者记忆的更改”、“misinformation 在网络上的传播”和“政治方面的事实误解”四类。其次，通过将国外关于misinformation 的研究划分为三个阶段，本文研究了国外关于misinformation 研究在各阶段的发展脉络，可以看到，第一阶段的文献数量较少，主要研究了misinformation 产生阶段的问题；第二阶段以关于误导信息效应的研究为主，研究了misinformation 传播阶段的问题；第三阶段重点研究了虚假信息的持续影响效应，即misinformation更正阶段的问题。最后，在计量分析的基础上，本研究对样本对象进行了内容分析，提出了一个关于misinformation 的研究框架，通过将misinformation 按其生命周期分为产生、传播和更正三个阶段，对每一阶段所能研究的问题进行了梳理。

总体上来说，国外关于misinformation 的研究经过长时间的积累，在研究数量、深度和社会应用性上都具有一定的优势，但是仍有不够完善的地方，如在misinformation 对记忆的更改问题上没有得到一致的结论、尚未研究出完全消除misinformation 持续影响效应的方法等。本文通过对国外关于misinformation 的研究进行梳理分析并提出研究框架，能够加强对国外misinformation研究的整体性理解和认识。但是需要明确的是，国外学者对于misinformation 的研究是基于国外特定社会环境的，我国学者应在有选择地吸收和借鉴国外研究长处的基础上，立足于我国实际情况，以解决现实问题为目标，继续进行具有本国特色和优势的misinformation 相关研究。