互联网发展新背景下的网络谣言发展及防控机制研究

仝 鑫,张长琳

(1.中国人民公安大学 信息网络安全学院，北京 100038;2.河南警察学院，河南 郑州 450046))

随着5G、大数据与人工智能等新技术、新业务和新生态的发展，我国的社会经济形态和人民的生产生活方式不断发生变革。移动互联网使世界变得更“小”，大数据使社会服务变得更精确，以机器学习和深度学习为核心的人工智能算法使我们的生活变得更智慧。在这种背景下，各类智能化社交网络及新媒体平台逐渐成为人们获取信息、表达情感和沟通交流的主要途径。但与此同时，这些新兴互联网技术和社交媒体也成为网络谣言滋生和迅速传播的温床。尽管相关政策法律不断完善，我国有关部门针对网络谣言展开了持续有效的治理行动，但仍面临着诸多挑战。一方面，谣言的源头变得更加智能化和多样化，利用各类人工智能和信息技术手段能够轻松生成看似真实可信的文本、语音甚至是视频类型的谣言；另一方面，谣言的传播更是呈现出高速化、广泛化和渠道复杂化的特点，微信、微博、短视频以及各类自媒体平台等成为谣言传播的“重灾区”，给公共安全和社会长治久安带来了新的挑战。

以新型冠状病毒性肺炎疫情期间的谣言统计数据为例，受封闭式管控的影响，公众的信息接收和鉴别渠道受限，各类高度不确定的消息加剧了网络谣言的产生和传播。根据南都大数据研究院的调研，仅2020年1月20日到3月底，被证伪的谣言就有2498条，日均辟谣67条。而实际传播的谣言总数还将超过这个数值。并且在这些网络谣言中，与各地防控措施、国内疫情现状、预防和治疗办法三个方面相关的谣言合计约占70%[1]，不仅加重了公众的心理焦虑状况，同时也对疫情的防控和社会稳定带来了诸多负面影响。

因此，亟待对互联网发展新背景下网络谣言的产生方式、信息载体和传播途径进行分析，并探索有针对性的法律和技术防谣措施，这对于维护网络空间环境和公共安全具有重要意义。

一、网络谣言的新特征

根据百度百科的定义，网络谣言是指通过网络介质(例如微博、国外网站、网络论坛、社交网站、聊天软件等)而传播的没有事实依据且带有攻击性、目的性的话语[2]。然而随着各类新兴信息网络技术和社交媒体的发展，网络谣言的形式也不仅限于“话语”，而是有了更丰富的内涵和变化。

(一)多样化的网络谣言载体

网络谣言的载体变得更加智能化和多样化。几年前，恐怕很少有人会质疑“耳听为虚，眼见为实”这句话。但近几年随着人工智能技术的不断发展，尤其是深度伪造(Deepfakes)技术的诞生，让生成看似高度“可信”的图片[3]、视频和语音[4]等多媒体类型的网络谣言成为可能，也让我们的耳朵和眼睛变得不再可靠。深度伪造是深度学习(Deep Learning)和伪造(Fake)的合成词，指利用深度学习技术实现修改或生成音视频等多媒体文件并达到以假乱真程度的一种技术。近两年，深度伪造被恶意应用于伪造政府发言人讲话和伪造公众人物煽动舆论的情况时有发生。在2019年，利用深度伪造技术生成的有关美国前总统特朗普和众议院议长南希·佩洛西以及知名社交软件Facebook首席执行官马克·扎克伯格的伪造视频一度在互联网上疯传，这些视频中的人无论是相貌，还是声音都与真人几乎一致。这些伪造人像甚至会使用丰富的面部表情和肢体语言来配合表达自己的思想，令人难辨真假。相较于传统基于文字的网络谣言，这种看得见、听得见的新型谣言更加令人防不胜防。更令人担忧的是，随着该技术的不断发展和成熟，诸如ZAO、FakeApp等基于深度伪造的应用软件也逐渐普及，使得不了解背后技术原理的普通人也能轻松生成和传播这些多媒体谣言。这不仅严重侵犯受害者的肖像权、名誉权，更有可能影响到政府公信力与社会的安全稳定，最终可能会导致严重的政治风险并直接威胁到国家安全。

(二)智能化的网络谣言生成技术

新兴信息网络技术使得网络谣言更容易编写和更具欺骗性。一直以来，人工撰写的谣言无论是篇幅、用词还是行文风格上都与真实新闻存在较大差异，很容易被读者辨识。近年来，利用基于神经网络算法的自然语言处理模型生成各类虚假新闻也逐渐成为可能。这些模型不仅使用简单，而且生成谣言的质量也高于大多数人为编写的谣言。以著名的自然语言处理模型GPT-2[5]为例，它包含15亿的网络参数并拥有强大的数据储藏能力，这使得它能更好地理解掌握写作文风、笔法和意图。用户只需要为它提供只言片语或者小段的文字，之后GPT-2就会根据自己的判断，决定接下来应该如何写作，最终生成高质量的小说、发言稿和虚假新闻。与其他类似功能的程序相比，GPT-2 表现得更像真人，几乎不会出现语法错误和逻辑不通等瑕疵。这使得谣言的发布者能够利用这类模型在几乎不投入精力的情况下生成“高质量”网络谣言。而GPT-2的发布者也承认该模型有被极端组织恶意应用于谣言传播等场景的可能，并因此推迟了相关发布时间。此外，还有一些人工智能算法被证明能够对谣言进行再加工[6]，以实现规避各类主流检测和审查工具的目的，加大了谣言审查工作的难度。

(三)复杂化的网络谣言传播渠道

移动互联网的普及和各类社交平台的发展，使得网络谣言的传播更具高速化、广泛化的特点，同时传播渠道也变得更加多样化和复杂化。根据我国互联网络信息中心发布的第47次《中国互联网络发展状况统计报告》，截至2020年12月，我国手机网民规模已达9.86亿，占全国网民总数的比重高达99.7%，即时通信工具、网络新闻和短视频用户规模分别达到了9.81亿、7.43亿和8.73亿[7]。微信、微博、短视频和头条新闻等社交和新媒体平台对人们日常生活的影响越来越大。和电话、报纸、电视等传统沟通方式和媒体传播方式相比，这些新兴社交媒体不仅具备快捷、大众化、互动性强的特点，还具有独特的平等性和隐匿性，打破了之前新闻消息传播者与受众之间的角色隔阂，使得每一个用户都有机会成为新闻的参与者和评论者，极大地促进了公民行使参政议政的权利。但是，正是受到这些社交媒体平台的虚拟性和隐蔽性特点的影响，导致用户可以在不负责任的情况下发布信息，进而提升了谣言产生和传播的概率。同时近两年流行的抖音、快手等短视频平台也成了网络谣言的传播渠道，相比微博等文本类型的谣言，这些多媒体谣言不仅形式结构复杂，而且数据量巨大，进一步提升了谣言识别工作的难度。

二、法律层面的谣言治理措施

(一)针对广义网络谣言的相关法律

针对网络谣言具有的欺骗性、传播性和破坏性等危害，为保护公民的合法权益和社会稳定，肃清网络环境，我国积极推动在立法层面对于网络谣言的打击。散布网络谣言需要承担相应的民事、行政或刑事责任。首先，对于散布网络谣言侵害公民的肖像权、名誉权等民事侵权行为，《民法典》第一千一百九十四条规定了网络侵权责任。其次，对于散布侮辱诽谤、疫情、警情、险情等扰乱公共秩序的谣言且不构成犯罪的，《治安管理处罚法》规定给予拘留、罚款等行政处罚。此外，我国《刑法》中规定了侮辱罪，诽谤罪，投放虚假危险物质罪，编造、故意传播虚假恐怖信息罪以及编造、故意传播虚假信息罪等，对于相关严重情况将给予包括有期徒刑、拘役、管制或者剥夺政治权利等在内的处罚。

(二)针对新型网络谣言的相关法律

由于人工智能等新兴信息网络技术被滥用于捏造和传播网络谣言，各国纷纷出台更具针对性的法律法规以应对挑战。在世界范围内，美国已公布了包括《禁止恶意深度伪造法案》《深度伪造责任法案》《德克萨斯州关于制作欺骗性视频意图影响选举结果的刑事犯罪法案》等一系列联邦或州级别的法案[8]，要求发布者对伪造音视频标注水印及文本描述，同时禁止相关技术被用于煽动暴力及干扰选举。欧洲也陆续出台了《通用数据保护条例》《反虚假信息行为准则》等法案来限制和打击包括深度伪造在内的新型网络谣言。此外，新加坡、韩国以及俄罗斯等国也相继通过了《防止网络虚假信息和网络操纵法案》等以补充现有法律法规的不足。

在国内，国家网信办于2019年发布了《数据安全管理办法(征求意见稿)》，并在其中规定 “网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息，应以明显方式标明‘合成’字样；不得以谋取利益或损害他人利益为目的自动合成信息”。后续出台的《网络音视频信息服务管理规定》和《网络信息内容生态治理规定》也明确禁止网络信息内容服务使用者和生产者利用深度伪造等人工智能技术发布和宣传网络谣言。

三、技术层面的谣言防控手段

“造谣一张嘴，辟谣跑断腿”。各类新型网络谣言的出现进一步加重了谣言检测和辟谣工作的负担，面对海量的社交媒体数据，依赖人工的传统谣言防控机制显得力不从心。因此，依托人工智能和互联网技术构建智能化、高效化的检测和辟谣技术成为网络谣言防控的新途径。

(一)网络谣言发现和检测技术

网络谣言的发现和检测是后续辟谣、处置工作的前提。在过去，自动化网络谣言检测技术主要是基于内容、关键字的方法，尽管这类方法能够在一定程度上减轻人工检测的工作量，但依旧存在着灵活性较差、规则库维护成本高等问题，漏报率和误报率较高，难以满足实战需求。近年来，机器学习及深度学习技术的发展使得更加智能化的网络谣言检测技术成为可能。

对于文本类型谣言，其文本长度、主题词和行文风格等特征与常规文本存在较大差异，一些诸如支持向量机[9]、朴素贝叶斯[10]等传统机器学习算法和以卷积神经网络[11]、循环神经网络[12]以及大规模预训练语言模型[13]为代表的深度学习模型已经被证明在网络谣言文本分类任务中具备媲美人工识别准确率的效果，在针对微博谣言检测数据集上的测试准确率能达到95%以上，并且速度远超人工检测方法。考虑到越来越多的用户使用图片来发微博，因此一条完整网络谣言可能包含了文本、图片等多种类型的数据。一些基于深度学习的多模态谣言检测方法被相继提出[14]，不仅能够同时对多类型的数据进行综合分析，进一步拓宽了应用场景，而且识别效果优于单一模态的谣言检测方法，更具有实用价值。

对于伪造音视频类型的谣言，一系列基于人工智能的解决方案也被证明具备有效性。在清华大学、阿里巴巴和Facebook等国内外的高校及互联网企业举办的深度伪造检测挑战赛中，各种基于深度学习的方法百花齐放，并且这些方法能够精准地检测到伪造视频内人物的眼睛、牙齿以及发声口型等人类感官难以分辨的细节异常，为伪造音视频谣言的检测提供了新思路和新技术[15]。同时，不断扩充的伪造多媒体公开数据集也为训练相关模型算法提供了必要的数据支撑，使得训练更加大型化和复杂化的深层神经网络以不断提升检测效果成为可能。

此外，以图神经网络为代表的智能化数据分析方法被广泛应用于针对网络谣言的用户特征、发布和转发流量等方面的研究[16]，对谣言的传播趋势分析及溯源工作具有重要意义。

(二)网络谣言举报和辟谣机制

在发现谣言后，如何及时辟谣是后续工作的核心。有关部门和互联网企业采取多种平台、多种方式对网络谣言进行围追堵截。中央网信办违法和不良信息举报中心联合新华网等平台成立了集谣言举报、辟谣查询等功能于一体的中国互联网联合辟谣平台[17]，用权威的声音来第一时间遏制谣言的发展和传播。同时，各个社交媒体平台也积极推动网络谣言处置工作。针对QQ、微信等谣言传播渠道，腾讯公司推出了微信辟谣助手，能够实时查询和推送辟谣咨询。新浪同样成立了“微博辟谣官方账号”，对网络谣言进行全天候监控并及时响应，力求将谣言的影响降低到最小。此外，各个政府有关部门也在微信公众号、新浪微博以及抖音等平台注册专门的辟谣官方账号，不断拓宽网络谣言举报和辟谣渠道，提升谣言处置的工作效率。

四、结语

在互联网发展新背景下，各类社交平台和新媒体已经成为公民信息交流的主要平台。但随之而来的“信息污染”和“谣言泛滥”问题成为制约社交媒体发展的主要瓶颈之一。与此同时，受各类新兴信息网络技术的影响，网络谣言的信息载体、产生方式和传播途径都发生了深刻地变化，使得网络谣言能够在编造成本不断降低的前提下具有更强的欺骗性和更快的传播速度，不仅严重影响了网络生态环境，降低了人们所获取信息的质量，同时还极易引发公众的恐慌和焦虑，并对社会稳定产生威胁。在这种形势下，进一步完善网络谣言相关的法律法规，不断引入前沿的智能化举报、识别、溯源和辟谣技术，保证“法律+技术”这张全方位的保护网始终与时俱进，对于打击网络谣言，净化网络环境，维护公共安全至关重要。