AI时代网络谣言传播问题及对策分析

摘要：随着人工智能技术的发展，AI工具被不法分子用于生成网络谣言。这些工具降低了造谣的成本和门槛，使谣言的批量生产和传播变得更加容易。互联网平台在为用户提供个性化信息推荐服务的同时，给网络谣言传播带来圈群化、形成“信息茧房”、加剧群体极化和价值异化等负面影响。面对AI时代网络谣言的传播，现有治理模式需要升级。文章分析网络谣言如何在AI时代传播，以及网络谣言传播呈现的新趋势，认为AI时代网络谣言传播门槛降低，且谣言传播更加复杂化、多元化。文章针对AI时代网络谣言治理提出多元共治建议，认为完善法律法规、加大对造谣者的处罚力度是治理AI谣言的重要手段。此外，提高公众的媒介素养和法律意识，以及多方组织和个体共同参与，也是有效应对AI谣言的关键。

关键词：AI时代；网络谣言；信息茧房；传播；对策

中图分类号：G206 文献标志码：A 文章编号：1674-8883（2024）19-0010-04

一、引言

谣言通常指的是未经证实或缺乏可靠来源，在公众中传播并可能引起恐慌、误解或其他社会影响的言论或报道[1]。网络谣言则是指通过互联网渠道传播的未经证实或缺乏可靠来源的信息，这些信息可能包含误导性或虚假内容。因此，网络谣言本质上就是谣言在网络上的传播。

网络信息时代，谣言的传播对网民更具冲击力，谣言铺天盖地。与一般谣言最大的不同在于，网络谣言的传播多以网络文字和多媒体为载体，传播媒介变成了网络平台。

二、AI时代网络谣言的新趋势

（一）传播技术发展降低谣言的传播门槛

与大众传播时代内容推动谣言发展有所不同，在人工智能背景下，网络谣言的传播更多依靠互联网技术。随着互联网技术的进步，依赖大数据推送已成为平台“靶向”定位客户的有效手段。平台通过分析用户的搜索和浏览记录，精确绘制用户画像，针对性地推送各种信息，包括虚假信息和谣言[2]。

同时，“沉默的螺旋”“群体效应”“信息茧房”等现象在人工智能技术迅速发展的背景下困扰着受众。在相对单一和重复的信息推送中，谣言的可信度提高，使受众容易陷入其中，并且深信不疑。例如，在“胖猫”事件中，一些网民为了博取流量，编造谣言，累计点赞达数千次，造成了恶劣的社会影响。

在谣言传播中，图片、视频等素材在智能剪辑、AI换脸、后期配音等技术的加持下显得愈发“真实”，令人难辨真假，凭借强大的视觉冲击力在互联网平台传播。普通受众往往难以鉴别这类网络谣言，这给了谣言制造者可乘之机，其凭借极具煽动性的语言生产与传播谣言，对社会秩序和个人权益造成巨大威胁。

AI时代，AI技术大幅降低了造谣的成本和门槛。利用AI技术能够快速高效地生产虚假信息，造谣者能够以极低的成本批量生产谣言，并迅速传播到各大网络平台[3]。AI软件可以通过提供关键字自动在网络上抓取相关信息，并结合热点新闻和随机音视频素材进行批量化生产。同时，为实现更大范围的传播，AI生成的谣言通常以视频形式呈现，这种形态契合了网民“有图有视频就有真相”的认知心理，使这些谣言一经上网就能迅速传播。

今日头条在2018年发布的《3·15今日头条资讯打假报告》对近3万名用户进行了调研。结果显示，认为网络谣言现象严重的受访者占比达55.72%，认为网络谣言对社会造成严重危害的受访者高达70.75%。在今日头条拦截到的各类谣言中，视频类谣言占比近一半，谣言发文时间与普通用户浏览信息高峰期重合，集中在21点至22点。今日头条采用技术与人工审核相结合的方式，以大幅提升抵御谣言的能力。通过技术手段，实现对谣言的精准打击，并确保权威的辟谣信息能够准确无误地推送给曾接触过谣言的用户[4]。

（二）谣言传播渠道复杂化、多元化

第53次《中国互联网络发展状况统计报告》显示，截至2023年12月，我国手机网民规模达10.91亿人，网民使用手机上网的比例为99.9%。同时，即时通信用户、网络视频用户规模分别为10.6亿、10.67亿人。人工智能背景下的谣言传播具备快捷、大众化、互动性强的特点，提高了用户的参与度。随着抖音、快手等互联网平台成为网络谣言的传播渠道，新媒体传播平台的传播形式更加复杂多样，传播内容更加丰富，对网络谣言治理提出了新的挑战[5]。

AI能够面向特定受众精准传播谣言，这不仅具有极强的迷惑性，而且传播范围更广[6]。社交媒体平台的兴起也让生产和传播谣言变得越来越容易，这些平台通过算法推荐，进一步提升了谣言的传播力和影响力。例如，在Twitter上，虚假新闻的传播速度是真实新闻的6倍，且被转发概率几乎高出70%。同时，在新媒体环境下，“网络水军”通过社交媒体等平台发布虚假视频和图片操纵公众舆论，导致“回声室效应”，即用户只看到与自己观点一致的信息，加剧了“信息茧房”的形成，从而促进了谣言的传播。

三、网络谣言治理可利用的人工智能资源

（一）互联网提供完善的网络谣言数据库

互联网时代，可以建立一体化的网络谣言数据库，利用人工智能算法程序对发布在网络上的信息进行筛查分析，迅速识别并拦截谣言，对谣言进行全方位的监控和处理[7]。同时在AI的支持下，利用算法程序对互联网上传播的信息进行监控，一经算法程序识别出谣言，便可立即拦截，这样可以最大限度减少谣言传播。

（二）“AI谣言粉碎机”对谣言精确进行监控和辟谣

“AI谣言粉碎机”依托大数据平台建立综合辟谣机制，通力协作，能够有效打击网络谣言。2019年，阿里巴巴发布的“AI谣言粉碎机”在特定场景中的准确率已经达到81%，利用AI技术有效遏制社交媒体和网络新闻中谣言的传播[8]。

面对海量的网络信息，“AI谣言粉碎机”能够精准识别信源，对用户资料进行深度剖析，作为判断信源是否可靠的重要依据。然后对信息内容进行判断，与权威信息比对，针对谣言文本特征进行精准辨别，判断内容的可信程度。同时，能够深入分析谣言的传播路径。谣言在传播的过程中会产生各种不同的观点，“AI谣言粉碎机”能够对所有态度进行权重分析，有效鉴别信息的真实性，快速拦截谣言。

（三）AI在信息公开和澄清谣言方面具有显著优势

传播学者克罗斯提出谣言传播的公式：谣言的传播=事件重要性×事件模糊性÷公众批判能力[9]。由此可知，谣言的传播影响力与公众对信息的判断能力密切相关。AI时代，克罗斯提出的谣言传播公式仍然适用。提高信息透明度，让公众最大限度接收信息，才能有效阻止谣言的传播。

AI技术能够在较短的时间内处理和分析大量数据，从而迅速识别和澄清谣言。同时，AI通过深度学习，可以对网络上复杂的信息进行精准分析和验证。

利用AI辟谣通常会邀请各领域的专家参与，提升辟谣内容的权威性和准确性。中国互联网联合辟谣平台推出的《澄清谬误、传递真相》系列访谈就涵盖了健康、医疗、经济、科技等多个领域，对常见谣言进行分析，帮助公众提高网络媒介素养，提升公众对网络信息的判断力，削弱网络谣言传播的影响力。

四、AI时代网络谣言传播治理途径

（一）发挥技术在网络谣言治理中的基础性作用

在构建媒体平台时，需在理念与姿态上坚守算法向善的原则，秉持社会主义核心价值观，并严格遵守相关法律法规[10]。同时，要不断创新发展谣言辨识工具，加大对社交媒体信息的监管力度。网络平台开发者扮演着算法推荐创造者的角色，也肩负着对平台信息的监管职责。目前，今日头条和抖音等头部媒体都在通过技术手段加强对网络谣言的监管。

网络运营商可以利用技术手段将网络谣言治理的关口前置，如采用敏感词筛选、AI信息验证技术和大数据分析方法等，建立完整的预警及监控系统。通过对潜在不实信息进行细致的检验和评估，可以有效遏制网络不实言论的扩散。

面对网络上纷繁复杂的谣言，平台应加强人工审核。面对高热度的网络谣言，应运用相关技术迅速定位信息的首发者，并由审核人员向其确认信息的真实性。

（二）发挥政府部门在网络谣言治理中的主导作用

政府部门应与其他主体合作，打通不同主体之间的壁垒，在治理中形成立体式、联合式、常态化的高效治理模式。政府部门要充分发挥主导作用。政府部门在治理谣言的过程中要采取多管齐下的综合管理方法，包括增强防范意识、及时回应、发挥预警职能等[11]。除此之外，政府部门还可以通过部署开展专项行动，依法打击网络谣言，净化网络环境。

强化政府部门对网络舆论的引导作用，提高对社交媒体和传播渠道职业操守的期望，确立一套完善的追踪源头机制，实现对在线平台的持续监管，以及对互联网上不实信息的即时介入和改正。政府部门还可以通过发布权威信息，利用行政渠道和市场化渠道等多种方式，将信息迅速传导至其他网络主流媒体平台，引导舆论方向。此外，要加大对网络谣言发布、传播的惩戒力度。

（三）完善惩治网络谣言的法律法规

当前，网络谣言的管控法治化进程持续推进。随着互联网不断发展，互联网用户增多，实行网络实名制在一定程度上维护了网络环境的和谐，能够监督自媒体用户文明上网。相关部门就网络平台的监管制定了严苛的标准[12]。

在我国，尚不存在专门针对谣言的独立法律法规。法律在判断网络谣言、确定谣言发起者以及适用法律条件方面存在不明确性。现有法律对网络谣言作出了一些原则性规定，但对造谣、传谣等违法行为的审判惩治未作详细规定。因此，要完善惩治网络谣言的法律法规，加大对造谣者的处罚力度。

（四）激发主流媒体平台的责任意识

主流媒体平台应增强责任意识，不能一味追求流量和商业利益而放松对内容的管理[13]。不仅要对自己生产的内容负责，还应承担起平台衍生内容的把关人职责。通过减少网络谣言的传播，提高媒体平台的公信力，牢牢掌握话语权。主流媒体肩负着传播主流意识形态、引领社会舆论的重要任务。要通过正确引导舆论，凝聚受众共识，净化网络环境。平台要加强自身管理，健全规章制度，完善运营规则，加强内容及资质审核管理，切实履行企业主体责任，严格管控涉低俗色情、标题党、炮制谣言等行为。

（五）发挥网民在网络平台的主体作用

赋权公众扮演关键角色，做到谣言止于智者，倡导网民在分享信息时积极肩负起责任，唤起个人参与的热情，通过多样化的途径阻止谣言扩散。网民是构成网络管理的核心要素，网民提高媒介素养，增强信息辨别能力和法律观念是遏制网络虚假信息滋生与传播的根本。考虑到网络受众对简洁、迅速、新颖的视觉内容的喜爱，推广活动应利用强烈的视觉效果，创作并传播能够揭露网络谣言和虚假信息的高质量内容。

提升公众判断力，形成不信谣、不传谣的社会共识。美国学者克拉帕在《大众传播效果》一书中提出了“受众选择理论”。选择性注意是指受众在选择信息时，更倾向于接收刺激性强、重复性高或与自身立场相符的内容[14]。媒体有时会通过使用夸张的标题来对事件进行片面描述，他们利用公众的好奇心理有意挑起争议，以此激发人们的情绪，并使他们轻易相信流言蜚语。在传播过程中，往往那些契合受众需求和兴趣的谣言会被有意识地记住，这对受众及传播内容都会产生不利影响[15]。因此，要提高网民媒介素养，增强对网络信息的辨别能力，以有效减缓网络谣言的扩散。

五、结语

AI在网络谣言治理方面具有明显的先天优势。AI时代，网络谣言的治理效率得到了显著提升。网络谣言的传播不仅会误导公众和破坏网络环境，还会对社会秩序和公共安全构成潜在威胁。网络谣言的治理更是一项系统工程，需要政府、技术提供者、平台运营者、法律制定者以及每一个网民的共同努力。只有构建一个多方参与、协同治理的网络环境，才能有效遏制网络谣言蔓延，保障信息的真实性和网络空间健康发展。未来，随着技术的不断进步和网络环境的演变，需不断更新和完善网络谣言治理策略。在社会各界的共同努力下，构建一个更加理性、健康、有序的网络信息生态，形成一个多元的网络谣言治理格局。

参考文献：

[1] 雷霞.谣言生命力解读：谣言概念及公式研究综述[J].新闻记者，2020（11）：85-96.

[2] 闫嘉怡.新媒体时代谣言传播治理探究[J].西部广播电视，2021，42（24）：31-33.

[3] 李玉碧，胡曙光.人工智能时代网络谣言的嬗变：基于自媒体造谣朱婷的案例分析[J].中国传媒科技，2022（12）：25-28.

[4] 赵磊.社交媒体时代突发事件网络谣言的传播机制与治理对策[J].新闻传播，2024（11）：18-20.

[5] 郭宏刚，杨芳.基于影响力的跨社交网络谣言扩散模型与抑制方法[J].计算机应用与软件，2022，39（7）：73-79，153.

[6] 李大勇.大数据时代网络谣言的合作规制[J].行政法学研究，2021（1）：115-125.

[7] 任松林.信息时代网络谣言治理与真实性公信力研究[J].中国报业，2024（15）：216-217.

[8] 张先. AI“谣言粉碎机”对网络谣言传播及治理的影响探析[J].新闻传播，2019（13）：48-49.

[9] 任喆，李永凤.人工智能参与网络谣言治理的未来图景[J].青年记者，2018（6）：79-80.

[10] 黄华.工具理性与价值引领共生：算法推荐下网络谣言传播问题及治理路径[J].宜春学院学报，2023，45（11）：10-13，74.

[11] 郭全.互联网时代的网络谣言治理研究[J].新闻爱好者，2018（6）：29-32.

[12] 崔丽霜.重大事件网络谣言传播预防和治理研究[J].河北公安警察职业学院学报，2023，23（4）：50-53.

[13] 牟惠嫄.全媒体传播体系中网络谣言治理研究[J].新闻世界，2023（12）：29-32.

[14] 翟月荧.网络谣言的传播与治理[J].东岳论丛，2023，44（8）：150-156.

[15] 王东林.受众选择3S理论视角下媒体的对外传播逻辑刍议[J].声屏世界，2018（9）：27.

作者简介 付阳，研究方向：新闻学。