算法传播假新闻：危害、肇因及治理

王英明　张竞文　柏首锌

摘 要：算法传播虚假新闻已经饱受诟病，造成社会公众认知割裂、主流媒体话语权丧失、未知社会风险触发等多种危害。从技术逻辑、算法偏见、公众思维三个层面分析算法滋生假新闻的肇因，以领导者角度，着力培养舆论领袖、构建权威性媒体等方式加强对算法假新闻的治理。

关键词：假新闻;算法传播;舆论领袖

算法新闻是指在算法程序的引领下，人工智能依托自然语言生成技术自动生成大量新闻文本。其取代记者简单劳动，具有快捷及时的作用，为新闻传播带来了诸多贡献。然而，后真相时代情绪往往先于事实进行传播。算法滋生的假新闻也带来不容忽视的问题。俄罗斯外交部发言人玛丽亚·扎哈罗娃于5月28日表示，美国试图利用假新闻使国际忽略俄罗斯在疫情处理方面的努力，使国际合作在应对全球威胁方面复杂化。

一、算法传播假新闻的危害

算法假新闻不仅使得国际合作关系复杂化，更会造成公众认知固化、主流媒体话语权没落，甚至触发未知的社会矛盾。民众诉诸的事实反驳假象变得极为困难，事实逐渐失去主导社会共识的地位。

割裂社会公众认知。其一，个体极化。人工智能算法基于公众浏览记录、数据信息精准推送相似新闻，使高度相似信息在封闭环境中传播，使得公众不断强化自身偏好，并以自身喜好判断事物，从而丧失对事物的判断与分析。其二，群体极化。社会公众逐渐形成对讯息的固有看法，算法推介使得转发、评论、点赞相似的个体形成认同群体。群体形成强大的扭曲的认同并排斥观点相左群体，甚至形成不同群体间的尖锐对立，加剧社会矛盾。其三，思维固化。算法形成的封闭传播空间会割裂大众对社会的認知，公众新闻关注点和讯息需求点长期集中某一领域、某一话题，长此以往，使得公众狂热与情感形成一条价值链，丧失对社会问题和公众问题的思考。

主流媒体话语权没落。第一，官方权威受损。官方权威讯息经过取证、核实、编排等过程要经历一段时间，依据算法产生的假新闻往往可以即时发布，对缺乏知识背景和谣言辨别能力的群体，容易酿成“情绪的影响力超过事实”的悲剧，使得政府权威讯息虽真而无人信。第二，传播系统情绪化。新媒体工作者为博得“眼球效应”，依托算法推送迎合公众，增加订阅和点击量，讯息未经核实就极有可能先带来流量，整个传播系统中的信息传播倾向于主观化和情绪化。第三，正面引导缺失。随着社会发展，公众选择网络作为压力的宣泄口，算法根据以往信息推送讯息往往过于同质化，娱乐化、“个性化”的需求随之高升，甚至不免出现庸俗化、低俗化、扭曲化的需求，官方重大新闻、国家重大消息等往往被忽视，公众尤其是青少年无法得到有效的引领。

触发未知社会矛盾。算法通过精准化的推送，成为部分人谋取利益的手段。通过发布社交媒体算法传播的假新闻，中伤自己在事业有冲突的单位和个人，使得个体的人格、事业、生活受损，从而达到不可告人的目的。营销公司非法获取公众消费大数据，并通过精细化包装，依托算法对受众心理进行精准测量甚至恶意利用[1]。推送定制广告与假新闻，在信息不对等的情况下诓骗、引诱消费者，造成公众财产损失。在西方，算法传播的假新闻成为政党交相攻讦的技术手段，西方国家在国内通过算法精准传播假新闻，使公众误解、敌视对手国，造成国际局势紧张。

二、算法传播假新闻的肇因

算法传播假新闻的机制有深厚的社会环境土壤，技术逻辑形成闭塞“回声室”，人为操纵带有偏见的算法程序，不断割裂具有缺陷的社会公众认知，形成“技术-算法-思维”所难以破解的假新闻。

技术逻辑。在算法推荐技术的影响下，公众会普遍处于一种“回声室”效应中。一些消息被不断地重复和强调，人们就会逐渐相信并坚定地认为所见即事实。相较于传统媒体，民众更加倾向于从社交圈获取新闻资讯、分享观念见解，实际上，社交圈已经对信息进行了一次“价值过滤”，导致圈子内的价值观念以及消息渠道严重趋同，就像处在一个封闭的房间环境中一样，人们不断听到相似的声音，不断接受到相同的价值观念熏陶，便会理所当然地认为自己的圈子足以带来全部的事实，从而出现公共舆论的偏差。此外，公众对于人工智能技术的过分推崇加剧这一现象，人工智能能在潜移默化中改变社会公众的讯息接收、信息传播与价值认同，使社会公众天然地认为人工智能是有益无害的，事件的发展、评判、解释被算法机制所操纵，由此建构起对于人工智能、算法的盲目信任。

算法偏见。社交机器人是最常见的假新闻创建者，算法是支撑其运作的底层技术。人工智能机器人获取公众浏览数据和信息，模拟人的行为，创作出精准推送的假新闻。基于此，公众数据来源于社会，社会的个体和群体难免掺杂着虚伪、不公、邪恶、偏见、歧视等因素。智能机器人在合法信息传播中发挥不可替代的作用，但是算法的底层程序受到人为操纵和控制，算法编程自身也极易受到开发者的人为因素影响，甚至许多人仍然利用人工智能的算法偏见设计用于散播谣言、垃圾邮件、恶意软件、错误信息、诽谤等虚假内容。原本技术进步通过非法数据、算法偏见、人为干预形成技术阻碍，使得虚假信息泛滥造成社会出现不良影响和危害性后果。

公众思维。认知缺陷是假新闻产生的思维因素[2]。公众中存在大量凭借直觉判定事实的认知风格，甚至存在容易产生妄想的个体。公众相信自己的观点胜过他人的观点，即使是令人难以置信的想法。假新闻的算法逻辑只要符合公众想象、认知的基本逻辑，便可以催生令公众信服的观点和内容，公众通过自我说服、自我辩解的方式增强自我认同，通过虚假新闻传播的反复验证，从而产生令人难以置信的自我信念，特别容易通过错误信息传达不切实际的想法，盲目传播、转发、评论，造成话题热度上升，从而加剧假新闻的泛滥。此外，一旦形成固化认知，公众便会通过各种途径验证、证明所持观点，甚至枉顾事实根据和价值理念。

三、算法传播传播假新闻的治理

通过算法新闻的生成逻辑，以舆论领袖打破“回声室”，不断优化算法对抗带有偏见的算法，同时增强公众算法素养，增强辨别假新闻的能力，从而发挥正向引领作用，消解假新闻的危害。

培养“舆论领袖”。政府在法律和行政权威的基础之上，采取柔性的方法来进行舆论发展方向的引导，规避最初的隐瞒式、滞后式策略。主动进行信息的公开和传播输出，由舆论领袖首先将信息进行权威性解答和詮释并传达给公众，再由公众通过自己的舆论圈传达给更多的人，产生更大范围的影响和普及。一方面将权威信息进行及时传播使之在尽量短的时间内进行扩散，覆盖面的扩大伴随的是影响力的增强;另一方面则是从侧面阻断其他信息传播渠道，代表权威的“舆论领袖”释放舆论基本立场信号，在舆论传播初期便设立一个局限和范围，所有的舆论传播者需要在规定范围内进行操作，而违反舆论领袖立场的舆论和信息则失去发挥的空间和信任基础，其影响力和可信度大打折扣。

优化算法以规制偏见算法。其一，建立规范化的算法机制和准则。以政府行政人员、舆论引导专家等为主，协助算法专家编制一套合理、合法的底层算法系统，通过实践操作、训练、检验等测试，形成一套稳定的算法偏见纠错系统，在实效检测中不断优化算法，提升算法实用性和时效性，从而抵制假新闻的产生、传播与泛滥。其二，厘清算法偏见数据的社会环境因素。了解算法系统中嵌入的社会因素，通过算法自身检测清除社会环境因素影响，并设计干预措施和算法来破坏来自非可信来源的信息流，通过检测不可信来源、违规算法程序帐户，封锁假新闻并防止其扩散，创建阻止此类信息流的可行性算法，从源头阻塞大多数虚假信息。其三，建立假新闻检测模型。通过过滤冗余术语或字符对数据集进行预处理，根据假新闻特征提取已应用于伪造的新闻数据集，对疑似假新闻的讯息进行集中审查与处理，最终形成假新闻检测的模型，确定的假新闻送交传媒专家邮箱或发送即时消息甄别，对抗假新闻泛滥。

增强公众算法素养。一方面，减少算法传播假新闻的渠道。政府在舆论引导平台上进行详细的调研和评估，用更加多元化和民众易于接受的方式进行舆论引导和传播，着力识别假新闻的来源并控制这些来源的信息，担当起保护和检测错误信息的“守门人”，着力打击欺骗性策略模仿真实新闻媒体的网站所产生的新闻。另一方面，提升公众判断假新闻的能力。通过通俗易懂的形式介绍算法运行机制和原理，使公众了解算法传播假新闻的潜在的危害和产生逻辑，同时进行打击假新闻的教育或实施算法扫盲干预措施，甚至于建立从幼儿园到大学的相关教学体系，形成社会公众的算法素养提升机制，从而基于算法素养角度提升公众辨别事实的认知能力。

参考文献：

[1] 史安斌，王沛楠.作为社会抗争的假新闻——美国大选假新闻现象的阐释路径与生成机制》[J].新闻记者，2017年第6期.

[2] 汝绪华.算法政治：风险、发生逻辑与治理》[J].厦门大学学报（哲学社会科学版），2018年第6期.

作者简介：王英明（1999- ），男，山东潍坊人，中国石油大学（华东）经济管理学院学生，主要研究方向：媒介发展。