算法安全:伪舆论的隐形机制与风险治理*

许加彪 王军峰

一、问题提出:算法是洞穴寓言中的那束篝火吗？

舆论作为一种人类社会的传播现象,是多人合意的集合体。按照卢梭(Jean-Jacques Rousseau)的说法,众意与公意之间经常有很大的差别,公意只是着眼于公共的利益,而众意则是着眼于私人的利益,众意只是个别意志的总和。①在现代传播技术的史前时期,舆论以口口相传或演讲聚会的形式产生,譬如古希腊时期雅典公民在广场上的演说,春秋时期郑人聚在乡村对公共事务的议论等。当现代传播技术嵌入人类社会后,舆论就受到技术的形塑:印刷术使公众舆论(pubic opinion)得以出现,广播、电视则催生了大众舆论(mass opinion)。随着互联网的普及,媒介赋权后的网民表达在网络虚拟空间里汹涌澎湃,网络水军和社交机器人在特定利益团体的操纵下对特定议题推波助澜。显然,网络舆论更接近于卢梭笔下的“众意”,在特殊利益集团的操纵下更是变成了虚拟空间中一种“伪舆论”的呈现形态。

一般而言,舆论的形成是基于公众对社会事实的一定认知和判断。柏拉图(Plato)在《理想国》中描述的洞穴寓言表明,囚徒依赖篝火之光看到的世界可能只是表象,这个困境成为人类认知的永恒悖论。传统媒体时代舆论的主导权在主流媒体手中,而算法时代传统主流媒体的舆论掌控权逐渐向操控社交平台的算法程序转移。在人工智能时代,一种新的舆论形态——算法舆论从虚拟空间涉入了现实空间。在新闻传播中,作为解决问题的方案或程序的算法与网络技术、大数据技术等融合,界定着现实的建构,深度影响着人们对世界的认知与态度,成为在社会知识生产、社会关系建构和社会结构维系中显著或潜在的力量。作为一种全新的“机器读心术”,算法对个人意见的型构、社会舆论的汇流和国际舆论的博弈的作用力超越以往任何媒介技术。算法如同洞穴寓言中的篝火,这束光对舆论的作用机制为何？算法的应用边界在哪里？如何有效治理算法僭越导致的风险？换言之,如果算法推荐是洞穴寓言中的篝火,用户是囚徒,那么,如何弥合众意和公意之间的鸿沟？这些问题正是本文思考的方向。

舆论远非自发形态的社会产物,网络生态中有水军、社交机器人、算法推送等机制催生网络舆论。就算法舆论而言,既往研究多聚焦于算法偏见、算法权力、算法焦虑、社交(政治)机器人、人工智能等议题,指出了算法对舆论的可能影响。隋岩等认为,依托智能生成技术、算法推荐技术等生成和传播的网络叙事,实际上是一种形塑新话语权威的中介。②郭小平认为算法可能引发公共舆论风险。③胡月星指出算法影响公众舆论导向把控,并指出其负面影响难以避免。④段鹏以算法权力为考察对象,强调网络空间中公众合意的形成与发酵受到算法权力的影响。⑤张洪忠等聚焦于政治机器人对社交媒体上舆论的干预和影响。⑥而师文和陈昌凤则研究了Twitter平台上社交机器人对涉华议题的干预。⑦上述研究从理论与实证层面为算法干预舆论的研究提供了必要的借鉴,本文将更深入地剖析算法背后的隐形机制对网络舆论的影响,以及对这种由算法生成的伪舆论的有效治理等。

二、可见性与智能适配:算法舆论的生成逻辑

从舆论的构成要素而言,舆论的生成主体是公众,舆论的客体是公共议题,舆论的本体是公共意见。算法颠覆了传统舆论生成过程中“媒体—议题发布—公众讨论—意见融合—舆论生成”的基本逻辑,而是通过对舆论客体、舆论主体甚至舆论本体的直接动态控制和干预来制造舆论,因而算法舆论是人工智能时代个性化和智能化传播的产物。算法舆论是基于可见性的内容呈现逻辑和智能适配的技术推荐逻辑而实现的,如果算法被特殊利益所操纵则算法舆论就成了伪舆论。

(一)“可见性”的呈现逻辑

传播学者丹尼尔·戴扬(Daniel Dayan)认为可见性是探讨个体能否被他人看见,能否获得他人注意力的权力问题。可见性是指能否被他人看见、能否获得他人的注意力,当获得的注意力达到了一定规模,即产生了可见性。⑧也有学者认为可见性具有“看见”和“获得他人注意”的双重含义,即除了“被他人看见,获得他人注意力”外,还包括“看见他人”的权利。⑨由此,可见性是主体之间的交互,具有主体间性,而非一个主体对另一个主体的单向凝视。在算法平台上,作为主体的人、作为客体的信息和作为本体的观点相互激荡交织,因而在“可见性”的层面上就具有了用户交互可见性、信息交互可见性、意见交互可见性三种形式。

第一,作为舆论主体的用户交互可见性。与传统被看作是一个整体性概念且指向社会上大多数具有理性思考的概化人不同,算法时代的“公众”被大数据和算法技术解析为具体的个性人,甚至社交机器人也可能成为意见表达和舆论参与的主体。作为整体性的“公众”被作为个性化的“用户”甚至虚拟的“机器人”所取代,而公众那种捉摸不定的特质也被精准的用户画像所锚定。平台空间为用户增强自身的可见性提供了可能,但另一方面,用户的可见性受制于平台算法本身的运作逻辑,有时呈现出不可见性的特征,用户摇摆于可见性与不可见性之间,或隐或显,或沉或浮。就能否被他人看见而言,作为舆论主体的用户多属于沉默的大多数,偶有发声和显形,哪些用户能够被平台赋权而授予其可见性,哪些用户被平台漠视而其可见性被弱化,这种平台把关状况就能影响到社会公众的认知。就能否看见他人而言,表面上看是一种用户主动选择权的体现,但仍然有被算法裹挟的可能。比如,社交机器人账户作为一种新的“用户”被创造出来充当“公众”以混淆视听,这些机器人还通过关注人类用户、模仿人类用户行为、转发或者提及人类用户发布的信息等方式以增强自身的可见性甚至是可信性。由此,算法通过对其可见性的控制而达到干预舆论的目的。

第二,作为舆论客体的信息交互可见性。算法作为一种新的中介化技术,掌控着信息的可见性。⑩信息的交互可见性包括作为传播参与者的用户发布的议题能否为他人所见,也包括一些其他公共议题能否为作为接收者的用户所见。就前者而言,主要包括用户发布的议题能否引发大量关注,而这也能够通过算法程序进行前置干预,或者赋予其较大的权重而进入到其他用户的推荐列表中,或者降低其权重而弱化其可见性。就后者而言,议题的可见性程度决定了用户能否看到以及如何看到该议题,而算法强大的把关能力可以实现直接影响信息呈现概率、搜索排序和新闻热度值。在人工智能时代,平台算法对信息可见性的控制在很大程度上决定了用户的注意力资源分配,而注意力资源分配成为引发舆论合意的必要前提。

第三,作为舆论本体的意见交互可见性。个体不同意见之间的激荡、交锋和辩解,求同存异、求真去虚,进而实现个体意见融合达到众意或公意的形成。众意舆论的母体不一定代表社会发展的进步方向,在沉默的螺旋机制作用下,其更容易被民粹主义或极端主义所绑架,为社会善治埋下祸根。在算法时代,公众作为一个群体概念被还原为一个个独立和异质的个体,这为算法直接参与“组织舆论”提供了某种技术上便捷的可能。如果算法通过对个体发布的意见的显现和流向进行控制,某种意见的可见性程度就决定了社会关注的热度,乃至决定最终能否形成社会意见的大合流。对那些不符合某些集团利益、不符合某些用户立场的观点,算法能够实现自动化操纵、遮蔽,以压制其声音能量。当用户无法感知真实的意见气候时,由算法营造的虚假意见气候就会影响用户的判断。其吊诡之处在于,算法的逻辑给不同观点之间的正常交流加装了一道防护墙,算法投其所好的推荐系统决定了用户难以接触到与其立场不一致的信息和观点,所以所谓最终意见的合流多多少少带有虚幻的色彩。

(二)智能适配的推荐逻辑

算法对舆论主体、客体和本体的“可见性”进行控制的过程是通过智能适配的技术逻辑实现的。智能适配强调基于用户特定场景为特定的用户匹配特定的议题和观点,从而可能影响特定用户的认知、态度和行为。在算法的世界中,舆论的主体、客体和本体都只是一串串或一行行冷冰冰的数据代码或符号标签,舆论的生成变成了基于舆论主体(用户)数据对舆论客体(议题)和舆论本体(意见)的数据运算。通过对用户自身网络和社交平台使用行为习惯的数据进行记录、挖掘和分析,算法形成精准的用户画像,在确定用户画像的基础上,针对不同用户个体为其匹配其感兴趣的议题或者推荐与其具有相同立场的观点、意见等。

智能适配的迎合式信息和观点推荐,很容易实现对用户个体意见表达的潜在影响。在群体层面,由于算法推荐存在信息茧房效应,用户的观点也可能被茧房化,其观点之间的互动缺少了不同立场之间的理性对话,而多了一些基于共同立场的观点强化,很容易造成圈层化群体众意的形成。商业平台的智能适配逻辑是将“公众”还原成“用户”,又将用户当作“消费者”来看待,它暗含了一种商业利益最大化的潜规则,因而导致商业平台上算法众意退化成为一种“伪公共性”的舆论。

如果存在茧房效应的话,要看茧房的大小。一套平台算法是一间茧房,但是一套社会机制可能是一间更大的茧房。在人类信息传播的历史中,普通受众的自主选择权是有限的,他所能选择的范围是被划定的,或者说是信息菜单上的有限选择权。从编辑的把关选择到媒体的议程设置,甚至文本隐含的新闻框架,这些理论都揭示出普通受众的信息近用权无时无刻不受到层层的隐性控制和显性控制。在柏拉图构造的洞穴寓言中,篝火成为一套机制,限定了囚徒的信息接触和认知方式。如果社会是一张网或一间房,每个人都是在网上或房中生存的生物。

三、虚拟空间中“看不见的手”:算法伪舆论的生成路径

传统舆论的生成正如李普曼(Walter Lippmann)所揭示的,必须首先经过社会进步或精英力量的组织,然后再提供给新闻媒体去表达。但在人工智能时代,舆论的生成并未像李普曼所期望的那样,相反,“组织”甚至“制造”舆论的力量从传统媒体转移到算法平台。正如拉什(Scott Lash)所言：“在一个媒体和代码无处不在的社会,算法生成规则在后霸权秩序的社会和文化生活中越来越普遍,权力越来越存在于算法之中。”在信息传播的角逐场上,政治力量、资本力量和其他社会力量不可避免地附丽在人工智能的身上,这些力量的过度加载则会导致算法舆论远远偏离正常的社会轨道。在网络的虚拟空间中,有许多“看不见的手”隐藏在网络页面的幕后,如影随形,共同催生社会舆论的形成,人工智能和大数据作为其中重要的一支力量,把正常社会表达的“公意”舆论操纵为一种满足特定需求的算法“众意”的“伪舆论”。

(一)算法推荐的机器幽灵和社会议程的幻象

在用户画像和需求满足驱动下,算法推荐成为个体议程设置的隐性机制,它勾勒了用户渴望看到的外部世界的图景。大数据和算法技术的结合不仅能够将人类有意识的行为进行算法化,而且能够对无意识的行为进行算法预测和把控。正是从可被计算、被操控的角度,算法实现了对个人的重新定义,并将人物化。在算法加持下,“人”变成了“用户”,其注意力成为重要资源,算法推荐建构的信息茧房成为用户信息议程的判断基础和重要表征。正是基于被算法化的用户形象,算法将不可描述的样态纷呈的整体受众转化为可逐一标注的个体用户,从而实现社会议程设置效果从受众整体到用户个体的矢量迁移。但算法推荐背后可能有一双双“看不见的手”在操纵,貌似冷冰冰的机器语言可能存在偏见、诱导、信息窄化等问题,算法成为扭曲现实的凹凸镜。

机器的算法推荐看似是没有灵魂的自动行为,没有所谓的“机器幽灵”。实际上,算法背后总有一套程序规则、价值判断、符号标注、信息选择等思想或灵魂的体系。这个思想体系是算法背后“看不见的手”,从社会运行上无可厚非,但若被商业利益等特殊利益集团所绑架,成为一种“幽灵”的存在,则会使算法偏离社会发展公平正义的方向。

媒体议程、平台议程、公众议程三者之间也许有交叉的部分,但并非完全是重叠的,三者之间的互动有非常复杂的微妙之处,何者居于原初的推动地位并非容易辨认之事。在大数据和算法推荐的技术加持下,平台议程深度影响了用户议程,或者说平台议程与用户议程合流汇集成媒体议程和公众议程。平台利用算法推荐所建构的媒体世界迎合了用户口味,但难以吻合真实的客观世界,沦为用户需求投射平台的现实幻象,由此生成的“众意”就不可避免地存在算法的“诱导”。国内的今日头条注重对用户、内容和环境特征的提取,在“你关心的,才是头条”的口号指导下,没有两个用户收到完全相同的新闻推荐页面。国外的剑桥分析公司通过技术手段分析不同用户群体的人格特质、潜在需求、性格和负面情感等特征,并根据社交媒体上的“点赞”倾向快速判断用户的性别、性取向和政治倾向,进而对用户进行精准的信息推送和议程设定,以影响和干预用户的思想观点和判断选择,控制舆论走向。

(二)社交机器人的带风向和网络声量的兑现

社交机器人是一种利用算法生成并承担特定任务的社交媒体账户,其应用已从早期的社交网络商业营销领域逐渐拓展到政治宣传领域,成为影响公众舆论和政治走向的手段。模仿人类用户并执行特定任务的社交机器人,能够以自动化算法程序建构社交网络,如主动关注人类用户和机器人用户以增加自身的粉丝数量,通过模仿人类用户的社交行为来塑造虚拟的人格形象,以此提升其在人类用户中的可见性甚至可信性,实现机器人网络向人类社交网络中的深度嵌入。这使由“人”完全主导的社交媒体生态转向“人+社交机器人”的共生生态,改变了社交媒体既有的信息交互结构,也使舆论生成面临高度不确定性和复杂性。

既有研究发现少量社交机器人(占用户总量的5%—10%)即足以引发沉默的螺旋,从而改变公众舆论的走向。社交机器人参与网络舆论带风向主要是通过推送重复内容、转发政客信息内容、制造虚假信息和垃圾信息以转移用户舆论焦点等方式实现的。在新冠肺炎疫情期间,Twitter有上大量社交机器人扩散“新冠病毒为中国政府在武汉病毒研究所人为制造的生化武器”的阴谋论,其中大量推文信息仅在一秒钟或一分钟内就被诸如@sonlaiklik、@fatihyedek等社交机器人同时转发,实现了网络声量的增强和广泛扩散。同时,社交机器人还通过设计话题标签、@媒体等方式扩大自身信息的传播力和影响力,增加特定信息的网络声量，实现干预舆论的目的。

(三)特殊利益集团豢养水军和网络热点置顶

由于网络键盘侠的存在可以是匿名的,特殊利益集团试图通过豢养水军的方式来实现对舆论走向的干预和控制,以实现特定意图。早期的网络水军主要是受雇于特定利益集团或组织的自然人,而在算法时代,“人+机器人”已经成为网络水军发展的新特征,水军的功能也从早期被动“洗地”转向主动“控评”,改变了舆论形成的自发形态和自然状态。

特殊利益集团通过水军制造热点形成“伪公共意见气候”,进而隐性干预舆论。特殊的政治人物、政治团体或组织等操纵舆论的方式既可能是直接部署算法,也可能通过将有关任务以项目形式外包给商业公司雇佣水军来实现。在美国,从2012年奥巴马的数据团队帮助其实现了连任后,西方政治集团开始看到了数据分析的重要性,之后的候选人都将大量资源投入数据分析和操纵过程,如特朗普就直接招募剑桥分析师加入其竞选团队。

特殊商业机构通过水军操纵社会信息流动,决定热帖排序,冲击了正常的信息秩序,干预了舆论走向。如2018年,某艺人微博转发量过亿引发围观,正是通过星援APP“人工干预+算法操纵”的结果。该APP允许用户首先使用自己的新浪微博账号登录该客户端,添加需要提高转发、评论、点赞数据的微博链接,依次设置“内容”“随机表情”“转发内容”“周期时间间隔”“并发时间间隔”“转发数量”“分组”等参数,最后点击“启动抡博”,即可自动实现批量转发博文,自动提升微博相应数据。2020年5月,广州市某小学因学生被老师惩罚跑步,引发家长不满,家长伪造证据自行发布微博，意图误导舆论却效果不佳,遂通过网络推手进行微博扩散,仅花760元就实现了短短数小时相关微博被转发140万余次、评论46.5万余次、阅读5.4亿次的传播目标,导致涉事老师被人肉搜索,引发舆论围观。但公安机关介入后发现,这是由家长造假、资本助阵、算法助力的假事件。

四、算法霸权:算法伪舆论的社会性风险

毋庸置疑,技术整体上推进了现代社会的进步和发展,但技术这把双刃剑,在给人类带来福祉的同时,也不可避免地带来了一些不容忽视的副作用。拉什认为风险社会中始料未及的风险不再是由工业社会的物质化生产过程中所产生的风险和危险,而是从信息领域、生物技术领域、通信和软件领域所产生的新的风险和危险。张涛甫则指出,舆论风险已经成为媒介化社会中的“软风险”。在技术的加持下,算法伪舆论的社会性风险的负面作用更广泛、更深入且更隐蔽。

(一)钳制舆论主体的理性表达

在算法全面介入人们日常信息获取的环境下,人对算法形成了高度依赖,算法对人形成了高度控制,出现算法替代人去思考、判断和决策的“技术垄断”局面。算法被凯西·奥尼尔(Cathy O′neal)称之为“数学杀伤性武器”,正在逐渐衍生出另一种霸权——算法霸权。算法霸权造成了对人的权利的压制,其中,最重要的就是涉及公共事务的知情权和表达权。一个议题,用户能否知情、如何参与、如何思考进而表达观点,都受制于算法的内容呈现和智能匹配。正如荷兰学者范·戴克(José van Dijck)所言,用户需要平台来发表他们的意见和创造性表达,而平台需要用户按照预先设定的格式化来汇集其表达。内容是自发形成的,却受到控制,内容是无中介的,却受到操纵。算法舆论切入人类社会的正常舆论生态之中,甚至在算法的推荐下引发巨大的网络声量,容易导致人类正常舆论空间受到挤压。

(二)挑战主流媒体的舆论引导权

一个健康的社会离不开主流的意识形态表达和主流的舆论建构,传统的舆论引导主要通过主流媒体的议程设置来实现,而智能时代平台算法推荐极大地消解了传统主流媒体的议程设置功能。在传播生态的迭代演进中,传统主流媒体守望社会主流价值,但面临各类APP平台对受众市场的争夺,报纸的传阅率和电视的收视率日趋走低。算法作为社会信息流动的基本技术逻辑,机器代替人力发挥着议程设置的作用和对信息的隐性把关作用。在国内,以今日头条、一点资讯、抖音、快手等为代表的平台,通过强大的算法推荐机制使其深深获得用户黏性,甚至扮演着传统主流媒体信息传播者的角色,直接挑战了传统主流媒体的舆论引导权。在国外,新兴社交媒体(诸如Facebook、Twitter、YouTube等)事实上成为建构全球信息传播流动的主要力量。在平台算法推荐中,由于平台的价值诉求更多地考虑其自身的商业利益等,对社会公共利益关注过低,因此在社会主流的舆论导向中难免偏离公意诉求。如果一个社会没有核心的意识形态共识,或者说没有一个主流媒体能够维护核心意识形态合法化的功能,则这个社会作为一个系统的可持续发展就受到极大的挑战。

(三)撕裂民众的社会共识

社会成员结构多元复杂,各成员之间需要彼此对话和协同融合,才能使社会可持续良性发展。德国学者诺依曼(Elisabeth Noelle-Neumann)提出“舆论是我们的社会皮肤”。正因为作为皮肤的舆论,社会各机体得以交流和整合。算法具有“制造舆论”的特性,但使用不当容易引发舆论场结构性危机,破坏公众感知社会现实的正常判断,如同灼伤民众的皮肤。舆论场的正常状态应是民众对社会事实的真实反映,但在算法“制造舆论”的情况下,舆论场为某些特定利益集团所控制,哪些议题能够为公众所见并不是由现实社会中话题的重要程度来决定的,而是由其背后的资本推手决定的。在商业逻辑主导下,一些关系国计民生的硬新闻、关系公共利益的议题通常难以进入公众视野,反而一些娱乐八卦(如明星离婚、出轨、吸毒)等事件屡次冲上热搜。在算法的干预下,一些看似引发公众关注的舆论事件,实际上正是特定利益集团通过“人工+算法”等方式进行的针对性呈现和引导,小事件通过资本与算法的推动能成为大事件,假事件甚至由此变成万众瞩目的真事件,并引发现实危机。舆论是社会共识得以形成的重要机制,这不仅是在个人意见的表达层面、个人与社会的关系层面,也是在舆论作为社会黏合剂层面的意义而言的,但算法伪舆论生态使社会“公众”之间的理性对话和共识难以实现,由此导致舆论场面临撕裂风险。

(四)冲击社会治理的基座

舆论是政府进行社会治理的重要依据。新闻、信息或者广告的推送主要基于对用户数据的收集,算法通过推断用户的偏好来呈现其可能感兴趣的内容。越来越多的证据表明,算法被用于政治宣传,从国家间的信息战到国内竞选与公投,无一不试图充分利用脸书和YouTube等主流社交媒体的算法程序发起攻势。一些特定利益集团的利益诉求,在算法的操控下形成社会的巨大舆论,并被当作真实的民意,介入到现实政治中。2016年美国大选期间,特朗普、希拉里竞选团队均借助“机器人水军”在社交媒体中进行政治宣传,推特上19%的大选推文来自“机器人水军”。相比希拉里,特朗普的“机器人水军”有其五倍的数量优势,这在某种程度上也被认为是特朗普最终赢得胜利的原因之一。当算法舆论被用于一国的政治选举时,算法操控民众投票意向就成为某些政治集团攫取政治权力的手段,这时算法舆论就成为“阴谋政治的体现”。由此,政府治理赖以存在的基础——舆论成为算法操纵的结果,在算法的加持下,卢梭所言的“众意”和“公意”进行了合流,而普通民众根本无法甄别其真伪。

五、建立多方协同的算法安全治理机制:算法伪舆论风险的社会治理

随着算法滥用引发的潜在社会风险加剧,对算法伪舆论的治理既是党的新闻舆论工作的内在要求,也是保障国家算法安全、防范算法滥用带来意识形态风险的有力举措。这需要建立以政府为主导包括算法研发企业、新闻媒体和网民在内的多方协同参与的算法安全治理机制,形成合力,确保算法安全和意识形态安全。

(一)政府:建立健全法律法规体系

算法促进社会善治,但算法滥用也给社会治理带来挑战,算法伪舆论更是对意识形态安全形成巨大挑战。因此,政府应增强顶层设计,用完善的法律法规规制算法,积极引导多方利益主体参与治理算法,建立健全多方参与的算法安全治理机制。目前,已有国家通过法律形式对算法进行规制。2019年4月,美国出台了《2019年算法问责法案》,规定企业对其人工智能工具和系统的“准确性、公平性、偏见、歧视、隐私和安全性”等问题进行自我审查。2019年5月,新加坡通过了《防止网络虚假信息和网络操纵法案》,该法案明确了具有“政治目的趋向”和“危害公共利益”这两种最关键的网络操纵行为,并对其进行了限制,提出了惩罚措施。我国相继出台了《网络安全法》《数据安全法》《个人信息保护法》以及《互联网信息服务管理办法》等,在不同层面涉及对算法的治理问题。2021年9月,国家互联网信息办公室等部委发布的《关于加强互联网信息服务算法综合治理的指导意见》,规定要防止利用算法干扰社会舆论,防范算法滥用带来意识形态、经济发展和社会管理等方面的风险隐患。

(二)企业:强化算法企业的科技伦理意识

商业公司是算法研发与推广应用的重要主体,其研发的算法技术逐渐渗透到新闻传播领域,成为影响舆论生态的重要力量。但企业过度的商业利益追求也让算法的应用出现了偏差,甚至将算法导向异化的境地。为确保算法安全和意识形态安全,算法研发企业应坚持正确导向,强化科技伦理意识、安全意识和底线思维,坚持科技向善理念。企业的算法研发需要正确处理短期商业利益与长期社会效益之间的冲突,坚持社会效益第一的原则；要努力消除算法可能引发的偏见与歧视,坚持算法研发的公平公正、透明可释原则；要对算法可能带来的负面效应有相应的校正机制和优化方案,将算法潜在的负面影响降到最低,确保算法的自主、安全、可控。实际上,技术与产品服务的背后是人,人是衡量技术与产品的重要尺度。企业要认识到算法只有与社会实现良性互动,才能发挥科技造福人类的最大价值,要认识到算法应该用于造福人和社会,而不是让算法成为操控人和社会的隐蔽工具。在中华民族伟大复兴的征程上,要让算法始终服务于党和国家发展的战略大局,服务于人民利益与社会进步,要规避利用算法危害国家安全、操控政治和意识形态的风险,不为利用算法推荐传播负面信息、分裂社会共识提供可能。

(三)媒体:以主流价值导向驾驭算法

在全媒体时代,媒体肩负着维护主流价值观和意识形态的重要职责,作为算法推广应用的重要主体,媒体需要用主流价值导向驾驭算法推荐的新闻内容,全面提高舆论引导能力。目前,在商业公司研发的算法之外,各类新闻媒体也自主研发了“党媒算法”“主流算法”等各类算法,确保算法能够传播正能量、维护主流价值观。其中,人民日报新媒体推出的“党媒算法”探索个性化推荐与主流价值结合的新路径；央视频打造的“总台算法”则在传播量、浏览量、点赞量等常规流量指标外,加入价值传播因子、动态平衡网络、社会网络评价体系等与正能量传播相关的指标,探索算法服务正能量传播的可能性；川观新闻8.0版客户端则推出了“主流媒体算法”,通过把控内容质量、加深内容认识、优化智能分发、追踪传播效果等措施,采用主流价值内容采集和质量审核系统,确保优质热点新闻入库,实现了对主流价值观的赋予。主流媒体作为党和政府联系群众的桥梁和纽带,不仅需要传播正能量,还需要充分利用算法来聚合信息,让网络成为收集社情民意的新平台和凝聚社会共识的新空间。在根本上,主流媒体要以算法为中介，实现党、政府和人民群众等不同主体之间的良性互动,找到“民意的最大公约数”,让算法成为新时期引导舆论、凝聚共识、治国理政的技术基石。

(四)个体:提升网民的算法素养

人是舆论生成的主体,即使是社交机器人带动风向也要依赖自然人的实际行动才能产生相应效应。在算法将“公众”化解成一个个“用户”的过程中,“公众”成为可以量化的测量指标。从这个层面来看,要确保算法安全,抵御算法伪舆论带来的意识形态风险,还要提升网民的算法素养。算法素养脱胎于媒介素养,它的主要目标是培养人们与算法的共存能力。目前,算法与用户呈现互动共生、相互驯化的关系。算法需要依赖用户的数据资源优化自身推荐模型,而用户需要依赖算法获得个性化信息,因而呈现互动共生状态。算法的个性化智能推荐对用户的信息获取方式进行了驯化,让用户依附于算法本身的逻辑,但同时用户的使用行为又会影响算法推荐的效果,两者呈现出相互驯化的过程。因此,网民的算法素养就包括认识到算法的存在以及它对人类信息获取的干预。具体包括认识到算法已经构成了我们的基本环境,算法能够对我们使用各类算法平台衍生的数据进行收集并计算，对经由计算而产生的算法传播信息偏向性有足够认识,对算法机器人能够进行感知和简单识别,对算法可能干预舆论的风险进行识别。算法在驯化人的同时也被人所驯化。因此,网民的算法素养还应包括具备一定的驯化算法的能力,即在使用算法平台中通过调整自身的行为,利用算法的实时优化与调整特性,对算法进行反向驯化。具体包括对算法平台某类信息的忽视、减少点击率、减少观看时间等,以减少算法对此类信息的推送；还包括用户通过算法平台偶遇其他信息的能力,如增加对公共信息的关注度、对不同意见的接触频率等,减少算法同质化信息推荐,增加信息推荐的多元性。网民算法素养的提升,能够增强自身对算法平台信息的辨别能力,而不至于让算法主导甚至控制,这为确保算法安全和意识形态安全提供了前提。

六、结语

在洞穴寓言中,篝火作为一种工具,投射的是可感事物的影像,从而给“囚徒”带来了认知困境。人们只有走出洞穴的羁绊,才能获得认知上的突破。算法也许成为这个时代新的一堆篝火,其构筑的信息环境成为新的事物影像,而成千上万的网民正似“囚徒”深陷其中。如何认识洞穴外的世界,让自己参与到广阔的社会活动中,而不至于对世界进行误判,这有赖于人们不断突破自身的局限和周围环境的制约。

在以算法代码为基本运行逻辑的“算法社会”中,人们成为一串串数字表征的透明体,在大数据的海洋中无法逃脱被捕捉的境况。无论是对外部信息的获取,还是自我意见的表达,或是对周围环境的感知与判断,人们都被算法所捕获。就舆论生成而言,算法通过对舆论三要素的“可见性”进行控制,并在其与用户之间进行智能适配,进而影响用户认知中的外部世界。当算法技术为特殊利益集团所操纵,社会舆论运行就会偏离正常的生成轨道,从而沦落为一种“伪舆论”。对算法“伪舆论”进行治理既是新时代党的新闻舆论工作的内在要求,也是保障国家算法安全、防范算法滥用带来意识形态风险的必要工作。如何建立科学、合理的算法舆论引导机制,确保算法安全,避免算法滥用,让算法为公众利益服务,成为算法时代的全新命题。

注释:

① [法]让-雅克·卢梭:《社会契约论》,何兆武译,商务印书馆2003年版,第35页。

② 隋岩、唐忠敏:《网络叙事的生成机制及其群体传播的互文性》,《中国社会科学》,2020年第10期,第181页。

③ 郭小平:《智能传播的算法风险及其治理路径》,《国家治理》,2020年第22期,第43页。

④ 胡月星:《“算法焦虑”的生成机理及纾解之道》,《人民论坛》,2021年第Z1期,第23-24页。

⑤ 段鹏:《平台经济时代算法权力问题的治理路径探索》,《东岳论丛》,2020年第5期,第111页。

⑥ 张洪忠、段泽宇、杨慧芸:《政治机器人在社交媒体空间的舆论干预分析》,《新闻界》,2019年第9期,第20-25页。

⑦ 师文、陈昌凤:《议题凸显与关联构建:Twitter社交机器人对新冠疫情讨论的建构》,《现代传播》,2020年第10期,第50-56页。

⑧ Daniel DaYan.ConqueringVisibility，ConferringVisibility:VisibilitySeekersandMediaPerformance,International Journal of Communication,vol.1,no.7，2013.pp.137-153.

⑨ 姜红、开薪悦:《“可见性”赋权——舆论是如何“可见”的？》,《苏州大学学报》(哲学社会科学版),2017年第3期,第147页。

⑩ 罗昕:《算法媒体的生产逻辑与治理机制》,《人民论坛·学术前沿》,2018年第24期,第25页。