互联网人工智能技术应用的意识形态安全风险分析

王 媚 ， 刘永志

(1.中国社会科学院大学 马克思主义学院，北京 102488；

2.燕山大学 马克思主义学院，河北 秦皇岛 066004)

意识形态工作是党的一项极端重要的工作。十八大以来，以习近平同志为核心的党中央总结过往经验教训，提出大力加强意识形态建设，增强中国特色社会主义道路自信、理论自信、制度自信、文化自信。习近平同志指出：“历史和现实反复证明，能否做好意识形态工作，事关党的前途命运，事关国家长治久安，事关民族凝聚力和向心力。”[1]网络是“当前宣传思想工作的主阵地”[2]，做好意识形态建设工作，必须把握好网络意识形态斗争话语权。但因为网络自身具有的“去中心化”特征和十年来人工智能技术、产业的迅猛发展，对当下网络意识形态建设与斗争工作提出了重大挑战，防范化解互联网重大风险，需要对几大核心“风险危机”进行深入分析，以便更全面地、更深入地把握和应对互联网潜在的危险因素。

一、 互联网人工智能技术内在的“去中心化”意识形态倾向

“去中心化”作为当下的一种网络生态，既体现了话语现象的变化，也体现了话语主体与话语客体的变革。现象是本质的外在具象化，网络话语现象则是网络话语主体与客体之间关系的映现。主体与客体不能脱离其对立面而单独存在，而是在二者的关系之中实现自我与对方的确证，因而，话语主体与话语客体始终保持着动态的、必然的、本质性的联系，这些联系与特定话语场域相结合，将抽象的话语关系限定在具体的范围与结构之内，也就展现为特定的话语现象。“去中心化”作为一种网络话语现象表征，与网络话语主体、客体的关系变化有密切的联系。从主体层面而言，“电子的介入使得语言的传播复杂化，并颠覆了总想把语言的作用限制为一种简单的表达媒介的语言主体。”[3]在网络传播媒介发展不成熟的时期，话语主体与客体呈现出一种简单的二元结构，同时，话语主体具有高度的信息掌控力与话语权威性，这种掌控力、权威性是以政治为依托、以主体为导向、以受体为对象的简单结构，因而形成了一种主体“中心化”。但是，随着大数据、人工智能技术的发展，话语传播渠道及其广延空间被极大拓展，话语表达的地位就逐渐从单单作为主体有意识、有目的、有规制的“应用工具”转变为在主体、客体甚至现象本身之中以及各要素之间相互联系、相互交织的内容。“去中心化”意味着传播主体与传播受体之间简易的二元传受结构被打破，使其从固定的、相对静止的状态转变为更具有动态性的、不断运动的状态，转变为“耗散性”的系统，在内在运动中推动着话语客体向话语主体的转变、话语主体向话语客体的靠拢。

从具体的意识形态治理层面而言，互联网的“去中心化”特征导致传统舆论传播模式下的官方话语权逐渐呈现出边缘化趋势。传统模式中以官媒引导为单一主体的舆论生态逐渐转变为以多方位、多层次、多领域、多渠道为显著特征的的分散式个人或小团队主体，舆论的“中心”由官方分散到民间。这在发挥民众表达自身政治、经济、文化、生态等多方面诉求，保护话语民主与传达建设意见的积极作用同时，也催生了一系列消极影响，直接体现在网络舆论引导的方向与程度上。当下的网络环境，以新兴网络自媒体为主要表现形式的分散、个体化的话语权的所有者往往会成为某一特定群体的意见领袖，在相当程度上影响着该意见群体的观点和诉求。一方面，这种情况为网络思想政治教育与网络意识形态建设工作提供了有利机遇，使“红色文化”能够不仅限于官方而是通过多种渠道、对多个群体产生引导效能，使意识形态工作从宏观整体向微观单位细化、深化，由面到点，为凝聚中国特色社会主义意识形态共识提供适应时代变迁的新方式、新路径、新手段；与此同时在另一方面，相较于经层层选拔进入专业岗位的官媒运营者，网络自媒体的水平与素质参差不齐，立场与观点也复杂多样，基数庞大的意见领袖们难以为主旋律话语权所辖制，这就为网络意识形态建设与主流价值观凝聚工作带来了相当压力，再加上网络全球化趋势的进一步深化、人工智能与大数据技术的进一步应用与普及，“意见领袖”的成分也在发生着变化，主体更加复杂，思想更加多元，差异与矛盾也更加凸显。

在人工智能技术广泛运用于生活领域之前，特定群体的意见领袖往往自发形成，是该群体中体现着个体共性的“代表”，因而在体现群体诉求的同时也能反作用于群体，为该群体的意见变更提供内在动力。但是，人工智能技术在网络领域当中的运用加剧了“去中心化”程度：一方面，“意见领袖”的主体即账号背后的运营者由单一的“人工”转变为“人工”与“算法”的成分交织，一个“人工”通过“算法”能在极短暂的时间内迅速创建数百甚至数千的代表同一意见诉求的群体，并完全有可能使某个“代表”担任该群体的意见领袖并渗透进其他的意见群体，与另一群体中的意见领袖争夺原有话语权……如此演替，民间特定利益群体的诉求表达的个体独立性将会越来越大，但在单一群体内部却会呈现出高度的同一性与一致性，对普通网民造成“潮流”“趋势”的错觉，进而不自觉地支持或加入这一可能被人为操控、引导的意见团体并形成合力——而一旦这种“合力”存在方向上的错误诱导与理论上的错误宣扬，又被鼓吹为该群体内的中心宗旨，便会存在群体思想混乱的危机隐患，不利于舆情风险的治理与社会秩序的稳定。另一方面，随着人工智能知识的普及与各种人工智能技术导致的社会负面新闻曝光，民众对其了解也进一步加深，这就会造成特定意见群体中的单位对其他个体甚至意见领袖的信任感危机，使正常的意见矛盾与冲突演化成指责对方是“机器人水军”的相互怀疑，正常的不同群体间意见争论演化成“站队风”“饭圈风”，丧失意见交流的理性基础，最终导致意见群体的解体——而这样的解体又会使意见群体进一步细化、分化，更加重了去中心化态势，从而加重这两大现象的危害程度。人工智能对“去中心化”态势的加强，无论是对于中国特色社会主义国家政治治理的话语民主性的彰显，还是对于主流价值观的凝聚与意识形态共识合力的引导，都提出了一定挑战。

二、 互联网人工智能技术应用引致的意识形态安全“三大危机”

辩证法视阈下的矛盾是对立统一的普遍存在。尼尔·波斯曼曾说:“每一种技术都既是包袱又是恩赐，不是非此即彼的结果，而是利弊同在的产物。”[4]人工智能技术的运用存在着正反两方面的作用效能，而无论哪一方面都放大化了当代话语环境“去中心化”的舆论特征，对网络意识形态安全提出挑战，需要深入分析研究，为提出方法论指导提供理论前提。

(一) 群体极化危机

“群体极化”指群体决策中的极端化倾向，这种倾向集中表现为个体在面对群体意见时展现出的依附性和推进性特征。根据说服论据理论，若个体意见与某个群体意见方向一致，则该个体在参与群体交流讨论后将表现出同一意见方向的程度深化，而这种个体程度深化又会对群体在同一方向的意见表达程度加深，从而导致群体意见逐渐由中立倾向向极端倾向演进，并具有彻底演化成极端非理性意见的内在可能性。这一点在互联网语境下体现得尤为凸显，集中体现为绝对二元对立思维下的立场分化与冲突。在群体极化发展到一定程度的情况下，不同意见群体接触、交流时，无论哪一方都将无法容忍己方“意见阵营”中出现不一样的声音，不允许持有与该群体的“统一表达”的其他立场和意见的人出现——因此，理性的声音便会在“沉默的螺旋”效应下变得作用式微，正如勒庞指出：“他们的感情和思想全部转到同一个方向，他们自觉的个性消失了，形成了一种集体心理。”[5]正是这种“集体心理”呈现的非理性话语生态，使群体意见诉求方向的可逆性无限降低。这种看似“集体”的表达实际上是个人的一种“异化”的“集体主义”心态，其本质是个人主义导向与集体主义倾向之间的矛盾体现，此时的群体话语权将由意见领袖主导，由意见团体争取，意见领袖的个人意识将不再是单纯的个人主义导向，而是集体主义倾向下的个人主义表达；同样，意见团体的集体诉求也不再是单纯的集体主义倾向，而是个人主义导向下的集体主义表达——这种个人与集体的矛盾运动便成为群体极化发生循环链条中的内在动力。

人工智能技术的运用使群体极化现象实现了横向的对象延展与纵向的主体深入。在算法的主导下，用户接触的各类信息将“投其所好”，只呈现其感兴趣的信息与其认同的观点和论述，而用户自身立场、观点便在这一过程中被不断固化，体现出“言论滤泡”效应。信息传播的受体将难以接收到观点相异的信息，被困于“信息茧房”中，即便因为算法之外的偶然性而接收到，也会因为主观上的排斥而进行自我过滤，造成观点的片面化与包容心态的退化，而这同样将会给网络意识形态斗争造成不良影响。从网络“左右问题”之争来看，一方面，原本在意识形态上站“右”的，接触的将会是铺天盖地的以宣扬“意识形态多元化”“新自由主义”“资本优越性”“资产阶级人性”等反马克思主义意识形态的内容为核心主题的文章、视频、言论等，使其在内心对马克思主义的认同感进一步下降，并对思想政治教育产生相当大的反感与偏见，视其为“洗脑活动”“政治灌输”，这就恰好为敌对势力的渗透与扩大埋下了隐患。而另一方面，在意识形态上相对靠“左”的，则不断接触铺天盖地的激进“革命”信息，很大一部分忽视客观历史进程与社会发展规律，忽视我国社会主义初级阶段的特殊国情，大力宣扬“资本社会主义”“国家资本主义”“新官僚资本主义”等极端错误信息，使其对中国特色社会主义道路产生误解，在有心人的恶意煽动、引导下，甚至不再去求证信息的真实性，极端反智地反对党的领导，成为“扛着红旗反红旗”的极“左”人士，在互联网上公然反党反共，宣扬极“左”思潮。这两种错误倾向都对我国意识形态建设与斗争工作造成了困难，甚至专业人士的理论科普在普遍性群体极化的生态中都很容易成为打击的对象，引导特定意见群体打着“人民群众”的幌子，妨碍理论的传播，使理论公关危机加深。

(二) 理论公关危机

人工智能背景下的理论公关危机体现在三个方面：第一表现为理论危机，第二表现为公关危机，第三则表现为上述两种危机的交融。如前所述，群体极化造成的极端思潮呈现出非理性特征，这种非理性特征又具有激进性与反智性，对专家学者的理论普及工作造成难题，并造成一个恶性循环：自身理论水平较高但工作忙碌的专家学者，不便或不愿为知识结构差异较大的对象进行理论科普工作，而自身理论水平不高却喜欢四处开会、座谈、拉关系的所谓“砖家”，则酷爱进行这种“科普”，并在其中时刻关注网络信息受体的“主流”观点，并顺着这一所谓“主流”观点见风使舵，借题发挥——即便与科学理论相违背，而产生了极化的群体，则可能对非激进的科学观点产生集体式、爆发式的排斥，更降低了“真专家”的科普积极性，使意识形态的理论科普出现危机。其次，由于极化现象在人工智能的促进作用下迅速扩展到观点相似、相同的广大受体当中，使一些正确理论也可能遭受“表面”上“多数人”的反对(实际上“沉默的”才是“大多数”，但“多数人”也因为前述的“沉默的螺旋”作用，表达自身意见的积极性较低，以防遭受不必要的攻击与针对)，而某一个体甚至某一机构，都需要因为随时可能爆发的极化风潮而进行本不必要的声明和公关，再加上资本在网络中成为影响甚至某种程度上能够决定话语立场的主要力量，便为一些学术上的见解带来“公关危机”，如“杨宜勇事件”“罗翔事件”等。而理论危机与公关危机的交织，则会进一步扩大二者的消极影响甚至产生“质变”效果，造成更大的“话语权灾难”。理论危机动摇民智，而公关危机则动摇民心。兰德公司某专家曾露骨直言，要搞垮中国，光靠曾经搞垮苏联的“西化”“分化”还远不够，还要再加上“四化”，即：让中国老百姓对政治淡化，让党政干部在市场经济大潮冲击下腐化，把中国领袖丑化，让马列主义在多样化意识形态下溶化。面对此种情况，对内我国需要采取措施提升民众言论识别能力、理性辩证能力、自我批判能力，坚持底线意识和重大原则意识，充分意识到人工智能技术的弊端，尤其是充分意识到人工智能技术被资本操控、滥用的重大消极意义，提升信息警惕性。对外我国则需要多手段并行，一方面通过技术手段，加强网络人工智能在国际情报工作、智库建设工作、数据分析工作等领域的运用，为网络意识形态斗争提供基础和底气；另一方面通过政治手段，加强对外来思潮尤其是易对国家文化安全和意识形态安全造成威胁和打击的错误理论思潮的审核、筛选，广泛与专家学者开展合作，以促进中国特色社会主义理论体系的建设与发展。

(三) 话语权混乱危机

话语权混乱危机本质上是一种“权威解构”，它由“去中心化”特征直接导致，并集中体现在对话语权威与主流话语体系的解构上。这种“解构”一方面代表着新的网络生态下话语民主的进步发展，但另一方面又往往陷入相对主义误区。在学界经常表现为忽视言论表达立场、观点、方法的统一，只强调方法，不强调立场与观点，以“普遍性”的“自由化”取代中国特色社会主义民主政治的“党性原则”。同时这种“解构”又打着“客观性”的幌子，以“去意识形态性”作为自我吹捧的论据，凸显自身的“理性、中肯、客观”，集中表现为对“言论自由”的极度敏感。在民间则表现为网络民粹主义的滋生与泛滥，无序解构所导致的后果就是单纯的反权威、反精英盲动，其破坏性远大于纠正性。在各方利益集团互相协调，各方利益矛盾集中凸显的改革“深水期”，人民群众对意见诉求的表达欲望极为强烈，正如马克思所言：“两个相互矛盾方面的共存、斗争以及融合成一个新范畴，就是辩证运动。谁要给自己提出消除坏的方面的问题，就是立即切断了辩证运动。”[6]“这种二重的、不同的存在必然发展为差别，差别必然发展为对立和矛盾。”[7]对于这些矛盾，刻意掩盖自非良策，而应当悉心听取并谋求解决之道。人工智能技术虽处于发展的高速期，但并未完全成熟，在提升民众利益表达反馈效率的同时，也因其在文字识别、文本分析等方面技术的欠缺造成了闭塞信息表达渠道的“相对新形式”，以关键字、敏感词筛选为主要方式的自动审核机制，为政治表达的底层话语民主带来了“404障碍”，很容易激发民众的政治逆反心理，使民众对政府公信力提出质疑，对中国特色社会主义政治治理模式提出不满，这不利于“四个自信”的深入人心，更不利于统一战线的巩固和社会主义核心价值观的凝聚。

同时，“去中心化”网络生态导致的话语权的让步、交替、混乱，加强了群体极化危机和理论公关危机滋生、爆发的可能性，加重其危害程度，再次形成恶性循环。针对网络舆论的“话语权”应该掌握在谁的手上、实质上又掌握在谁的手上的问题，有关部门迫切需要考虑详尽并提出应对措施。倘若人工智能技术成为了资本主体进行意识渗透、反动主体进行情绪煽动、反智主体进行理性否定的有力武器，马克思主义主流意识形态便会受到动摇，党的领导地位便会受到挑战，中国特色社会主义道路的科学性与人民性便会受到威胁。

三、 “三大危机”的内在关系分析

在对人工智能技术背景下的网络意识形态斗争三大危机的剖析中，始终穿插着互联网“去中心化”特征的主导与强化性循环。讨论三大危机的内在关系时，必须意识到网络舆情治理和网络意识形态斗争的本质，就是信息话语权的维护与争夺。“既不存在无语言载体的意识形态，也不存在无意识形态导向的空洞的语言形式。”[8]网络意识形态的同一性体现为话语民主，差异性则体现为舆论斗争，如果能认识到经济基础决定上层建筑规律在网络舆情治理中的运用，就能意识到在经济生产主体多元化的形势下，社会意识形态的多元化将是客观长期存在的。

虽然网络舆情发展规律是客观的不以人的意志为转移的，但舆情的主体是人，处理舆情是处理人与人之间的关系的一个方面，因而在网络舆情发展客观规律前提下，便存在着实践上的人为可介入性，这种可介入性在积极一面表现为风险的可控倾向，在消极一面则表现为风险的可操作倾向。而舆情风险的可控与可操作，本质上是主流话语权的身份捍卫与解构应对，一定程度上体现为主体与受体的动态的身份转化。因此，无论是群体极化危机还是理论公关危机，其起始点都是对话语权的争夺，而这种争夺则必然导致对原有话语权，即以主流话语权为主体的解构式冲击，并在争夺的动态过程中引发话语权的混乱与无序。正如马克思所说: “无论哪一个社会形态，在它所能容纳的全部生产力发挥出来以前，是决不会灭亡的。”[9]话语权斗争也是如此，当解构风险还在主流公关可以解决的范围内，这种无序将以温和方式逐渐平息，如公关“黄金24小时”便是对这种时间范围的界定。而一旦超出可控范围，便会在较短时间内引发另外两大危机——单一意见群体内的意见发酵导致的群体极化与规模性社会舆情事件牵涉的非当事主体的公关危机，进而如前所述，造成三大危机的恶性强化循环。这种强化性循环看似只是单纯的可控的舆论风波，因为无论是哪种危机，其突破口都是对话语权的争夺，而这种争夺在网络上呈现出的态势只是网民的有限争论，只要通过技术或行政强制力干预，就可以抽离话语权争夺平台，进而将危机“扼杀在摇篮之中”。可现实实践证明，倘若这种危机并不局限于普通的“社会事件”而是发生在社会政治领域尤其是意识形态领域，无论是技术还是行政强制力都将无法介入干预，因为“话语民主”的存在始终是人民群众的硬性需求，同时始终是一个国家政治治理得以正常运行的基本要求。在多平台的当下网络环境中，对一个意见表达渠道的强制干预，便意味着向另一个渠道的引流，分散式的意见表达将会在干预下集中到一个更为突出的渠道，造成更强烈的群体极化风险与更明显的意见同质表象，再度引发第二危机和危机循环。

然而，在三大危机相互作用的内在逻辑中，还为行政干预预留了作用空间。行政干预对意识形态的作用具有内外双重性，在双重作用影响下推动、促进网络意识形态建设与治理。从其外在作用逻辑而言，政治干预是作为合法性暴力的国家权力运用的直接手段，维护主流意识形态话语权，需要对合理政治民主的进一步强化与发展，但这并不意味着对政治威权的放弃。尤其在人民民主专政的社会主义中国，国家权力为人民服务，理应具备对侵害人民利益的事物的专政权力，一旦危机的发展超出了舆论可承受的弹性限度，影响到主流意识形态与价值共识，就必须要采用强制手段去进行压制与管控。同时，当下社会舆论尤其是网络舆论，其背后所蕴藏的，不仅是技术逻辑的应用，更是资本逻辑的运行。意识形态危机反映但并不完全反映人民群众的真实认同，而是很大程度上为资本逻辑所控制。因此，倘若任由其无限制地发展下去，舆论环境就会受到危害，国家主流价值认同就会被消解，进而冲击政权合法性，为内外敌对势力的价值渗透甚至为“和平演变”“颜色革命”等扫清障碍，具有很强的隐患。在这种前提之下，放弃行政干预的强制力，就等于放弃了网络中的“枪杆子”，因此，把握外在行政干预的发生逻辑，是必要性与重要性的统一。从其内在作用逻辑而言，相较于外在作用的“刚性干预”，其内在作用就是作为一种“柔性干预”。行政干预不单指以行政强制力为依托的话语威权，同时也具备以行政渗透力为依托的话语理性。在柔性干预方式下，行政力量通过自觉引导舆论导向，推动主流文化建构及其地位的提升，并能够在此过程中同话语客体与话语主体的意见领袖达成一定程度上的合作与协调，从舆论本身与价值认同、意识凝聚方面入手，在潜移默化中增强民众对政治理念和意识形态的理解与共识。这样一来，行政干预便通过双重性的作用方式，形成“刚柔并济”的干预模式，共同为网络意识形态建设与网络舆情治理提供合理恰当的方式、手段。

综合上述论证，我们可以得到网络意识形态治理“三大危机”即群体极化(Community Polarization)、理论公关(Theoretical Public Relation)、话语权混乱(Confusion Of Discourse)危机与行政干预(Administrative intervention)、去中心化(Decentralization)的内在联系及作用逻辑。“去中心化”潮流之下引发的话语权解构，首先以话语混乱的方式出现，进而导致群体极化危机和理论公关危机，并在这两种危机的相互作用下进一步加强去中心化的潮流趋势。而行政干预在其中，能够直接影响群体极化和理论公关出现的问题，话语权混乱危机严重程度的变化，也可以体现为行政干预对两大危机的削弱程度。行政干预虽也能影响话语权混乱危机，但无法从根本上完全消除，因为话语危机是“去中心化”潮流特征导致的，是作为自变量的“去中心化”程度的因变量，而非行政干预的结果，因此，行政干预至多可以通过刚性或柔性方式去减缓或削弱、调和话语权混乱危机，而只要政治民主性必然存在，话语权混乱危机在网络时代“去中心化”的权威解构趋势正是当前我国网络意识形态安全工作必须要重视的紧迫性问题。

四、 结论

互联网人工智能技术应用所引发的群体极化危机、理论公关危机和话语权混乱危机，助长了互联网自身的“去中心化”意识形态倾向，一定程度上耗散了网络空间的主流意识形态的凝聚力和引领力。网络舆情治理和网络意识形态斗争的本质，就是信息话语权的维护与争夺，话语权混乱危机是第一、第二危机的前提，而同时第一、第二危机又会反过来加剧第三危机的风险程度，造成恶性强化循环。惟有深入分析并提出对策，才能为中国特色社会主义意识形态建设奠定思想基础与理论基石，官方与民间应多方联动，加强对互联网生态的观察、分析、研究、监督，及时遏制网络舆论的歪风邪气，为新时代建设社会主义网络强国营造健康向上的网络生态。