算法技术意识形态属性的生成逻辑及风险应对

王天民，郑丽丽

（北京师范大学 马克思主义学院，北京 100875）

算法技术基于消费行为、社交关系、个人信息等数据，对网民进行数字“画像”，实现信息的高效分发与内容的精准推送。受算法技术的影响，网络意识形态的数智化水平显著提升，信息传播方式更加适配网民的个性化需求，但媒介生态格局的深刻变化也给网络意识形态安全带来诸多问题。诸如，算法技术与意识形态间存在何种内在联系？算法技术的意识形态属性会产生何种现实影响？如何有效应对算法技术意识形态属性可能带来的风险问题？这些都成为新时代网络意识形态安全领域亟待解决的重要问题。正如习近平总书记指出的：“网络意识形态安全风险问题值得高度重视。”[1]要深入探析算法技术的意识形态属性，认真审视算法技术意识形态属性的现实风险，并采取行之有效的应对措施，这对维护网络意识形态安全来说十分必要、意义重大。

一、算法技术意识形态属性的生成逻辑

从意识形态的视角考察算法技术，首先要正确理解科学技术与意识形态的关系。学界关于科学技术与意识形态间的关系有着不同的观点。一方面，以阿尔都塞为代表的学者认为科学技术不是意识形态，二者性质不同、不容混淆。在《保卫马克思》中，阿尔都塞将“科学技术”与“意识形态”看作相互对立的概念，二者间的“认识论断裂”意味着从意识形态到科学必须经历认识论上的质的飞跃。另一方面，以马尔库塞、哈贝马斯、芬伯格为代表的法兰克福学派学者则认为科学技术是一种意识形态。马尔库塞在《单向度的人》一书中指出技术理性本身就是一种意识形态，他认为科学技术在发达工业国家不仅是极具潜力的主要生产力，还是行政机关暴力合法化的意识形态新形式。在此基础上，哈贝马斯进一步指出科学技术就是意识形态，原因在于科学技术正发挥着超越技术本身的意识形态功能，蕴含在科学技术中的合理性成了新的意识形态的灵魂。伴随网络信息技术的发展，芬伯格将互联网技术同意识形态相结合，指出“技术能够构成一个自主的文化系统”[2]。综合来看，这两类观点都存在一定的片面性，无法完全反映科学技术与意识形态间的内在关联。考察算法技术的意识形态属性，需要回归马克思主义的世界观和方法论。在马克思、恩格斯看来，科学技术与意识形态之间既有本质上的性质区分，同时又存在不可分割的必然联系。一方面，科学技术是先进生产资料的表现形式，是推动生产力发展的重要组成部分，而意识形态作为社会历史发展的上层建筑，从属于生产关系的范畴，二者在性质上存在根本性的差异，不能混为一谈。另一方面，科学技术与劳动者、劳动工具和劳动对象间的紧密联系，在无形中会影响生产关系和社会关系的发展，实际地发挥着意识形态的功能和作用。在此观点的支持下，算法技术的意识形态属性主要体现为以下几个方面。

首先，算法技术的开发、设计与运行过程中隐藏着专业人员的主观思想和倾向。算法技术通过代码编写、数字建模和逻辑运算，在计算机程序中进行信息的海量化搜集、标签化处理、个性化推送。算法技术是人类理性设计的产物，其开发设计与操作运行都必须经由专业人员操作。专业人员在设计和操控算法技术时，总是会自觉或不自觉地将个人的主观意愿映射到技术原理和操作流程中。因而，算法技术的实际运行总是会受到专业人员知识水平、市场观念、专业技能等因素的影响。其一，专业人员依据对象、场景与效果等因素，开发和设计出基于内容的推荐、协同过滤推荐、关联规则推荐和组合推荐等算法技术类型。然而事实上，由于单一算法技术类型难以满足网民的多重需求，专业人员还需要不断对算法技术的类型组合进行统筹安排、升级变革。具体而言，专业人员依据网民的信息需求，提出设计方案，规划技术路径，并依据历史记录和使用惯例选择、配置、组合最优方案，从而实现信息的个性化推送与场景的多维化适配。其二，专业人员会将自身的情感偏好和价值倾向注入到信息筛选过程中，也就是说“算法设计者的价值观，无论有意与否都被冻结在代码中”[3]。专业人员的兴趣偏好、道德修养、阶级立场以及所处社会环境的风俗习惯、文化传统、伦理观念，都会造成专业人员有选择性地推荐或屏蔽某些信息，影响算法技术的信息筛选、分发、推送。简言之，算法技术不可避免地会受到专业人员主观意愿的影响和支配，带有不可磨灭的意识形态印痕。

其次，算法技术的运行结果会影响网民的思想观念和价值判断。算法技术的推广普及正在改变信息的分发和传播方式，深刻影响着网民的价值观念和行为实践。其一，相较于强制性的传统硬“灌输”，算法技术以网民可接受的柔和方式开展宣传教育。它通过消解传统主流媒体自上而下的信息传播路径，改变传统主流媒体集中控制的大众传播范式，实现由“人找信息”到“信息找人”的重要转变。“在算法为王的时代，一切被纳入算法中，算法是否具有价值偏向、算法能否得出客观公正的结论、大数据是否一定是完备的数据等，这些都会左右算法的结果，进而影响人的观念和行为。”[4]其二，算法技术通过有选择性地进行数据分析处理，影响网民对信息的准确理解和判断。算法技术的运行速度快、耗费成本低、经济效益高，能够帮助网民更好地完成数据分析处理工作，提升工作效率。但是，算法技术在数据采集、传递、解读、分析的过程中，常常存在数据歧视、数据造假、数据滥用等现象，难以保证数据结果的客观公正。造成这些现象的原因在于：数据处理过程及其结果总是受到资本或权力的隐形操控，服务于特定的群体或目标，具有明显的意识形态偏向。各类群体或机构有目的性地选取和分析“有利”数据，或是对数据间的相关关系进行牵强附会的过度解读，最终得出符合预期目标和利益诉求的数据结果。这些经过人为加工的数据结果极易误导网民对信息的判断与选择，买热搜、雇水军、刷评论等数据造假行为严重扰乱意识形态秩序。

再次，算法技术的运行过程受资本逻辑操纵，服务于特定的商业目的。资本在本质上是追求剩余价值的价值。算法技术的市场潜力大，盈利空间大，商业资本的逐利天性能够为算法技术提供物质支持，加速算法技术的商业化发展。算法技术的开发设计周期长、成本高、难度大，前期需要巨额的人力、物力、财力支持。各类算法平台的强势资本投入加快算法技术的技术研发和应用进程，推动算法技术在社会生活中的推广普及。然而事实上，资本逐利的市场化驱动也造成了网民的信息混乱、认知偏向、行为偏差，引发和加剧了网络意识形态安全风险。在马克思看来，“一旦有适当的利润，资本就胆大起来……为了100%的利润，它就敢践踏一切人间法律；有300%的利润，它就敢犯任何罪行，甚至冒绞首的危险”[5]871。无限度的资本逐利在实践中催生出“利益至上”的信息分发原则与“流量”崇拜的市场运作模式。算法平台为增强用户黏性、实现流量变现，不断迎合用户趣味、满足猎奇心理、制造绯闻噱头，以获取更高的点击量、访问量和关注度。在资本风向标的牵引下，算法平台可以将这些流量转换为热度和资本，实现商业获利、资本增值。在资本市场逻辑和商业逐利天性的支配下，算法平台逐渐表现出重流量而轻质量的倾向，出现“魏则西事件”、营销号恶意炒作、脱口秀肆意“玩梗”等现象。这些逐利现象导致低质量信息泛滥，严重扰乱网络意识形态空间秩序。

最后，算法技术极易“异化”为资本主义意识形态的输出工具，为不良思想传播提供技术“自由场域”。算法技术颠覆传统信息传播模式，形成信息推送与用户需求精准匹配的新模式。在算法技术场域中，社会主义和资本主义两种意识形态的斗争和较量越发复杂，给我国网络意识形态安全带来诸多挑战。一是信息霸权的挑战。在全球网络意识形态领域“西强我弱”“西攻我守”的格局下，西方发达资本主义国家凭借先在的软件技术和硬件设备优势，持续对我国进行意识形态渗透、攻击、破坏。在全球网络意识形态领域中，80%以上的网络信息和95%以上的服务信息都由美国提供，超过2/3 的国际互联网信息流量来自美国，而我国在整个互联网的信息输入、输出流量中仅占0.1%和0.05%[6]。西方国家通过编制带有算法偏见的程序应用，将算法技术作为西方价值观出口到全世界的终端工具，试图在全球范围内操控舆论走向、垄断规则制定权、控制国际话语权。二是价值多元化的挑战。西方国家借助算法技术实施“颜色革命”和“和平演变”，将资本主义意识形态和错误思潮观点输送到我国网络空间中。他们通过贬低社会主义意识形态、宣扬资本主义意识形态，将“西式民主”描绘为“救世良方”，把西方价值标准说成是“普世价值”，强行向他国灌输推销资产阶级思想、文化与制度。他们还通过算法技术大肆推送“意识形态终结论”“意识形态中立论”等错误价值观，对我国网络主流意识形态造成极大冲击。此外，他们还以我国网络空间中存在的社会问题为突破口，极力攻击、歪曲和抹黑中国特色社会主义道路、制度和理论，威胁我国网络意识形态安全。

二、算法技术意识形态属性的现实风险

算法技术在网络空间中的广泛应用，使其逐渐超越工具属性，以技术的逻辑和规则实际地发挥着意识形态功能。算法技术意识形态属性的间接性特征，让网络意识形态风险变得更加隐蔽、复杂和泛化，引发“信息茧房”、把关转移、娱乐泛化、圈层壁垒等一系列现实问题。

（一）“信息茧房”弱化网络意识形态的价值引领

“信息茧房”是指网民在通信领域中“只听自己选择的东西和使自己愉悦的东西”[7]，久而久之将自身像蚕茧一般束缚于封闭的信息空间中。算法技术依据网民的兴趣偏好进行信息推送，长期的同质化信息推送将人桎梏于“信息茧房”中，削弱网络意识形态的现实传播力和价值引导力。

“信息茧房”引发信息窄化，弱化网络主流意识形态的价值传播。算法技术通过收集和分析用户的搜索记录、浏览足迹、日志动态，依据其兴趣偏好和价值倾向进行投其所好的定向信息投放。这种私人订制的信息分发方式在满足网民个性化信息需求的同时，也会限制网民的信息获取广度和思想认识深度，导致网民的信息获取渠道固定化、信息接收窄化。“茧房”中的网民习惯于根据偏好选择特定的信息渠道，有意或无意地屏蔽、排除其他渠道的信息，造成传统主流媒体自上而下、集中控制的信息传播方式难以发挥效用，网络主流意识形态传统优势地位旁落。此外，长期的同质化信息推送还会引发和强化网民的“信息茧房”效应，非但无法满足网民全方位的信息需求，反而还会加剧网民的信息“偏食”和认知偏差。

“信息茧房”加剧认知固化，弱化网络意识形态的价值引导。算法技术大都根据网民既往的浏览偏好来进行个性分析，在此基础上持续推荐同类信息。在实践中，算法技术能够通过追踪网民的点赞、评论与转发数据，预测网民的兴趣偏好、思想观念和价值立场。有调查表明，当所追踪的“点赞”数超过300 个时，数据分析就能够深入到用户的潜意识层面，产生“比你自己更了解你自己”的效果[8]。“善解人意”的算法技术会依据网民的主观意愿推送信息，拒斥与偏好不符的异质化信息，遮蔽共识性的正统教育内容。而意识形态“共同‘视角’的缺乏，意味着人们对一些事实的判断会出现差异，共识难以形成”[9]。“信息茧房”中的网民长期依赖算法技术，缺乏主流意识形态共识，存在思维模式和认知结构的固化倾向。通过分析技术依赖与人脑功能退化之间的联系，施皮茨尔认为“推送即浏览”的信息获取方式并不能使人脑得到充分发展，反而会使人的思考能力和认知水平下降，导致“数字痴呆化”。而“信息茧房”内持续的同质化信息“投喂”会加剧网民的“数字痴呆化”，使其难以全面认识、深度思考信息内容，导致主流意识形态价值引导作用难以发挥效用。

（二）把关转移消解网络意识形态的人文关怀

随着传播环境的变迁，信息“把关人”的作用逐渐被算法技术和网民所取代，由其对网络信息进行选择、分析、处理与审核。“把关人”权力向算法技术的转移有助于推动信息审核提质增效，但也会消解网络意识形态的人文关怀与情感互动。

机械化的算法把关程序阻碍主流价值观念的现实彰显。传统媒体的把关权由记者、编辑等媒体人掌握，他们秉持主流价值导向进行专业判断和内容审核。然而，媒体人把关对人员素质要求较高、审核效率偏低，无法完全满足网络时代庞大的信息审核需求，因而将把关权逐步让渡给高效智能的算法技术。算法技术借助预设的计算机程序代码，能够快速地对海量信息进行筛选、过滤、审核，提升信息审核分发效率，但机械的算法审核过程难以完全体现意识形态的情感互动和价值关切。算法把关依据数据、规则、程序进行工具的标准答案比对和标注，表现为重“速度”、轻“温度”。算法技术运用数据模型和逻辑演算进行信息初筛，接着对标题、关键词、标签、分类词等信息进行特别关注和对比识别，最终经由计算机程序输出审核结果。环环紧扣的运行程序，难以嵌入并彰显意识形态的价值关切。此外，看似客观中立的算法把关背后潜藏着用户需求至上的基本原则。算法把关建立在算法信息推送的基础上，个性化信息推送是算法把关的内容来源。也就是说，符合网民偏好的信息将被优先推送和审核，而不受青睐的主流意识形态内容则会较少被推送和审核，甚至可能会因为被标记为“不感兴趣”而被挤出算法审核范围，主流意识形态内容很难得到应有的关注。

工具化的算法审核流程淡化意识形态的人文情怀。算法把关借助事先设定的计算机程序代码，将审核内容与既有的词汇库和语料库进行对比识别，从而推断审核内容的信息真伪、价值倾向、情感反应是否合理。固定化的算法技术审核流程能够对信息进行有限的初步筛选，但却无法实现对内容的精准把关。一方面，流水线化的算法审核流程难以体现网民的个体能动性。以“微博热搜”的算法把关机制为例，平台通过将“热搜”量化为时新性、流行性、参与性、导向性等具体指标，沿着设定的算法审核流程对相关信息进行把关，建构“大家正在搜”的拟态环境[10]。然而，事实上的“大家”并非真实存在的个体，网民在审核流程中发挥的作用微乎其微，真正起作用的是“热搜”算法预设流程中对“大家”的预期。另一方面，网络意识形态是具有强烈人文价值关怀的观念体系，内蕴丰富的情感特质、态度倾向、人性差异，而这些彰显意识形态人文关怀的内容却在审核过程中被简化为无差别的数字代码，难以准确传递和表达内容中的情感意向。工具化的算法审核流程造成意识形态内蕴的人文情怀被逐层稀释、淡化甚至消除，加剧工具理性僭越价值理性的意识形态风险。

（三）娱乐泛化冲击网络意识形态的内容传播

在以资本逐利为导向的商业逻辑驱使下，分发效率超越内容质量成为算法技术的信息推送依据，造成娱乐化信息挤压主流意识形态内容空间，网络空间“劣币驱逐良币”，主流意识形态内容受到极大冲击。

从内容“需求侧”出发，网民是算法技术的使用者和消费者，算法技术坚持以用户为导向提供信息服务。网民在较为私密的移动终端使用中表现为“猎奇心重，对低俗内容较为敏感”[11]，娱乐化的低质量信息往往比主流意识形态内容更受关注，获得更高的点击度、关注度、讨论度。对于以商业逐利为目标的算法平台而言，点击度、关注度、讨论度意味着流量、热度和利润，“流量至上”“数据至上”取代内容质量成为衡量推送信息价值的评判标准。算法平台通过挖掘和放大网民的信息需求，持续推送符合偏好的娱乐化信息，加剧泛娱乐化思潮的传播。在算法技术过程中，“有意义”的内容不如“有意思”的内容吸引人，宏大严肃的意识形态宣讲不如嬉笑怒骂更受人追捧，严肃的批评教训不如嘲讽幽默更能吸粉出圈。如果网民长期沉浸于暂时性的精神愉悦和感官刺激中，很可能将个人的娱乐偏好当作普适标准，抵触和排斥主流意识形态内容以及其他有益信息。

从内容“供给侧”出发，算法平台通过推送娱乐化信息来取悦和愉悦网民，实现流量变现和资本增值。但过度迎合网民需求的信息推送行为，会干扰网民的价值判断和选择，造成网络空间的价值偏移和行为越轨。算法技术的意识形态属性使其具有不同于其他商业领域的公共职责。算法平台不仅是遵从商业逻辑的技术平台、商业平台，还是意识形态信息传播的公共平台。这要求算法平台在追求商业盈利的同时必须承担起社会责任。但事实上，一些平台专门提供“买热搜”“置顶”“推荐”“删帖”等不正当信息服务，甚至雇用网络推手和网络打手推广营销软文、策划热点事件、组织网络攻击。这些不良平台生产、制造和传播大量虚假信息、有害信息，弱化信息分发与传播的公共职责，让算法技术成为资本兴风作浪的工具，严重危害网络意识形态安全。

（四）圈层壁垒降低网络意识形态的观念认同

算法技术依据用户标签和社交关系进行信息匹配，将具有相似偏好的用户聚集在一起，形成内部价值观念同质化的网络圈层。同时，不同圈层间的价值观念差异形成信息壁垒，导致主流意识形态难以“入圈”传播，降低圈层成员对主流意识形态的观念认同。

同质化的圈内价值观念增大圈层信息壁垒，阻碍主流价值观念的“入圈”传播。算法技术依据个人信息和社交关系进行关联规则推荐，在拓宽好友范围、壮大圈层规模的同时，也会放大不同群体间的价值观念差异，加大圈层信息壁垒。算法平台将社交关系纳入用户信息源，通过获取和分析通信录、好友列表、关注列表、社交账号等信息，挖掘相似兴趣标签间的社交关联，进而以“附近的人”“好友推荐”“可能认识”等方式推送信息。网民可以根据兴趣偏好和价值取向筛选信息，判断社交关系的亲疏远近以及自身与圈层间的适配性，主动建构并融入相应的圈层中。这意味着圈内成员接收到的大多是符合偏好的信息推送，圈外的有用信息难以“入圈”传播，圈层内外形成一道隐形的信息“隔离墙”。一方面，圈内高度同质化的兴趣偏好和价值观念，会在群体氛围中形成强化个体观点的“回音室”效应，圈层成员的思想观点和感性情绪会被无限放大。一些成员的错误观点和自发行为可能会在群体氛围的发酵下演变为数据造假、“氪金打榜”等非理性行为。另一方面，长期的算法信息推送还会加深圈层间的信息偏差，增大圈层间的信息隔阂。受圈层间价值观念差异的影响，圈层成员往往只认同自身所处的圈层，并不自觉地产生盲目排他的态度。圈层内外成员互不理解、互不认同，极易出现频繁投诉、恶性举报等圈层对立甚至对抗行为，严重阻碍主流价值观念传播。

“去中心化”的圈层传播结构增大沟通壁垒，降低圈层成员对主流意识形态的接受度和认可度。圈层传播的“去中心化”主要表现为网络主体结构由单中心演变为多中心，信息生产的全民性和意见领袖的多样性分散网民对主流意识形态的注意力和关注度。圈层意见领袖是圈层中的核心人物，影响力大、活跃性强、认同度高，能够影响和改变成员的思想行为。算法技术通过向圈层成员推送相似兴趣社群的意见领袖，增强成员的圈层黏性，具体包括：利用多特征挖掘算法（Multi-Feature PageRank，MFP）进行意见领袖识别；利用基于网页排名算法（PageRank）进行意见领袖挖掘。然而在现实中，算法技术往往同时借助多种媒体进行传播，使得同一圈层在不同社交平台上的意见领袖有所不同。而不同意见领袖间的思想分歧又会造成成员的认知偏差，加大圈层成员与意见领袖以及意见领袖之间的沟通壁垒。此外，当圈层成员对意见领袖们的思想观念存在异议时，往往会迫于群体压力和被孤立的恐惧而选择沉默，这使得圈层内仿佛只存在意见领袖的观点和看法，圈层成员的意见显得微不足道，极易产生群体分化乃至极化现象。一旦群体分化，圈层成员所“看到的是他们所期望看到的，道德评判通过充满感情的刻板成见、标志符号、幻象而在这其中起到引导作用”[12]。他们通过搜索支持自身观点的信息进行身份确证，即便有些观念存在事实性错误，他们也会对此坚信不疑。这种如同被“洗脑”般的盲信盲从，催生出粉丝为偶像“倒奶”打投等荒诞行径，增大主流意识形态的传播难度。

三、算法技术意识形态属性的风险应对

面对算法技术带给网络意识形态的诸多挑战，保障网络意识形态安全必须理性看待技术应用的现实影响，充分发挥其优势，主动规避其弊端，从强化价值引领、提升媒介素养、加快媒介融合、完善防控体系四方面进行综合应对，维护网络意识形态安全。

（一）守正创新：坚持以主流价值导向“驾驭”算法发展方向

算法技术在推动信息传播高效便捷的同时，也使得网络舆论生成机制更加多元分散、网络信息空间更加纷乱繁杂，网络意识形态价值引领的任务比以往任何时候都更加复杂困难。习近平总书记强调要“用主流价值导向驾驭‘算法’”[13]，用网络主流意识形态统领算法技术发展。为此，首先要坚定政治方向，强化党对意识形态的全面领导。在网络意识形态风险治理中，政治方向是第一位的问题。习近平总书记多次指出，苏联解体、苏共垮台的根源在于意识形态上的摇摆、分裂和争锋。为此，我们党必须吸取经验教训，坚持正确政治方向不动摇，牢牢把握党对意识形态的主导权、领导权和话语权。尽管当前社会主义与资本主义两种意识形态的力量对比发生了有利于社会主义的历史性转变，但是全球意识形态斗争未曾片刻松懈，西方敌对势力与各类错误思潮观点借由算法技术加紧对我国进行意识形态渗透和攻击。坚持以苏为鉴，就必须在举旗定向上保持清醒、立场鲜明，巩固马克思主义在意识形态领域的指导地位。同时，还要强化阵地意识，加强主流意识形态的阵地建设和管理。算法技术的迅速发展加剧思想阵地争夺战，“红、黑、灰”三色地带的斗争和较量尤为尖锐。红色地带是网络意识形态建设的主阵地，掌握着主流意识形态的话语主导权和议题设置权，需要不断予以巩固和拓展；黑色地带由网络负面言论、错误思潮观点以及西方敌对势力舆论等构成，需要主动运用马克思主义立场观点方法予以批驳和反击；处于前两者之间的灰色地带，则需要通过主流意识形态的价值引导与思想转化，加快推动其转化为红色地带。

坚持以主流价值导向“驾驭”算法发展方向，还要积极推动主流意识形态融入算法技术的内在机理与运行框架，充分发挥主流意识形态在技术应用中的主导权。一是要强化主流意识形态在算法技术运行中的主导作用。主流意识形态对技术逐利逻辑和流量导向的价值规制，能够在很大程度上解决算法技术自身的工具偏向和结构缺陷。算法平台要以主流价值观念为引领，推动主流价值观念融入并贯穿算法技术的信息采集、生产、分发、接收、反馈全过程，在追求经济效益的同时保障技术使用的正当性。具体而言，“办网站的不能一味追求点击率，开网店的要防范假冒伪劣，做社交平台的不能成为谣言扩散器，做搜索的不能仅以给钱的多少作为排位的标准”[14]。二是要增强主流媒体的话语权。主流媒体是网络意识形态传播的主力军，必须主动顺应媒体融合发展的新趋势，带头推动优质内容生产能力和算法技术传播优势相结合，抢占思想引领、舆论引导、服务人民的传播制高点。《人民日报》主动推出新媒体聚合平台“人民号”，运用算法技术提供信息的生产、分发、传播服务，将主流价值观念转化为精准化的信息推送和沉浸式的内容导览，不断拓展主流意识形态的影响力版图。

（二）观念变革：强化网络意识形态智能技术安全教育

加强网络意识形态智能技术安全教育，关键是要增强网民居安思危的忧患意识。为应对算法技术意识形态属性风险，网络意识形态安全教育首先要增强全局性的风险防控意识，坚持防范“灰犀牛”和警惕“黑天鹅”相统一。在百年未有之大变局下，网络意识形态时刻面临着被内生或外来风险因素威胁和破坏的可能性。“灰犀牛”风险的发生概率大、冲击力强，能够被识别但却常被忽略，需要在实践中增强发现和识别“灰犀牛”事件的能力，并积极采取有效措施，及早防范风险；“黑天鹅”风险的发生概率低、风险系数高，基本无法提前预测，需要时刻警惕“黑天鹅”事件的发生，增强算法系统和平台的风险防御力，提高遭遇重大意识形态风险事件的反脆弱性。其次要强化风险底线思维，防范意识形态风险链的传导放大。在信息裂变式传播与风险动态发展机理的综合作用下，各类网络意识形态风险相互交织、叠加，一旦防范不及、应对不力，极易使风险在空间、量级、性质上演变升级。强化意识形态风险底线思维要做到认得清、想得到、管得住，不仅要时刻保持如履薄冰的谨慎和一叶知秋的敏锐，最全面地考虑到可能发生的各类情况，还要以科学的具体工作方法进行应对，做最充分的工作准备、思想准备、心理准备，在激烈的网络意识形态斗争中防患于未然。

强化网络意识形态智能技术安全教育，还要锻炼提升网民的意识形态风险防控能力。增强网民的意识形态风险防控能力，一是要提高算法技术驾驭能力。通过开设算法素养课程、开展宣讲活动、发放知识手册，帮助网民树立对待算法技术的理性认知，提升运用算法技术传播主流意识形态的现实能力。二是要提高意识形态风险化解能力，这关系到算法技术的最终效果。网民要在实践中锻炼提升透过复杂现象把握本质、抓住要害、找准原因的能力，在直接的风险防控实践中逐步提升风险化解能力，及时纠正价值偏移、行为越轨等不良现象。在海量网络信息中把握主流意识形态的发展规律，在批驳错误思潮观点中坚定主流价值导向，善于应对和化解算法技术意识形态属性可能带来的风险挑战。三是要充分发挥网络意见领袖的榜样示范作用。加快培养认同和支持主流意识形态的网络意见领袖，发挥其在网络意识形态传播中的关键性作用，最大限度地凝聚价值共识，实现主流意识形态的有效传播和广泛认同。

（三）优化革新：加快网络意识形态智能技术升级变革

算法技术的升级变革是防范化解网络意识形态风险的重要条件。加快网络意识形态智能技术优化革新，首先要推动主流意识形态融入数据标签化处理过程，推动更多优质内容注入算法“信息池”。算法技术的数据标签划分以主流意识形态为标准，对符合主流意识形态的信息作出显著标识，允许其继续传输；对具有颠覆意识形态性质的违法信息和不良信息，以技术的方式进行屏蔽和禁锢，防止信息扩散。其次要以主流意识形态规范数据分析和处理过程。算法信息推送不仅要熟悉用户的思想行为动态，明确用户的信息选择偏好，还要善于分析用户的信息盲点，充分挖掘数据背后的意识形态价值。此外，要增大主流意识形态内容的算法推送占比，强化算法技术的意识形态属性。合理设定同质化信息推送的频率和限度，有效破解“信息茧房”效应，同时还要积极开发信息“反向推送”技术，不时向用户推送其无直接兴趣但符合主流意识形态的优质信息，特别要在首页首屏、热搜、榜单、精选、弹窗等重要环节推送主流意识形态内容，构建开放包容的意识形态内容推荐图谱。

加快推进算法技术优化革新，还必须保障技术运行过程及其结果的透明公开和安全可靠。一方面，要在深度学习算法中适当引入可理解的人工规则，实现机器审核和人工干预的双重把关。既要巩固和扩大机器审核的效率优势，从技术源头上扩大算法模型的筛选范围，扩容算法模型的选择维度；又要合理运用人工干预机制，配备与信息需求相匹配的审核编辑队伍，加强人工审核培训，提高审核人员的道德素养与专业水准。在算法运行中引入人工干预，不仅能够对经计算机过滤后难以识别和定性的信息进行深入分析和准确判断，最大限度地降低违法信息和不良信息被算法推送的概率，还能够引导机器语言输出主流意识形态内容，借助人工客服、评价反馈、星级评分等途径畅通民情民意的表达渠道。另一方面，加强算法技术及其运作的安全评估监测，定期审核、评估、验证算法机制机理、模型数据与应用结果。强化技术安全评估监测，必须规范用户模型与标签管理，完善计入用户模型的兴趣点规则，禁止设置诱导用户沉迷、过度消费等违背主流意识形态的算法模型，禁止将具有意识形态颠覆性质的关键词作为用户标签并以此推送信息。同时，还要加强算法技术服务版面页面生态管理，综合运用内容去重、打散干预等策略，优化检索、排序、选择、推送、展示过程的规则透明度与可解释性。

（四）保障升级：完善网络意识形态智能风险防控体系

完善意识形态风险防控体系，是防范和化解意识形态风险的必然要求。传统意识形态管理体系无法完全适应和解决算法技术场域中的新特征、新问题，存在多头管理、职能交叉、权责不一、效率不高的弊端。因此，必须完善网络意识形态审查制度，加大依法治网力度，实现算法技术意识形态风险的可管可控。

完善算法技术场域的意识形态风险防控体系，需要从风险的有效预警、科学评估、分类管理着手。一是建立健全意识形态风险预警机制。通过大数据信息收集系统、网络智能分析中心、舆情智慧监管进行常态化的意识形态风险监测，对可能引发意识形态风险的社会事件和现实问题进行演化预判与有效预警，从而把握时机、转危为机。二是建立健全意识形态风险评估机制。网络意识形态风险评估坚持以党的领导为核心，政府部门、行业组织、技术单位协同参与，共同构建起政府监管、企业履责、行业自律、社会监督的风险治理格局。对待已经初露苗头的敏感性事件或社会思潮，要及时启动意识形态风险评估，科学研判意识形态风险类别和等级，制定并采取风险化解方案，把握风险治理的管控权。三是建立健全算法分级分类安全管理制度。用户分级管理制度能够依据用户的浏览足迹、历史记录、跟帖评论行为展开信用评估，根据信用等级确定服务范围及内容，将严重失信的用户列入黑名单，停止提供服务并禁止其重新注册账号。算法技术服务的分层管理制度根据信息舆论属性、社会动员能力、程序操作标准、对用户行为的干预程度实施分类管理，提升意识形态风险管控的精准性。

以完善的互联网法律法规防控意识形态风险。《互联网信息服务算法技术管理规定》《关于加强互联网信息服务算法综合治理的指导意见》《互联网跟帖评论服务管理规定》等专门文件的相继出台，为防范化解算法技术场域的意识形态风险提供了明确的行动规范与制度保障。坚持依法治网，首先要在法律层面上明晰技术与数据的使用要求，严禁任何个人和组织将敏感隐私数据、虚假反动数据纳入数据应用范畴，禁止任何违背个人意志的数据捕捉和数据滥用活动，杜绝不实言论、非法资讯等负面信息在网络上的扩散蔓延。其次，要明确政府、企业、行业组织和个体在算法技术应用中的权利、义务和责任，明确算法平台及相关责任主体违背法律规制的可能后果与惩治办法。相关部门要切实履行职责，通过约谈、整改、查封、禁言等形式规范网络信息传播活动，积极开展“清朗”“护苗”等网络专项整治活动，探索从源头治理意识形态风险的有效策略。通过完善互联网法律法规，推动网络意识形态活动进入有法可依、有法必依、执法必严、违法必究的运行轨道，营造风清气正的网络空间。