算法推荐技术应用中的意识形态安全风险与防范策略

摘 要：作为数字时代主导信息传播的新技术——算法推荐技术正在重新建构社会的思想、行为和价值。算法推荐技术主导下的信息传播影响主流意识形态安全，其“去中心化”“信息茧房”“泛娱乐化”导致主流意识形态主导地位降低、内容供给不足、价值引领被消解、主流话语权被稀释。算法推荐技术应用的价值理性与工具理性失衡、网络平台及用户总体国家安全观的理念缺位、意识形态安全风险防范的监督和责任落实不足等多重因素导致了算法推荐技术应用中的意识形态安全风险。当前算法推荐技术应用中的意识形态安全风险防范应从以下四个方面予以改进：优化算法推荐下意识形态安全的技术支撑；增进社会公众对算法推荐技术的广泛了解和意识形态安全素养，特别是提升社会公众的总体国家安全观意识；健全算法推荐运行的意识形态安全监督制度；明确算法推荐技术运行中各主体的意识形态安全责任。

关键词：算法推荐；意识形态安全；价值引领；思想政治教育

基金项目：国家社会科学基金西部项目“刑事司法数据安全保护视域下缔结《联合国打击网络犯罪公约》研究”（23XFX024）；海南省法学会法学研究课题“海南自贸港安全治理现代化研究”（HNFX（WT）2023-01）；海南省高等学校科学研究项目“总体国家安全观融入海南自贸港建设的理路研究”（Hnky2024-80）。

［中图分类号］ G312 ［文章编号］ 1673-0186（2024）007-0086-013

［文献标识码］ A ［DOI编码］ 10.19631/j.cnki.css.2024.007.006

习近平总书记指出：“能否做好意识形态工作，事关党的前途命运，事关国家长治久安，事关民族凝聚力和向心力。”［1］当前，大数据、人工智能、云计算等新兴科学技术迅猛发展并广泛应用。在新闻传播领域算法推荐技术逐渐成为新闻信息传播流通的主渠道，数字时代的主流意识形态安全由此面临冲击和严峻挑战［2］。习近平总书记强调，“在互联网这个战场上，我们能否顶得住、打得赢，直接关系我国意识形态安全和政权安全”［3］，“用主流价值导向驾驭‘算法’，全面提高舆论引导能力”［4］。如何驾驭算法推荐技术，科学有效地防范化解主流意识形态安全风险，让算法推荐技术服务于主流意识形态，无疑是数字时代亟须解决的现实课题。

围绕算法推荐技术与主流意识形态安全风险化解，学界已经开展了相关研究。但对于算法推荐技术是否会造成意识形态安全风险，已有研究的观点不尽相同。部分学者持乐观态度，认为算法推荐技术为主流意识形态传播提供了便利，极大地提升了传播效率，创新了信息传播的格局。也有部分学者持悲观态度，认为算法推荐技术广泛应用可能带来意识形态安全风险。随着算法推荐技术的广泛应用，其对意识形态安全、对思想政治教育的影响已逐渐成为学界共识。但综观已有研究成果，存在以下不足：一是交叉学科视角研究不足导致已有成果对现实的解释力不强。部分研究将算法推荐技术和意识形态安全风险割裂开来，分别从经济学、传播学、新闻学、政治学等视角对风险进行描述，鲜有从国家安全学等交叉学科视角出发，运用总体国家安全观的思维方法对算法推荐技术的适用主体、对象、范围、权责关系等加以审视［5］，进而有效解释算法推荐下的主流意识形态安全风险及其防范逻辑。二是微观视角研究不足导致对策的操作性不强。部分研究成果比较注重宏观层面的背景叙事，所提建议单纯聚焦于防范意识的提升，欠缺微观层面的制度策略建构和相应的可操作性分析。

算法推荐技术是运用人工智能让计算机不断进阶并寻找新数据以作出判断的技术［6］。作为数字时代主导信息传播的新技术，算法推荐技术运行的大致过程展开如下：先是搜集用户信息和相关数据，然后利用已有数据信息对用户进行“画像”，进而制定个性化推荐方案，精准推荐相关信息，增强用户黏性，最终形成稳定的用户群体实现相关的经济利益。算法推荐的过程也在传递思想观念，这个过程正在重新塑造社会整体的思想、行为和价值。立足学界已有研究，本文拟从总体国家安全观视域下意识形态安全的视角审视算法推荐技术，采用国家安全学交叉学科的方法分析算法推荐技术的本质，研判其对意识形态安全的影响，找寻算法推荐技术应用中意识形态安全风险的多维成因，探讨算法推荐视域下意识形态安全风险防范的策略，这对确保数字时代意识形态安全，引导算法推荐技术向有利于经济社会发展的方向转变，具有重要的理论意义和现实意义。

一、算法推荐技术的本质及其与意识形态安全的关联

算法推荐技术单纯作为技术本无可厚非，但其应用到具体社会生活场景特别是新闻传播领域后，通过搜集相关数据信息并分析，向用户精准推送阅读内容，这个过程事实上已经在主导新闻信息传播。而新闻信息传播是建构社会整体思想、行为及价值，影响意识形态安全的重要媒介。由此，从意识形态安全的角度分析其与算法推荐技术的关联尤为必要。

（一）算法推荐技术的本质及特征

1.算法推荐技术的本质

算法推荐技术的第一属性是技术属性，主要有基于内容、协同过滤和实时流行热度等不同类型［7］。算法推荐技术的基础是人工智能算法模型，人工智能算法模型的优势在于短时间内迅速完成相关指令，并为决策提供客观的数据参考。其瞬时化、数据化、精准化判断，可以最大限度提高社会资源整合与配置效率。人工智能算法模型的设计和构造并不是完全客观的，而是蕴含着鲜明的价值取舍和丰富的利益计算［8］。算法推送系统获取和推送内容并非来自人类“大脑”的主动选择，而是通过某种计算方式和计算模型去归纳用户的“兴趣偏向”，这种模型设计往往伴随着算法模型设计者的主观偏好。具体来说，在算法模型中选取何种用户画像、搜集用户浏览频次、计算用户浏览时长、有关权重的设定、数据的获取、变量的取用等都会彰显算法模型设计者的价值观念。所以，算法推荐技术并非仅仅是一套运算程序，而是“算法、团队及其新闻价值观在内的一整套系统架构”［9］。

因此，从表面上看，算法推荐技术作为一种信息推荐技术，仅仅是信息传播的手段。实质上，无论是依据内容推送、数据模型推送、协同过滤推送还是热点排行推送，算法推荐技术都是资本逻辑主导、蕴含模型设计者主观价值、控制利益分配、影响思想认知、进行价值引导的算法权力，是一种“以治理为目标的权力关系”［10］。这种权力与传统的显性的强制性权力不同，更多是一种新型的隐性的软性或柔性权力，表面上它不强迫别人做任何事情，但其利用信息技术迎合用户偏好在潜移默化中改变用户的思维认知和行为方式，从这个角度看，算法推荐技术具有鲜明的意识形态属性。

2.算法推荐信息的特征

算法推荐技术在新闻传媒领域的广泛应用促成了新闻信息传播的定制化、娱乐化、社交化、个性化、高效化、动态化，也改变了当前新闻信息传播的格局，深度影响着社会公众的认知。与传统媒体的信息传播不同，算法推荐技术主导下信息具有如下特征：

第一，算法推荐技术主导的信息更加高效化和多样化。数字时代的新闻信息是海量的，算法推荐技术依托人工智能和大数据技术快速搜集海量信息并分类、聚合，然后按照用户“需求”进行精准推荐，新闻信息传播的效率极大提升。不仅如此，与传统媒体相比，算法推荐信息还具有多样性。传统媒体如报纸受版面的限制，容纳的信息量非常有限，无法实现信息的多样化供给。而算法推荐技术可容纳整合的信息量是无限的，其信息涵盖了政治、经济、社会、文化、生态的方方面面，通过挖掘信息存量，拓展信息增量，实现了信息的多样化供给。

第二，算法推荐技术主导的信息更加个性化和娱乐化。传统媒体以“信息生产者”为本位，通过专业的编校进行严肃的新闻信息内容生产和传播，其所提供的信息内容是标准化产品，难以兼顾不同用户的个性化需求。算法推荐技术以“受众”为本位，在数据收集和分析的基础上，实现对用户的针对性推送，满足了不同用户群体的个性化需求。此外，算法推荐信息呈现出泛娱乐化的倾向。这主要是因为相比严肃的政治新闻等信息，娱乐信息、网络游戏更容易获得用户的青睐。随着算法推荐技术的逐渐成熟，国内外媒体为赢得更多用户关注获取流量，不断加大娱乐信息的投送数量以满足多数用户群体的需求，泛娱乐化问题不可避免地出现了。

第三，算法推荐技术主导的信息更加动态化和社交化。传统媒体的信息生产流程较为复杂，导致社会公众获取新闻信息的周期相对较长，时效性相对较弱。算法推荐技术的广泛应用实现了新闻信息的实时更新和动态传递。不仅如此，当前的算法推荐技术还实现了与用户社交数据的高度关联，用户在检索新闻信息时，网络平台会优先呈送关联用户浏览的内容及看法。由此，算法推荐技术实现了新闻信息传播与社交圈层的紧密对接，整体上呈现出社交化、互动化的特征。

综上，相较于传统媒体，算法推荐技术在新闻信息传播领域所呈现出的新特征使“人找数据”转变为“数据找人”，信息的“供—需”结构发生了重大变化，这个变化本身蕴含了一系列风险和隐患，需要加以审视。

（二）算法推荐技术与意识形态安全的关联

习近平总书记指出：“意识形态关乎旗帜、关乎道路、关乎国家政治安全。”［11］在总体国家安全观视域下，意识形态安全是文化安全的重要内容［12］，也是国家安全体系的重要组成部分。意识形态是指一套关于社会、政治、经济、文化等领域的价值观、信念、观点和理念的体系。它影响人们对世界的认知、价值判断和行为选择，对个人和群体的思想和行动产生深远影响。所以，主流意识形态安全不仅关乎个人价值观的形成，更关乎社会秩序和国家安全。意识形态安全一旦发生风险，很可能引发价值紊乱、秩序混乱、信仰崩塌的严重后果。新闻信息传播与意识形态的塑造之间存在非常紧密的联系。通常来说，新闻信息传播主要通过凝聚价值共识、引领正向价值、塑造社会心态等途径形塑主流意识形态。正因如此，法兰克福学派认为，媒介即意识形态［13］。马克思主义也将大众传播媒介视为上层建筑的重要组成部分［14］。数字时代算法推荐技术的广泛应用，使社会公众面临多元文化思潮的不断冲击，本土文化和外来文化、传统文化和现代文化冲突交融，导致意识形态安全面临一定风险，主流意识形态的政治认同和教化功能难以有效发挥。

算法推荐技术应用中的意识形态安全风险主要表现在两个方面：第一，信息传播更加隐匿，改变了意识形态阵地建设和主流价值观念传播的场域。政治传统的意识形态阵地建设和信息传播主要通过传统媒体在现实空间进行，依靠意识形态思想政治教育进行信息传递，进而积极改变人脑中思想政治素养的具体存在状态［15］。算法推荐技术将意识形态之间的较量拓展至虚拟空间，行为更加隐匿，方法更加多元，给意识形态安全造成了很大风险。第二，传播主体和渠道更加多元，改变了意识形态塑造的方式。传统的信息传播模式以信息生产者为主导，以信息传播渠道为依托。传统媒体掌握信息生产和渠道就可以实现信息传播进而实现思想引领和价值塑造。算法推荐技术改变了意识形态传播模式，信息传播由信息生产者为主导变为以算法逻辑为主导，以受众为本位，信息传播主体和传播渠道都更加多元，错误思想和言论很容易“孕育”甚至演化为失控的网络舆情，这对意识形态安全风险化解提出了严峻挑战。

二、算法推荐技术应用中意识形态安全的风险研判

习近平总书记强调，要“建设具有强大凝聚力和引领力的社会主义意识形态”［16］。主流意识形态在社会和政治领域起着非常重要的作用，它可以塑造和影响一个社会的价值观、政策制定、制度安排和社会行动。作为新兴的信息传播技术，算法推荐技术对主流意识形态安全提出了严峻挑战，算法推荐技术的广泛应用引起新闻信息传播的“去中心化”“信息茧房”“泛娱乐化”等现象，导致主流意识形态的主导地位降低、内容传播不力、价值引领不强。

（一）“去中心化”导致主流意识形态的主导地位降低

一般来说，“去中心化”是指在一个系统或组织中，权力、决策和控制不集中于单一的中央实体或机构，而是分散到多个参与者之间。主流意识形态的建构是一个复杂且长期的系统过程，需要思想政治教育根据教育对象的特点，通过新闻信息传播因时、因地、因势开展教育活动，不断增进社会公众对主流意识形态的认同感。算法推荐技术使新闻信息传播“去中心化”，这是因为“在能够轻易获得信息的情况下，人们通常喜欢简短、支离破碎而又令人愉快的内容”［17］。这种“去中心化”的信息传播方式导致主流意识形态的主导地位降低，具体体现在以下两个方面：

第一，“去中心化”导致我国主流意识形态话语主导权的式微。以马克思主义理论为主导的中国特色社会主义主流意识形态是制度化的价值理论体系，抽象性、理论性、系统性、严肃性是其主要特征。传统媒体占据新闻信息内容生产和传播渠道的双重优势，通过宏观叙事逻辑建构主流意识形态。但在算法推荐技术面前，新闻信息传播的主导权发生变革，移动互联网和自媒体成为新闻信息传播的主渠道，个性化、碎片式的微观叙事逻辑逐渐取代传统媒体严谨的宏观叙事逻辑，传统的意识形态塑造优势明显弱化。社会公众处于信息海洋之中，算法推荐技术通过搜集相关信息，然后分析公众喜好，主动推送相关信息。与算法推荐技术相比，传统媒体的思想政治教育的内容生产能力较低，传播的覆盖率和到达率也都明显降低。在这种情况下，传统的意识形态教育对算法推荐舆论场的回应不足，自身部分功能被取代，话语主导权难免式微。

第二，“去中心化”导致我国主流意识形态议题设置权的转化。公共议题设置直接关联主流意识形态的塑造。在传统新闻信息传播中，国家实体和组织通过传统媒体主导公共议题的设置。传统媒体设置公共议题是一个极其严肃的过程，既要辨别信息真伪，也要研判潜在风险；既要兼顾专业性，也要注重普及性。只有这样，才能引领主流意识形态的建构。而算法推荐技术的出现改变了传统的新闻信息传播权力结构，信息生产和流通的“权力”由传统媒体向智能机器的算法模型过渡。随着算法推荐技术的发展和广泛应用，公共议题设置的权力开始由人过渡到技术，其本质是掌握技术的“人”。算法推荐技术通过信息传播形塑社会公众的价值观，设置相关议题吸引社会公众的讨论。这种议题设置方式零散化、碎片化呈现在虚拟空间中，其启动具有偶发性和突发性，一旦失控影响巨大。

（二）“信息茧房”导致主流意识形态的内容传播不力

桑斯坦认为“信息茧房”就是我们只关注我们感兴趣的东西［18］。在数字时代，“信息茧房”是一个用来形容人们被自己所选择的信息所包围和限制的概念。算法推荐技术通过过滤和筛选进而只推送满足用户偏好和兴趣的信息，使人们越来越难以接触到与自己观点不同的信息，从而加剧了“信息茧房”的存在。这种现象可能会导致信息的狭隘，使人们容易陷入自我确认偏见和信息孤岛。“信息茧房”的新闻信息传播效应导致主流意识形态的内容传播不力，具体体现在以下两个方面：

第一，主流意识形态的内容传播不力导致信息偏见和狭隘。算法推荐技术是网络媒体平台的支撑技术之一，其通过信息筛选和过滤，只为社会公众推送其感兴趣的信息。个体长期浸润在同质化的信息中，会逐渐丧失对多元文化的感知，被限定在一个信息圈层内，导致“回音壁”效应［19］，个体本身向外获取信息的能力逐渐减弱，变得越来越偏激和狭隘。“信息茧房”的形成阻断了严肃的主流意识形态内容的传播，导致社会公众对主流意识形态的认同感逐渐弱化。

第二，主流意识形态的内容传播不力导致社会分裂和极化。由于人们在“信息茧房”中接触到的信息主要来自与自己观点相符的社交圈子，这种现象可能导致社会分裂和极化。人们越来越难以理解和接受不同观点的存在，导致社会对立和对话的困难。不仅如此，实践中由于“信息茧房”限制了人们接触不同观点和信息的能力，一些不准确或误导性的信息可能更容易在这种环境中传播。人们往往倾向于相信和分享与自己观点一致的信息，而忽略了事实核实和多方求证的重要性，很容易滋生网络谣言和网络暴力。

（三）“泛娱乐化”导致主流意识形态的价值不断消解

“泛娱乐化”是一个描述当代社会中娱乐元素渗透到各个领域和方面的现象。它指的是将娱乐的元素和概念引入非娱乐领域，以提供更具娱乐性和消遣性的体验。在“泛娱乐化”的趋势下，许多领域和行业开始将娱乐作为一种策略和手段来吸引和留住用户、顾客或观众。在科技和传媒领域，“泛娱乐化”是数字时代的产物。以算法推荐技术支撑的互联网遵从资本逻辑，使人们可以随时随地获取各种娱乐内容，如电影、音乐、游戏和综艺节目等。由此，注意力特别是广大青年群体的注意力被裹挟，主流意识形态教育的内容无法进入用户的视野之内，导致意识形态教育价值引领力被削弱。“泛娱乐化”导致主流意识形态的价值不断消解主要体现在两个方面：

第一，“流量至上”原则排挤主流意识形态教育的内在价值。在资本逻辑运行主导下，用户的注意力就是流量，而流量可以转化为经济利益。为获取流量，算法推荐技术通过短视频等传播方式进行短平快的故事讲述，这种信息传播方式难免断章取义，甚至陷入碎片化、庸俗化的境地。这个过程对资本运作来说是有利的，资本通过聚合转化用户的注意力实现了获利［20］。但对于主流意识形态塑造和国家安全来讲，叙事的严肃性和完整性被拆解，主流意识形态话语被稀释，崇高理想变得虚无，意识形态的内在价值被解构和消解，价值失序事件时有发生。

第二，“娱乐至死”诱导受教育者价值认知娱乐化、碎片化，西方国家可能趁机对我国进行价值观渗透。技术是信息传播的载体。查德威克认为，互联网等各类新兴的信息传播技术已经逐渐成为“西方价值观出口到全世界的终端工具”［21］。“算法认知战”是全新的战争形态［22］。实践中，西方国家频繁利用算法推荐技术传播其价值观，瓦解发展中国家的主流意识形态认同。作为后发现代化国家，我国与美西方国家在意识形态方面存在重大区别，在信息技术领域也还存在一定差距。美西方国家经常运用其技术优势推广输出其所谓的“普世价值”，不断消解我国的主流意识形态认同。由于“认知战”通过“泛娱乐化”等方式呈现，其风险形态颇为隐匿，给意识形态监管审核造成了巨大障碍。

三、算法推荐技术应用中意识形态安全风险的成因分析

算法推荐技术视域下的新闻信息传播消解意识形态认同、造成意识形态安全风险的成因非常复杂，既有算法推荐技术的价值理性与工具理性失衡，也有网络平台和用户总体国家安全观意识特别是意识形态安全的理念缺位，还有意识形态安全监管的缺失。必须厘清算法推荐下意识形态安全风险的成因，才能对症下药，提出具体可行的化解风险的对策建议。

（一）算法推荐技术的价值理性和工具理性失衡导致的技术异化

德国社会学家马克斯·韦伯将合理性分为两种，工具合理性和价值合理性。工具合理性是“以能够计算和预测后果为条件来实现目的的行动”，价值合理性是“主观相信行动具有无条件排他的价值，而不顾后果如何、条件怎样都要完成的行动”［23］。当前算法推荐技术作为一种技术工具，主要遵循工具理性，其以信息受众为本位，通过建构算法模型，向用户精准推荐猎奇信息等碎片化、娱乐化的内容，社会主义核心价值观等主流意识形态的内容被屏蔽和排挤，导致主流意识形态的内容存在感不足，出现率和覆盖率较低。工具理性和价值理性的失衡是算法推荐技术存在意识形态安全风险的重要原因。不仅如此，在数字时代，算法推荐的工具理性失衡导致算法技术逐渐摆脱人的控制，形成了独立的“人格”。工具理性的失衡、资本逻辑的裹挟、算法技术的“人格”异化多重因素叠加使我们面临非常复杂的信息操纵困境和技术伦理困境。用户时刻处于技术的监控之下。一旦个人信息被窃取或曝光，就会引发诸多法律问题和伦理问题。

（二）网络媒体平台的意识形态安全责任意识不足

从算法推荐技术设计的底层原理出发，科技平台企业及具体工作人员设计算法推荐技术的行为蕴含着平台企业的价值取向，并非完全的技术中立。算法推荐技术的具体运用体现着网络服务商自身的利益选择，具有深刻的商业逻辑。网络媒体平台作为市场主体，盈利是其主要目的。资本裹挟下的算法推荐技术在网络媒体平台中的设计和应用主要遵循商业逻辑，通过算法推荐技术高效精准地向用户推送相关信息，增强网络媒体平台与用户之间的黏性，形成较为稳定的用户群体。在这个过程中，网络媒体平台获取流量和经济利益。纯粹按照经济逻辑运行的网络媒体平台，其国家安全意识特别是意识形态安全责任意识存在明显不足，具体表现为内部的意识形态安全风险审查意识欠缺，导致平台容易被恶意利用，各种虚假信息、泛娱乐化信息、碎片化信息等信息被广泛传播，严肃的规范的符合社会主义核心价值观的主流意识形态内容反而无法得到有效传播。

网络空间作为数字化生存的主要场域，具备明显的公共属性［24］。网络媒体平台企业的运行不仅具有经济属性，也具有社会属性。网络媒体平台企业对算法推荐技术的应用，增强了新闻信息的传播力和管控力。但算法推荐技术并非只有客观中立的技术属性，还有鲜明的意识形态属性。因此，网络媒体平台也要承担一定的维护意识形态安全的义务和相应的育人责任。在总体国家安全观视域下，网络媒体平台是维护国家安全的重要主体，其也要承担相应的维护国家安全的法律义务和责任。这就要求网络平台提升意识形态安全责任意识，按照《中华人民共和国国家安全法》《中华人民共和国网络安全法》等法律法规进行相应的内部制度建设，防范不法分子利用网络平台传播各种虚假和有害的信息。

（三）网络媒体平台意识形态安全风险的监管不足

面对网络安全、数据安全等新型安全领域的新问题，习近平总书记多次强调，互联网并非“法外飞地”，要“依法加强网络空间治理”［25］。在算法推荐视域下有效防范意识形态安全风险，不仅要构筑法律制度、行业规范等多元保障体系，还需要政府职能部门、行业媒体以及社会公众等主体的广泛参与和高效协同。为了维护意识形态安全，近年来我国不断制定相关政策，完善和修订相关法律法规。2022年3月1日国家互联网信息办公室、中华人民共和国工业和信息化部、中华人民共和国公安部、国家市场监督管理总局联合发布的《互联网信息服务算法推荐管理规定》（以下简称“《规定》”）开始施行，这是我国首部关于算法推荐服务平台义务的较详细的规范［26］。根据《规定》的定义，算法推荐技术主要指通过生成合成类、个性化推送类、排序精选类等算法技术为网络用户提供个性化推荐信息。《规定》的出台，标志着国家对平台算法推荐的应用给予了更多关注，强调该技术运用下平台义务的变化。但总体来看，针对网络空间算法推荐技术引发的意识形态安全风险的法律规范仍然较为欠缺，法律效力较低，可操作性不强。网络媒体平台意识形态安全风险监管是维护意识形态安全的关键，法律规范的不足导致网络媒体平台意识形态安全风险的监管缺乏制度支撑，多元主体参与的监管格局尚未形成。

（四）网络用户的意识形态安全意识和信息素养不高

算法推荐技术应用下的新闻信息传播，看似是用户主动选择的结果，实际上是算法技术塑造的结果。从实践来看，网络用户的意识形态安全意识和信息素养普遍不高，给不良信息的传播提供了“可乘之机”。网络用户的知识结构和学历层次等良莠不齐，自身修养和生活阅历也存在较大区别。以受教育程度为例，截至2023年6月，各教育程度的网民占比分别为：小学及以下为6.4%，初中为15.2%，高中为25.6%，大专为28.3%，本科及以上为24.5%［27］。总体来看，网络受众倾向于传播各种娱乐化信息，对这些信息是否承载意识形态安全内容，涉及意识形态安全风险并不关注。不仅如此，虚拟空间的匿名性也加剧了不良信息的传播，部分网络用户在虚拟空间肆意宣泄，这些现象集中呈现在网络空间中，“劣币驱逐良币”，遮蔽了主流意识形态内容的有效传播。

综上，算法推荐技术价值理性和工具理性失衡导致的技术异化、网络平台安全责任意识和安全风险的监管不足、网络用户的意识形态安全素养不高等多重因素叠加，导致算法推荐技术应用下的信息传播面临相应的意识形态安全风险。

四、算法推荐技术应用中意识形态安全风险的防范策略

习近平总书记指出：“意识形态领域看不见硝烟的战争无处不在。”［28］党和国家高度重视意识形态教育和新兴信息技术的融合发展，提出“推动思想政治工作传统优势与信息技术深度融合，使互联网这个最大变量变成事业发展的最大增量”［29］。我们应该主动规避推荐算法技术的负面影响，采取针对性措施推动推荐算法正向赋能意识形态教育，防范意识形态安全风险，维护主流意识形态安全。

（一）优化算法推荐下主流意识形态安全的技术支撑

从技术层面讲，算法推荐技术运行的前提有二，一是搜集用户的相关数据信息，利用大数据对用户进行“画像”；二是利用数据挖掘技术盘活已有网络资源，构建信息推荐的“内容池”。因此，能否有效搜集用户的个人信息决定了算法推荐技术能否运行，而算法推荐“内容池”建设的质量直接决定了用户信息接收的内容和效果。

有鉴于此，技术层面的意识形态安全风险防范应从两个方面予以推进：一是加强对用户个人信息的保护，规范对用户个人信息的收集。随着数字时代的信息技术的迭代发展，信息侵犯行为的规模和影响往往超出了传统的个体侵害范畴。个人的隐私信息在大规模数据收集和处理的背景下往往被集合、分析和利用，从而涉及更广泛的社会利益。通过规范信息收集，可以从源头切断信息的无序收集和传播，进而为算法推荐技术的规范使用提供基础。二是必须优化算法推荐的信息筛选和过滤机制，重新构建高质量的信息推送“内容池”。在满足社会公众个性化、娱乐化等需求的同时，尽可能多地增加符合主流意识形态的信息内容，清除有违社会主义核心价值观、总体国家安全观等主流意识形态的内容。通过创新主流意识形态宣传的方式和相应的阵地建设，不断将弘扬社会主义主旋律、展现新时代精神风貌的优质信息输入信息推送“内容池”，保证符合社会主义核心价值观、总体国家安全观等主流意识形态的相关内容在“内容池”中占据绝对比重，让主流价值信息充盈算法的“内容池”，进而不断夯实主流意识形态传播的阵地，扩大主流意识形态在数字时代的话语权。

（二）提升网络用户意识形态安全风险防范的意识和素养

意识形态安全是国家安全的重要组成部分。在总体国家安全观视域下，国家安全问题是衍生而不是源生的［30］。必须坚持系统思维，构建全方位多层次的风险监测预警体系才能有效防范意识形态安全风险［31］。准确把握和理解算法推荐技术的本质及其运行逻辑，提升网络用户的总体国家安全观意识特别是意识形态安全风险防范的意识是应对意识形态安全风险的基础。

重点可从以下几个方面着手：第一，通过创新思想政治教育的方式和途径，使社会公众了解算法推荐技术下信息传播的本质、算法推荐技术运行的基本逻辑以及可能引发的意识形态安全风险。第二，提升网络用户的总体国家安全观意识，使社会公众知悉其参与维护和塑造国家安全的责任和义务，自觉抵制各种不良信息的传播，特别是有违社会主义核心价值观的信息传播，自觉参与到维护网络空间安全的事务中，形成维护网络意识形态安全的人民防线。第三，提升网络用户识别和化解网络意识形态安全风险的能力。通过典型案例引导等方式，使网络用户明晰网络空间存在哪些意识形态安全风险，这些风险有哪些具体的表现形态以及如何化解。第四，引导网络用户生产、转发符合社会主义核心价值观的高质量的网络内容，减少对低俗、标题党、恶搞等内容的点击和关注，共同营造良好的信息传播生态。

（三）健全对算法推荐技术的意识形态安全风险监督

国家安全是经济社会发展的基础，意识形态安全是国家安全的重要组成部分。算法推荐技术主导新闻信息传播的运行应以意识形态安全为基本前提，在算法推荐新闻信息传播过程中，应规避潜在的意识形态安全风险，有效维护虚拟空间的法治秩序。刚性的意识形态监管是意识形态安全风险防范的重要保障，当前算法推荐技术的意识形态安全风险监督应着重强化对算法推荐技术主导下的新闻信息传播的意识形态安全审查。

具体来说，可从以下方面予以重点推进：一是建立健全算法推荐技术应用中的意识形态安全审查机制。组建包含法律、人工智能算法、新闻传播等各方专家的机构来审查算法模型的设计原理及决策过程［32］。从算法模型设计的源头规避意识形态安全风险。与此同时，在算法推荐技术运行的各阶段也要展开全流程意识形态安全审查，防止技术运行过程中的异化。二是强化对应用算法推荐技术的网络平台企业的内部监督和行业监督。基于算法推荐技术的特殊性，应建立健全对应用算法推荐技术的网络平台企业内部意识形态安全监督体系，完善意识形态安全风险评估标准，推动算法推荐技术应用的网络平台企业有序运行。与此同时，可推进成立相关行业协会，强化行业自律，建立健全算法推荐技术应用的行业意识形态安全监督规则，从法律、技术、传媒等多维度，构建算法推荐技术应用的行业监督体系［33］。三是拓展算法推荐视域下意识形态安全的社会监督。总体国家安全观视域下的国家安全治理是包括党委、政府、公民、社会组织等多元主体在内的全民共治。2022年6月6日，国家安全部公布并施行的《公民举报危害国家安全行为奖励办法》作为一项制度安排，该部门规章为新形势下提升全民维护国家安全的积极性主动性创造性构筑了坚实基础［34］。社会公众可依法积极参与网络空间的国家安全维护，实现对算法推荐技术应用中意识形态安全的社会监督。

（四）明确算法推荐技术运行中各主体的意识形态安全责任

明确的法律责任划分是法律义务履行的重要外在动力。明确算法推荐技术的设计者、平台企业、监督者以及用户等各方主体的意识形态安全责任、类型以及分配，是意识形态安全风险防范义务履行的重要基础。当前，我国意识形态安全责任的制度设计整体上偏重于党委、政府等主体，对算法推荐技术的设计者、平台企业、具体用户的责任则规定不足。总体国家安全观强调发挥人民群众的主观能动性，构筑维护国家安全的人民防线。因此，应逐步明确算法推荐技术的设计者、平台企业、具体用户的意识形态安全责任，形成全民参与维护国家安全的治理格局。

具体来说，可从内外部治理两个角度依法确定各主体的意识形态安全风险防范责任：第一，明确算法推荐技术的内部治理责任。算法推荐技术的意识形态安全内部责任主要包括设计者责任和平台企业责任。在算法推荐技术应用中，“技术中立”与“技术不能”都不能作为平台逃避防范意识形态安全风险的借口，基于平台企业信息管控能力的增强以及收益与风险的平衡考虑，网络平台有理由负有更严格的法律义务和责任。算法推荐技术的意识形态安全内部责任要求，算法推荐技术推送的信息要符合社会主义核心价值观、总体国家安全观以及相关的法律法规和行业规则。第二，明确算法推荐技术的外部治理责任。算法推荐技术的意识形态安全外部责任主要包括用户责任和监管者责任。如，用户利用算法推荐技术传播不良信息、虚假信息等构成违反治安管理行为的，依据《中华人民共和国治安管理处罚法》给予治安管理处罚；构成犯罪的，依据《中华人民共和国刑法》追究相关刑事责任。监管者责任主要由政府及其职能部门承担，如监管者未合法履行意识形态安全监督职责，则应依法依规承担相应的法律责任或纪律处分。

五、结语

随着大数据、云计算、人工智能等新兴技术的快速发展及广泛应用，以算法推荐技术为主导的数字时代正式来临。算法推荐技术颠覆了传统媒体信息传播的方式，既是重大的机遇也是巨大的挑战。如何在保证意识形态安全的前提下充分运用算法推荐技术，提升信息传播的效率，增强信息获取的能力，是数字时代亟须予以回应的现实课题。本文认为，作为数字时代主导信息传播的新技术，智能算法推荐技术正在重新建构社会的思想、行为和价值。算法推荐主导下的信息传播影响主流意识形态安全，其“去中心化”“信息茧房”“泛娱乐化”导致主流意识形态主导地位降低、内容供给不足、价值引领被消解、话语权被稀释。而算法推荐技术的价值理性和工具理性失衡、网络平台及用户意识形态安全的理念缺位、意识形态安全风险防范的监督和责任落实不足等多重因素导致了算法推荐视域下的意识形态安全风险。当前智能算法推荐视域下的意识形态安全风险防范应重点从以下四个方面予以改进：一是优化算法推荐下意识形态安全的技术支撑，增加社会主义核心价值观等内容的“生产”与推送。二是增进社会公众对智能算法的广泛了解和意识形态安全素养，特别是提升社会公众的总体国家安全观意识，构筑虚拟空间的国家安全人民防线。三是健全算法推荐运行的意识形态安全监督制度，通过刚性的制度约束保障算法推荐技术的良性运行。四是明确算法推荐运行中各主体的意识形态安全责任，以责任倒逼算法推荐中的各主体共同维护意识形态安全。

参考文献

［1］ 中共中央宣传部.习近平新时代中国特色社会主义思想三十讲［M］.北京：学习出版社，2018：213.

［2］ 赵爱霞，王岩. 算法推荐与新时代主流意识形态建设 ［J］. 云南社会科学， 2021（3）： 112-118.

［3］ 《习近平新闻思想讲义（2018年版）》编写组.习近平新闻思想讲义（2018年版）［M］.北京：人民出版社，学习出版社，2018：28.

［4］ 习近平.加快推动媒体融合发展构建全媒体传播格局［J］.求是，2019（6）：4-8.

［5］ 侯东德，张丽萍.算法推荐意识形态风险的法律防范［J］.重庆社会科学，2021（8）：77-90.

［6］ 张春美.“聪明技术”如何“更聪明”——算法推荐的伦理与治理［J］.探索与争鸣，2022（12）：173-180+214.

［7］ 蒋成贵.算法推荐对网络意识形态建设的挑战及应对［J］.思想理论教育，2019（7）：78-82.

［8］ 卢海君，徐朗，由理.互联网平台算法推荐的法律规制［J］.中国出版， 2022（13）：22-28.

［9］ 本报评论部.用主流价值纾解“算法焦虑”［N］.人民日报，2018-06-20（5）.

［10］ 段伟文.数据智能的算法权力及其边界校勘［J］.探索与争鸣，2018（10）：92-100+143.

［11］ 习近平.论党的宣传思想工作［M］.北京：中央文献出版社，2020：21.

［12］ 本书编写组.国家文化安全知识百问［M］.北京：人民出版社2022：3.

［13］ 邵培仁，李梁.媒介即意识形态——论法兰克福学派的媒介控制思想［J］.浙江大学学报（人文社会科学版），2001（1）：102-109.

［14］ 葛彬超.媒介文化的政治伦理审视：基于马克思的政治伦理观［J］.思想战线，2012（4）：104-107.

［15］ 刘新庚.现代思想政治教育方法论［M］.北京：人民出版社，2008：58.

［16］ 习近平.高举中国特色社会主义伟大旗帜 为全面建设社会主义现代化国家而团结奋斗——在中国共产党第二十次全国代表大会上的报告（2022年10月16日）［N］.人民日报，2022-10-26（1）.

［17］ 尼古拉斯·卡尔.浅薄：互联网如何毒化了我们的大脑［M］.刘纯毅，译.北京：中信出版社，2010：100.

［18］ 桑斯坦.信息乌托邦：众人如何生产知识［M］.毕竞悦，译.北京：法律出版社，2008：8.

［19］ 悦连城.打破网络时代的“回音壁”——着力提升新闻舆论传播力引导影响力公信力③［N］.河南日报，2023-11-06（8）.

［20］ 程明，周亚齐. 从流量变现到关系变现：社群经济及其商业模式研究［J］.当代传播，2018（2）：68-73.

［21］ 安德鲁·查德威克.互联网政治学：国家、公民与新传播技术［M］.任孟山，译.北京：华夏出版社，2010：34-35.

［22］ 史安斌，杨晨晞.“算法认知战”视域下的计算宣传：概念演进与实践动向［J］.新媒体与社会，2023（2）：3-16.

［23］ 陈志刚.马克思的工具理性批判思想——兼与韦伯思想的比较［J］.科学技术与辩证法，2001（6）：38-41+67.

［24］ 李晓婷.推荐算法视域下思想政治教育的问题研判与应对策略［J］.山东青年政治学院学报，2023（6）：62-67.

［25］ 中共中央党史和文献研究院.习近平关于总体国家安全观论述摘编［M］.北京：中央文献出版社，2018：171.

［26］ 互联网信息服务算法推荐管理规定［J］.中华人民共和国国务院公报，2022（9）：71-75.

［27］ 中国互联网协会.中国互联网发展报告2023［M］.北京：电子工业出版社，2023：35.

［28］ 中共中央文献研究室.习近平关于社会主义政治建设论述摘编［M］.北京：中央文献出版社，2017：18.

［29］ 中共中央国务院印发《关于新时代加强和改进思想政治工作的意见》［N］.人民日报，2021-07-13（1）.

［30］ 李文良.国家安全问题：不是源生的而是衍生的［J］.国家安全论坛，2022（1）：31-38+85.

［31］ 王梦雅.习近平关于防范化解意识形态风险重要论述研究［D］.重庆：中共重庆市委党校，2022.

［32］ 匡文波.智能算法推荐技术的逻辑理路、伦理问题及规制方略［J］.深圳大学学报（人文社会科学版），2021（1）：144-151.

［33］ 马长山.智能互联网时代的法律变革［J］.法学研究，2018（4）：20-38.

［34］ 杜洋.提升全民维护国家安全积极性主动性创造性 国家安全部有关负责人就《公民举报危害国家安全行为奖励办法》答记者问［N］.法治日报，2022-06-08（2）.

Ideological security risks and prevention strategies in the application of algorithm recommendation technology

Wang Qiangqiang

（National Security College， Southwest University of Political Science and Law， Chongqing 401120）

Abstract： As a new technology that dominates information dissemination in the digital age， algorithm recommendation technology is reconstructing the thoughts， behaviors and valuesof society. Information dissemination dominated by algorithm recommendation technology affects the security of mainstream ideology. Its "decentralization"， "information cocoon" and "pan-entertainment" have led to a reduction in the dominant position of mainstream ideology， insufficient content supply， dissolution of value guidance， and dilution of mainstream discourse power. Multiple factors such as the imbalance between value rationality and instrumental rationality in the application of algorithm recommendation technology， the lack of the concept of the overall national security concept of network platforms and users， and the lack of supervision and responsibility for the prevention of ideological sCl2xBeYqkK50coQ/p5JAow==ecurity risks have led to ideological security risks in the application of algorithm recommendation technology. The prevention of ideological security risks in the current application of algorithm recommendation technology should be improved from the following four aspects： optimize the technical support for ideological security under algorithm recommendation; enhance the public's extensive understanding of algorithm recommendation technology and ideological security literacy， especially enhance the public's awareness of the overall national security concept; improve the ideological security supervision system of algorithm recommendation operation; clarify the ideological security responsibilities of various subjects in the operation of algorithm recommendation technology.

Key Words： Algorithm recommendation; Ideological security; Value guidance; Ideological and political education