意识形态的算法风险及治理路径研究

陈力钧　陈志勇

[摘要]算法技术为社会经济发展激发新潜力、注入新动力，引发信息传播方式、传播权力结构变革与价值生态秩序变革，给意识形态领域带来娱乐成瘾、舆论操纵、价值失序等风险挑战。在算法推荐技术影响下，一定程度上用户认知被技术异化，内容传播把关权力失控，平台行为逾矩失范，价值渗透愈发隐蔽。治理意识形态的算法风险不仅是互联网智能系统的技术性问题，还涉及政治权力、公共伦理、信息传播、心理意志等多学科领域，应采取多维分析视角综合考量，优化算法逻辑、完善监管体系、强化话语阵地、推进算法透明，探索算法时代的治理思路和现实路径。

[关键词]意识形态;话语权;算法推荐;技术异化

中图分类号：D035文献标识码：A文章编号：1008-410X（2022）03-0067-09

一、研究背景

信息是人与世界的互动方式，人类对信息的处理效率深刻影响着人们的生活方式与交互方式。信息传播的基本问题是如何在一处准确或近似地再现信息，然后在另一点上选择接收消息[1]。信息分发技术是信息发布者与接收者间的技术媒介，对网络空间信息传播有决定性作用。在互联网各个发展阶段，主流信息分发技术兼收并蓄地开辟了诸多应用场景：超文本技术的分类索引创造了信息百科全书的门户时代;信息爬取技术为互联网开启了搜索引擎的窗口，实现了人对信息的高效获取;社交网络技术揭开了订阅时代的序幕，推动网络信息产品服务从运营商主导到用户主导的转型变革;算法推荐技术加持“无限瀑布流”的推送设计实现了为用户自动适配场景的传播模式变革。算法推荐技术是通过生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等向用户提供信息的算法技术。伴随算法应用在网络空间“大行其道”，技术的“双刃剑”属性逐渐凸显。一方面，算法推荐技术凭借向用户提供信息精准识别、精准推送的强大运算能力，为在泛滥信息流中无所适从的用户群体提供了优良适配方案，满足了不同群体千差万别的信息需求，催化了网络空间的流量“马太效应”。另一方面，新技术媒介必然会以隐蔽而有力的方式来重新定义人们看待和了解事物的方式[2]。算法技术隐性权力的延伸使算法场域成为多元主体搶夺关注流量，输出话语思想，利导舆论趋势的重要战场，给意识形态带来不可忽视的影响。

意识形态算法风险的相关研究伴随近年来抖音视频推荐、淘宝商品推荐、美团商家推荐、头条新闻推荐、小红书社交分享推荐等算法应用的普及走进公众视野，逐渐成为理论界关注焦点。从宏观上看，对该议题的研究主要沿着三条脉络展开。一是批判算法通过扰乱经济秩序、渗透错误思潮、诱导数字沉迷等方式扩张隐性权力对意识形态产生消极影响。二是聚焦算法对意识形态的价值失序风险，研究算法推荐技术信息分发结果对主流意识形态话语主导权、价值凝聚力的冲击消解。三是关注算法推荐技术对传播格局与传播生态的影响，探讨算法场域伦理性与规范性的缺失问题。从微观上看，该主题具备较高的适配性与较为宽阔的研究空间，常与传播效应、思政教育、思潮渗透、技术异化、智能治理相结合，由点到面切入剖析算法对意识形态的冲击影响及对策思路。在技术颠覆性变革背景下，该议题的研究方兴未艾，在理论视角、分析框架和治理路径方面仍有进一步的探索空间。在理论视角上，算法推荐技术逻辑与意识形态理论关联有待拓展，对技术与意识之间的交互关系还缺乏一个解析风险因素的中观视角;在分析框架上，具体的算法推荐技术与抽象的意识形态概念间存在错综复杂的影响关系，需要从多个维度展开论证深入挖掘;在治理路径上，往往偏重对西方传播伦理视角理论与实践的移植，在本土治理实践与理论提炼方面有待深化，中国式现代化的治理策略有待开拓。因此，围绕用户主体、内容题材、平台行为与价值生态多个维度建构分析框架，研究意识形态的算法风险，探索促进算法应用健康规范发展的治理策略具有强烈的问题导向和鲜明的现实意义。

二、意识形态算法风险的四维解构

算法推荐技术的广泛应用，不仅推动了互联网流量生态向高层次的转型进阶，而且对意识形态思想传播和话语权力格局产生颠覆性的冲击。一方面，搜索时代和订阅时代所显露的诸如信息泛滥、伦理偏差、价值分化、流量寻租等固有问题仍然存在，并且在算法技术催化下有着持续恶化的趋势。另一方面，新技术的更迭可能引发一系列新风险、新挑战，如后台系统对用户行为隐私数据的全景监控、信息推送下“过滤气泡”“数字致瘾”等机制对受众主观世界的认知重塑、对舆论宣传的暗箱操纵等。算法推荐技术居于幕后成为影响意识形态、操纵价值秩序“看不见的手”。理解算法这一智能化信息配置技术手段必须建构从用户层面、信息层面到技术层面、价值层面多维解析框架。

（一）用户维度：在互动中被“异化”的实践主体

算法推荐技术在对信息内容标签化分类和对信息用户行为大数据画像的基础上为用户个性化信息需求提供了更优解决方案。信息供给的精准化与用户体验的个性化是算法推荐的显著特征[3]。精准化、个性化推送内容形成了技术包装下“千人千面”的拟态“客观世界”，在这样的拟态空间中，人们主观世界与虚拟世界不断交互认知、“双向”实践。马克思主义实践观认为，人与技术的关系是主客体双向运动的辩证统一，人类改造客观世界的意图主动影响着技术演进，而技术也会对人本身形成反作用[4]。从横向看，在人与算法程序互动的过程中，系统根据行为数据构建出专属用户的个性化认知世界，动态迎合着用户的各种喜好。一方面，该过程是人们主观世界对客观世界能动反映的过程，意识在拟态空间中不断被迎合、取悦与满足，主观世界对算法拟态空间产生愈发强烈的黏性需求。另一方面，算法推荐技术在人们行为中持续采集关键数据，再反作用于人们的主观世界，循环往复“采集偏好—推送内容—采集偏好”的过程。从纵向看，人们虚拟行为伊始便处于系统采集数据的监视下，用户浏览信息内容的停留时长、关注、点赞、转发、评论等操作被算法记录、统计、分类，分析，成为构建拟态空间的重要参考。伴随算法系统对用户偏好把握愈发精准深入，人们兴趣、审美、信息需求得到极大满足，对技术的依赖随之加强。随着算法推荐应用深度融入现实生活，成为人们消遣时光、消费娱乐不可或缺的日常工具，技术实践对人的思想行为产生愈发显著的塑形效应。

从实践主体层面看，人机交互过程是人的主体性被弱化乃至缺失的过程。从表面上看，人们在各个虚拟场景中与系统双向互动，似乎是被技术尊重、理解与认可的过程。然而，这种对人性的理解与迎合离不开算法的过滤包装，被加工后的虚拟认知空间对主体性格养成、价值认知产生负面影响。从短期来看，拟态空间不断对个体的自律、自控能力发起挑战，诱导用户投入大量时间精力沉溺在自我舒适区无法自拔。从长远来看，以流量、兴趣为指标的内容推荐机制将不符合用户价值立场的差异信息选择性过滤，长此以往用户认知视野在信息茧房中被窄化，理性思考在流量信息中被弱化，价值偏好在曲意逢迎中被固化。智能算法越先进，人们越能够享受到算法迎合的“幸福感”，与此同时主体精神世界“偏好密码”也被算法理解得越发深刻。在海量信息冲击下，用户的思维认知被改造重塑而不自知。人们所以为的真相仅是信息分发机制下被包装与诱导后看似“深思熟虑”的真相，人们所看到的真实只是信息选择过滤后算法技术想让人看到的真实。日益强大的智能算法与持续弱化的用户理性形成鲜明对比，技术理性与人类理性鸿沟被逐步扩大，冲击着意识形态主导权与话语权。当算法的技术理性逐渐取代人类政治理性时，算法权力会出现异化：国家社会治理建基于算法秩序，人们成为算法的奴仆，其政治意识和政治行为受到算法约束[5]。

（二）内容维度：以“失控”为特征的话语表达

“内容为王”是互联网时代意识形态传播的前提和准则，包含双重意义，即“只要内容足够好，就会获得关注度和影响力;只有内容足够好，才能获得关注度和影响力”[6]（P52）。在信息过载、资讯泛滥、供给过剩、竞争激烈的信息空间，话语自由表达的去中心化格局催化了自媒体话语空间的持续扩张，拓宽了个人、组织发言渠道，提升了个体的话语张力。更加自由的话语环境意味着人人都是话语表达者，在这样的传播环境里内容质量决定了谁的话语能被看见，谁的声音能传得更远。“内容为王”始终是决定信息影响力与传播力的重要标准。虽然内容的优劣在互联网各发展阶段都是不可忽视的要素，但在不同的技术背景和传播格局下，内容信息的评判主体和评价标准存在着明显的区别。在订阅时代，关注行為基础上信息内容可以直接从发布者传递到接收者视野范围内，从“粉丝”打开阅读到“粉丝”认可分享，再到非“粉丝”群体的打开、认可、转粉、再分享，订阅用户是内容传播的核心要素。伴随着新媒体时代跃升至全媒体时代，订阅模式进入算法推荐模式，以“失控”为特征的传播法则不仅需要“真金不怕火炼”的真材实料，还要有“酒香也怕巷子深”的思维认识。在算法推荐技术主导的传播场域，内容的生产者和发布者对信息发出、传播、接收的过程处于近乎失控的状态。内容发出后的传播节点不再是以人为主体的网民受众，而是平台后台极其复杂的算法系统。内容作品必须被系统识别理解、认可赋值、分类推荐、反馈再推荐，“内容为王”的直接裁判和评委由人变为了算法，算法主导了内容会被投放至哪些受众群体、进入多少规模的流量池，也决定着用户会被推送看见什么样的内容。

“一个媒体发达的社会，算法所拥有的权力会越来越大”[7] 。当算法推荐技术的权力触角蔓延至意识形态领域，算法就演变成对内容发布方的一种强制性审批机制与流量枷锁。主流意识形态的内容信息在传播前必须迈过算法门槛，即必须以迎合用户为导向，以算法认可为前提，以吸引流量为目的。这对全媒体时代宣传工作的话语输出质量提出了更高的要求，倒逼话语的制作者必须设计产出有益、有趣、有用的议题与内容。去中心化的传播格局围绕算法规则“再中心化”，主流意识形态话语主导权受制于信息技术的分发权，主流意识形态话语影响力被海量非主流意识形态信息内容分散稀释。于是，价值兴趣的个性化模糊了意识形态的主导性，表达的自由掩盖了利益的驱动，技术的效用遮蔽了理性的扭曲。在这样的传播生态下，主流意识形态话语权威可能被千人千面的推荐机制削弱限制，主流价值的话语表达在多元主体的话语扩张中易被分化稀释，主流思想的凝聚力会被无所不用其极的流量经济冲击消解，信息内容的意义开始演化为浮光掠影式的印象，人们容易陷入对主观价值、个体兴趣的追求中，社会主流价值、主旋律的宣传内容被选择性忽视。此外，算法极易成为利益的砝码，内容沦为附庸甚至发生“劣币”驱逐“良币”的现象[8]。系统算法犹如一只“看不见的手”，成为隐藏在幕后操控信息资源的配置机制，诱导内容生产者在算法规则指引下产出作品，竞相获取关注流量。信息生产者与消费者依据符合自身效用最大化原则作出决策，供给方与需求方在算法智能匹配下无缝衔接，算法控制者通过“算法黑箱”掌控了网络空间话语权。因此，看似自由的话语接收与表达，实则处于算法控制下的技术理性与利益逻辑枷锁之中。

（三）平台维度：以流量为导向的技术逻辑

“社会一旦有技术上的需要，这种需要就会比十所大学更能把科学推向前进”[9]（P732）。企业对经济效益执着追求不仅是推动信息技术进步的内在动因，而且这种追求会渗透到技术体系，改变技术逻辑的发展方向。互联网时代技术理性的显性倾向表现在“流量为王”的算法“进化”趋势上，即互联网平台会不断优化算法以实现吸引流量、创造价值的经济目的。平台流量代表着在网络空间的热度和关注度，是将用户注意力转化为经济价值的必要基础，也是直播带货、广告引流等商业模式创造效益的前提条件。因此，在技术逻辑上，算法推荐技术作为互联网谋求利润的技术工具，必然要以网络流量、用户关注为首要准则。以市场效益为目标的算法技术要匹配用户类型与作品内容，把握受众圈层与兴趣指标，以便在个性化理解的基础上进行精准推送。在技术机理上，算法系统首先对信息内容和用户进行识别分类、贴上属性标签，实现“物以类聚”“人以群分”，再分析用户浏览页面停留时长、点赞、转发等操作评价信息作品的反馈情况，进而决策加权投放或是减少推荐为作品赋予曝光率。算法推荐技术有能力通过控制流量，引导信息发布者设置话语议题、制作指定内容，构建算法使用者想要构建的拟态空间。算法设计者必然会通过不断优化，探索更加先进的信息分发机制以迎合用户，诱导受众投入时间、精力与金钱，实现为平台场域获取高额网络流量的目的。在算法生态下，流量是互联网追求效益过程中手段与目的的统一体。

作为市场经济的组成部分，流量经济的运营模式无可厚非，然而当“唯流量论”的算法推荐技术成为一种普及化的传播范式，在用户数量、平台规模、经济体量等方面突破一定量级之后，技术与政治之间就呈现比较微妙且复杂的内在关联。在数亿用户量级的传播空间，话语互动不仅是表面上信息内容的交流表达，还涉及话语内容背后意识形态的价值主张、利益追求与斗争博弈。当技术逻辑嵌入平台经济运营体系中，成为承载思想传播、舆论引导、价值宣传的重要枢纽时，“流量为王”的系统规则就演变成主流意识形态主导网络空间话语生态的“最大变量”，为意识形态的安全稳定带来一系列风险挑战。一是算法技术沦为平台谋取利益的工具。算法推荐技术的精准投放功能拓宽了销售渠道，带来了繁荣的平台电商经济。在算法营销手段包装下，凭借媒介技术的信息匹配能力形成垄断地位在供应商与消费者交易过程中抽取大量经济价值，层层加码消费、“大数据杀熟”、肆意提高价格、逼迫商家二选一等失范表现屡见不鲜。算法技术的运行起点、服务对象、目的导向与意识形态引领思想、凝聚人心的价值归宿相背离。二是“流量为王”的标准削弱了主流意识形态在平台空间的可见性与影响力。只有持续获得用户的积极反馈，信息才能在更大的流量池延展传播，这是算法推荐技术的基本特征。话语的传播必须以算法認可为前提、以网络流量为导向、以平台利益为考量，在重重关卡限制过滤下主流意识形态权威性与影响力都将大打折扣。三是主流意识形态在泛娱乐化传播生态中失语式微。在迎合受众需求方面，以弘扬主旋律、宣传正能量为底色，以马克思主义为根本立场的意识形态信息内容在吸引力、关注度等方面难以持续满足用户情感、兴趣等方面需求，在技术过滤与公众选择后可能进一步丧失传播优先权。

（四）价值维度：以争夺为前提的话语博弈

算法推荐技术创造了平台获取流量新模式，逐渐形成以场景适配为特征的经济模式、传播空间和舆论生态。算法场域不再局限于信息生产者与信息消费者间的供求交互，已具有明显的意识形态属性，是多元主体话语权力争夺、思想交织渗透及价值观念交锋的大舞台、主战场。算法推荐技术主导下的内容竞争不仅是表面上的内容优劣之争与信息传播之争，更演化为理念之争、文化之争、利益之争及意识形态之争。在算法推荐技术主导的传播空间，意识形态传播格局、权力结构发生着颠覆性的变革。一是算法凭借信息分发权掌控了思想价值主导权。凭借对人性偏好的深入把握、对公众生活的高度融入，算法推荐技术的推送结果潜移默化地改变着人们的思维认知，算法权力也随之从信息主导跃升至价值主导。二是算法分发结果的非中立性加剧了价值生态的无序性。技术作为算法平台谋取利益、达成目的的工具以看似中立的方式执行着非中立的标准。在算法偏向性扭曲下，主流意识形态所倡导的核心价值被功利主义、享乐主义、感官刺激等题材内容冲击消解。三是算法推荐技术对价值的有限判断力导致了价值治理问题的复杂性。算法推荐技术能够对信息内容精准识别并贴上标签，然而对信息内容背后的价值立场、潜在意图判断并不擅长。各种社会思潮在算法监管盲区下潜藏进信息产品中不易察觉，利用技术迎合用户的规则缺陷借势渗透，侵蚀主流意识形态的方式方法防不胜防，算法场域价值秩序治理难度与日俱增。

在算法推荐传播场域，话语表达环境日益复杂，思潮渗透方式更加隐晦，价值权威被冲击消解，意识形态的价值风险日趋严峻。一是多元主体共存的价值格局压缩主流意识形态价值空间。各类主体、各种题材的信息在算法场域争夺流量，交锋对峙，谋求一席之地。在经济利益的追逐下，资本逻辑驱动眼球新闻、趣味迎合、低俗娱乐等内容充斥算法空间，价值分化、价值冲突、价值争夺愈演愈烈。在算法规则制约下，多元主体百家争鸣的传播场域为主流意识形态脱颖而出设下重重关卡，思想引领与价值凝聚愈发困难。二是算法“黑箱”掩盖错误思潮渗透。在算法“黑箱”掩护下，敌对意识形态、“高级红低级黑”、历史虚无主义等错误思潮有了隐蔽传播的可乘之机，利用规则漏洞引起舆论暗流，以泛化、固化甚至极化观点的方式诱导受众形成错误历史认知和价值观念[10]。三是算法的内在缺陷导致意识形态价值失守。算法推荐技术的“数字致瘾”机制诱导用户在泛娱乐氛围中价值错位，“过滤气泡”效应加剧了“圈层化”阻隔话语传播效应[11]，人们的理性思考在算法对个性深度迎合中被遮蔽误导，主流意识形态在多极化推荐生态下持续面临着价值失序、错位、扭曲的风险。作为大众传播领域的信息媒介，算法推荐技术信息分发结果不仅没有在拟态空间构建良性互动的价值体系，维护意识形态的安全稳定，反而演变成意识形态的风险机制，扰乱网络空间的价值秩序，加剧了意识形态价值生态的现实危机。

三、意识形态算法风险的多元呈现

算法推荐技术在用户、内容、平台、价值等维度对意识形态产生影响，遮蔽用户理性、变革内容传播、扭曲分发导向、冲击价值秩序，给意识形态带来一系列风险。在算法推荐技术的掩盖下，以资本逐利为目的的技术逻辑借势渗透，非中立的系统规则加剧了价值分化，以迎合用户为导向的成瘾机制侵蚀主流话语权威，以选择过滤为手段的结果趋势冲击社会共识，利益入侵、价值失守、算法失控等问题让意识形态陷入算法困境。

（一）以资本逐利为目的的技术逻辑冲击主流话语引领力

在市场逐利性规则驱使下，各类企业、自媒体人竞相涌入抖音、小红书、头条新闻等以算法推荐为核心技术的热门流量空间，资本力量以若隐若现的方式融入并影响信息传播生态。在我国，从开始的直接拒绝到后来尝试性地介入再到后期的全面对接，资本一直摸索着介入传媒业后的行动界限[12]。然而，有资本存在的地方就有相应的“超越力量”尝试着去追逐资本，并最终控制资本[13]，算法推荐技术的信息支配权赋予了资本更强大且更隐晦的干涉力场。在资本逻辑驱动下，舆论、流量、印象、注意力都被包装成商品，甚至出现少数媒体为资本制造商业鼓吹，误导舆论声量的行为。有的互联网平台应用为资本开通专属“氪金”渠道，让算法后台系统为信息商品加权赋值“开后门”。在以资本趋利为内生动力的算法场域，意识形态传播生态面临失控乃至失序的风险。一是失真噪声扰乱公众理性逻辑。以流量为导向的传播环境让人们在资本包装渲染下的海量信息面前无所适从，诱导用户陷入片面信息、失真信息、认知门槛、感官刺激等认知陷阱。二是市场价值削弱意识形态凝聚力与向心力。对利益指标的追求、对公众偏好的迎合滋生了消费主义、享乐主义、眼球新闻等扭曲的价值导向，在算法“黑箱”包裹下暗流涌动的社会思潮扰乱了主流意识形态宣传正能量、弘扬主旋律的引领共识功能。三是追求经济效益的内生动力使平台社会价值与社会功能错位。网络应用是面向大众，具有一定社会影响和现实功能的信息传播平台，实现社会价值、履行社会责任、发挥社会功能是社会主义制度下企业主体不可或缺的内在要求。当资本与利润介入平台在社会性与市场性的角色选择时，其社会属性难以避免地受到干预影响，产生责任错位与价值偏差。

（二）以系统规则为标准的分发方式加剧社会价值分化

在既定的程序代码和算法规则的运作下，算法推荐技术表现出中立性与偏向性的矛盾特质。一方面，智能算法按照客观中立的技术参数处理海量内容，配置信息资源。系统以内容优劣性与反馈度为标准，为每一条信息定位合适的用户群体，根据受众反馈作出流量池投放规模的决策。在这个过程中内嵌规则是算法系统执行信息分发的唯一标准。另一方面，在多重因素影响下，信息分发的结果呈现非中立性特征。一是由于信息发布者自身立场的非中立性导致了话语内容的价值偏向性。任何信息传递的不仅是信息本身，从话语构思到编写制作再到发布推广的过程都是为了达成某种目的而进行的内容生产，渗透着设计者的价值立场和追求目的。算法从诞生就代表了某种意志的工具理性，伦理偏差、歧视、误导等问题难以避免。二是算法的“把关人”身份被干扰弱化。系统规则与利益规则交织纠缠，原有的技术中立性失去标准规范。在内容、过程、手段的综合影响下，算法推荐技术以看似中立的规则执行着非中立、非公正的内容判断与价值分发，意识形态的伦理失范与价值偏差被进一步激化。新闻的质量失去了标准把控，价值观失去统一引导，媒体公共性和社会责任缺位，工具理性和价值理性失去了平衡[14]。算法嵌入政治体系对政治权力和政治价值的施力将导致算法时代新的社会風险，非常有可能演化成“利维坦”的智能形态——“算法利维坦”[6]。在算法规则的“操控”下，多元主体话语空间扩张，话语表达更自由，话语价值输出加快，算法技术带来的并不是意识形态领域的思想自由与百花齐放，反而催生了视野狭隘、理性缺失、立场固化等风险，致使受众群体从多元化走向多极化，价值观念从自由化走向分散化。

（三）以迎合用户为导向的成瘾机制侵蚀主流话语权威

从数字经济发展的过程看，在便捷化的虚拟操作缩减现实时间成本后，受众的习惯性依赖与沉迷式上瘾是算法时代的特征，且伴随着技术与人类社会的相生相融，数字致瘾的机制运用会愈发成熟，算法系统对人性的把握也将越发深入全面。数字技术已高度融入人们的社会生活，只要出现适合的产品，谁都可能上瘾，而且数字时代的环境和氛围比人类历史上任何一个时代都更容易让人上瘾[15]（P2）。用户本位信息生产与分发机制从本质上看就是对人性趋利避害本能的理解迎合。然而这种曲意逢迎的技术逻辑不断地刺激着人性的消极方面，为娱乐至上、享乐主义、慵懒懈怠的思想氛围提供滋生土壤。在信息供给方，运营者致力于生产诱导人们更加沉迷的技术与内容：平台庞大用户基数和用户行为采集孵化了空前强大的算法后台系统，信息致瘾机制对人性弱点的把握愈发精细;企业、自媒体人等信息发布者秉承“内容为王”“流量至上”的理念在系统规则的指导下精耕细作，以迎合为目的生产海量的信息，竞相诱导用户投入关注。在信息的接收方，人们前所未有地依赖这些获取快乐的简便渠道，不断被弱化的意志力难以抵抗日益增强的致瘾机制，理性思考逐渐被非理性的感官刺激左右，专注式学习被碎片化娱乐取代，社会价值凝聚被个体思想沉浸侵蚀，主流价值传播被泛滥的个性化信息供给稀释，受众最终可能沦为数字时代的“乌合之众”。

（四）以选择过滤为推送机制的结果导向冲击社会共识凝聚

虽然算法能够过滤并推送人们想要看到的信息，但信息过滤的结果并不是人们自由独立的主动选择。“过滤气泡”里的信息内容取决于个人的关注兴趣，然而个人无法决定什么信息被过滤掉，什么信息被留下来。在算法构建的拟态空间，受众接收信息的真实性、客观性、全面性由算法系统识别、筛选并投放。技术对个性的深度理解进一步促使个体虚拟空间封闭固化，群体的价值差异与观念偏见在过滤隔离中不断被孤立放大，社会共识在一个个“过滤气泡”“信息茧房”“回音室”中被冲击分化。一是算法并不擅长在道德规范和社会立场上作出价值判断，这就导致某些低劣但能满足人们欲望的信息能够在短时间内大行其道，甚至由于优质内容的“曲高和寡”，出现劣质信息驱逐优质信息的错位推送现象。二是要将海量的信息剥茧抽丝辨析真相，无论是媒体从业者还是智能算法系统都难以具备撕开重重虚假伪装识破本质的判断力。然而人们获取资讯的即时性要求算法系统必须在短时间内高效配置信息资源，这就产生了片面信息、主观信息、人造真相蔓延的可能性。在算法推荐技术高速运转下，全面真相与理性思考被片面信息与情绪诉求取而代之，各类谣言、猜想、假新闻、反转剧情泥沙俱下充斥了网络空间。三是在规则机制与传播氛围的影响下，用户无意识地在“过滤气泡”中窄化视野、在“信息茧房”自缚认知、在“回声室”里固化偏见，人的自主判断力与理性思考能力在潜移默化中被渗透影响。最终用户的思维认知被推送系统改造塑形，用户的知情权被算法技术蒙蔽干预，社会价值共识在信息价值孤岛中式微失语。

四、意识形态算法风险的治理路径

算法推荐技术重塑了意识形态的影响机制和传播范式，实现信息资源高效配置的同时陷入用户体验与价值传播的两难困境。面对算法时代权威弱化、价值分化、群体极化、立场固化的意识形态困境，必须采取系统化、体系化、全方位的综合性思路视角建构治理路径。要夯实制度机制体系建设，推动算法技术体系伦理优化，促进监管体系转型升级，以嵌入技术、责任意识优化算法信息分发流程，以适应智能算法时代的法律体系规范算法价值生态;要筑牢话语传播阵地，拥抱算法规则提升主流媒体价值话语输出，以算法透明、算法问责、算法自律规避算法黑箱、算法失控，算法致瘾的意识形态风险。

（一）优化算法守卫主流价值

一是优化算法社会功能与政治属性，坚持主流价值导向[2]，构建信息开放体系，破除封闭固化价值趋势。一方面，为主流媒体、官方媒体等稳定可靠信息来源渠道充分赋值权重，提升优质主旋律内容推荐广度与深度，高频投放与主流意识形态同向的优秀作品，实现渗透受众信息茧房，抵御资本侵蚀，规避价值固化。另一方面，重塑用户认知空间，以开放全面透明的信息体系破除“过滤气泡”封闭化趋势。供给全局性、可视化、可选择的信息推送系统，为用户打开全方位认知渠道，避免在“回音室”中一叶障目，实现受众知情权的充分回归。二是强化算法识别把关力，提升算法内容意识形态判断能力。算法推荐技术对话语信息的内容识别与价值判断是实现算法正义、算法善治的必要前提。应将道德情感、社会责任等价值判断融入算法程序机制，提升算法的鉴别能力，在“断物识人”技术上实现从内容判断到价值评价的跃升，准确识别并严厉惩治博眼球、标题党、虚假信息、拜金主义、享乐主义、鼓吹西方意识形态等不良信息及其内容发布者，防止标题炒作、价值渗透等负面内容在网络空间蔓延，保证积极正面的信息占据社会主流，在传播实践中重塑算法社会责任，清正网络空间风气。三是优化算法理性培育力，引导用户自我养成理性思考和辩证思维，构建意识形态理性培育机制。要筑牢算法推荐技术原则底线，通过完善人工审核机制、价值纠偏机制、注意力回归机制、防范沉迷机制、信息破茧机制保证算法分发信息的结果不失范、不逾矩。探索发挥算法推荐技术对人类的价值观念、思维模式培育养成的积极作用，因势利导构建知识性与娱乐性、批判性与建设性、显性宣传与隐性渗透相统一的算法育人模式。

（二）法规监管匡正算法正义

算法推荐技术以网络应用为载体将权力延伸至政治、社会、文化等诸多领域，治理算法推荐技术引发的一系列意识形态问题，需要夯实基础，建立与之相应的国家治理制度体系、权责关系、法治规范。一方面，要坚持推进算法时代治理理念、治理体系、治理能力的现代化。政府主体既要激发市场活力，保障算法经济健康发展，又需要弥补市场缺陷，提供政策引导和法律保障，监管市场行为，维护市场秩序，规避因算法技术过度使用引发的风险危机。平台主体需对其传播空间内流通信息严格把关，防止资本力量操纵舆论，警惕西方意识形态的网络渗透，保障平台消费者的合法权益。因此，要根据算法推荐技术传播场域的风险隐患完善相应法律规则、监管体系，重构新技术环境下多元主体的权责关系与治理格局，构建政府部门、媒体、企业、自媒体创作者有序参与、协同共治的良性传播生态。另一方面，要全面推进算法经济法制规则与法治生态建设，警惕大型互联网平台垄断信息行为，防范垄断资本市场控制影响话语生态。完善以反垄断法为代表的法律规范体系、监督审查机制、整治惩罚机制，规避互联网垄断企业凭借垄断地位影响风向、操纵舆论的风险，稳定市场经济秩序，守卫主流话语主导性与权威性。既要围绕互联网经济的新问题新挑战科学立法、压实责任、防范风险，规范平台发展，也要发挥政府主体作用，主动监管主动作为，持续推进研判识别机制、响应处置机制、监管方式与监管技术的现代化。在治理算法经济的过程中要把握好强化监管、规范行为与鼓励创新、激发活力之间的关系，避免一管就死、一放就乱的治理生态。

（三）拥抱算法提升话语影响力

智能算法技术以不可遏制的趋势融入人类社会生活，互联网信息生态在算法推荐技术的过滤分发下已陷入“酒香也怕巷子深”媒介时代。如何正确理解算法，适应算法时代的“生存法则”，是算法时代巩固意识形态话语阵地、凝聚意识形态价值共识，打好宣传工作攻坚战的必要前提。官方媒体、主流媒体及高校等宣传阵地只有具备算法规则下的内容输出能力，突出“传播力、引导力、影响力、公信力”[9]，增强主流价值话语的吸引力和感染力，才能在多元话语内容中立主流，在多元价值博弈中确主导，在多种意识形态交锋中明主线。探索算法推荐技术下意识形态阵地建设与话语转型问题，是在意识形态变局中开新局、意识形态困境中谋出路、意识形态交锋中占高地的必要途径。一是要转变思路，拥抱算法规则。官方媒体、主流媒体和内容创作者应转变工作理念，认识算法、理解算法、尊重算法、适应算法，创造能被算法识别的优质内容。二是要加大投入，提升话语输出力。在生产制作团队、算法技术研究、激励保障机制等方面完善配套设施机制，加大理论研究与实践投入，尤其要注重以渗透性传播、隐性宣传为主的话语输出研究为重点，全面提高优质内容产出能力，促进网络意识形态的话语转换。三是要适应公众现代审美转变话语风格，推动话语内容与形式转型，尽可能创造用户喜爱的内容。如在短视频领域，主流媒体应基于粉丝画像，推出与粉丝需求相吻合的短视频作品;利用抖音平台扩大作品发布范围;挖掘系列主题短视频，打造账户特色;针对性利用平台推广扩大流量池[16]。

（四）算法透明推动算法问责

算法透明是倒逼平台自律、培育用户理性、建构问责机制的技術基础和必要前提。只有在足够公开化、透明化、开放化的环境里，人们才有可能看到算法包装外衣下信息资源的真实全貌。构建算法透明机制就是通过算法公开、算法监管、算法问责、算法培育实现信息过滤分发过程机理的透明可溯，推动政府、平台、创作者、媒体机构、用户各主体相互监督、外向把控、内在约束、有效衔接、动态协作的过程。一是要对算法推荐的分发内容与处理过程公开透明化。平台应将算法技术嵌入信息内容的分析，对发布责任主体、信息传播动因、价值立场倾向，以及信息传播过程的真实性与规范性作出尽可能详尽的分析，以倒逼媒体机构、自媒体创作人发布规范健康信息，减少劣质新闻流通。二是有效发挥政府主体监管问责作用。通过压实平台和内容发布者的主体责任;定期公开披露平台和媒体发布者的失责、失范行为;组织专家研究解读不良信息的类型、表现形式、恶劣影响等以提升公众对算法推荐的技术警觉;研发算法监管技术及时识别、整治不良信息，惩处违规主体，落实问责机制。三是调动用户参与算法监管的积极性。算法拟态空间不是法外之地，任何组织与个人都应当成为秩序维护的参与主体[17]。进一步完善信息举报制度并设立相应奖惩机制，引导民众广泛参与，形成自下而上、多方参与的监管格局，不仅要及时整治虚假宣传、引人不适、价值扭曲的不良违规信息，还应对“标题党”“眼球新闻”、曲解误读等劣质信息和相关责任者相应惩罚，硬性规则底线与柔性评判标准相结合，打造风清气正的网络空间。

参考文献：

[1]CE Shannon，W Weaver，RE Blahut，B Hajek.A Mathematical Theory of Communication[J].The Bell System Technical Journal，1948，（1）.

[2]李钢，唐月卫，刘章仪.推荐算法与网络意识形态风险防范[J].当代传播，2020，（3）.

[3]张林.算法推荐时代凝聚价值共识的现实难题与策略选择[J].思想政治教育，2021，（1）.

[4]刘伟杰，周绍东.新科技革命背景下的人与技术关系——马克思主义政治经济学视角的解读[J].经济纵横，2020，（9）.

[5]张爱军.“算法利维坦”的风险及其规制[J].探索与争鸣， 2021，（1）.

[6]张佳.短视频内容算法[M].北京：人民邮电出版社，2020.

[7]S.Lash.Power after Hegemony. Cultural Studies inMutation？[J].Theory，Culture& Society，2007，（3）.

[8]陳志勇，李天丽.社交媒体应用于高校思想政治教育的逻辑理路[J].思想教育研究，2020，（1）.

[9]马克思恩格斯选集（第四卷）[M].北京： 人民出版社，1995.

[10]葛彬超，郭怡菲.算法推荐场域历史虚无主义精准化渗透的策略与应对[J].思想教育研究，2021，（8）.

[11]陈志勇.自媒体环境下高校社会主义意识形态话语体系建构[J].思想理论教育导刊， 2019，（12）.

[12]黄楚新.论资本影响与媒体舆论的博弈[J].国际新闻界，2018，（11）.

[13]吴凯.网络舆论的资本批判与价值重塑[J].中共天津市委党校学报，2019，（6）.

[14]张帜.智媒时代对新闻生产中算法新闻伦理的思考[J].海南大学学报（人文社会科学版），2019，（3）.

[15][美]亚当·奥尔特. 欲罢不能：刷屏时代如何摆脱行为上瘾[M].北京：机械工业出版社，2018.

[16]张媛，刘林.算法视域下央视频抖音号内容建设路径研究[J].电视研究， 2020，（10）.

[17]陈志勇.网络空间治理背景下的高校网络思想政治教育应对[J].思想教育研究，2018，（12）.责任编辑：王篆

Research on Algorithmic Risk and Governance Path of Ideology

Chen Lijun， Chen Zhiyong

Abstract：Algorithm technology has stimulated new potential and injected new power into social and economic development. At the same time， it has triggered the transformation of information communication mode， communication power structure and value ecological order， and brought a series of risks and challenges such as entertainment addiction， public opinion manipulation and value disorder to the ideological field.Under the influence of algorithm recommendation technology， user cognition is alienated by technology， content communication control power is out of control， platform behavior is out of order and anomie， and value penetration is becoming more and more hidden. Ideological risk management in the field of algorithm recommendation involves not only a technical problem of internet intelligent system， but also multi-disciplinary fields such as political power， public ethics， information dissemination and psychological will. We must take a comprehensive consideration from a multidimensional analysis perspective， optimize the logic of the algorithm， improve the regulatory system， strengthen the discourse position，promote the transparency of the algorithm， and explore the governance ideas and practical paths in the algorithm era.

Key words：ideology， discourse power， algorithm recommendation， technological alienation