数字平台算法推荐的单向度现象探究及治理

贺亚东

(河南大学 马克思主义学院，河南 开封 475000)

阿多诺在《文化工业：作为大众欺骗的启蒙》一文中提到：“文化给一切事物都贴上了同样的标签。电影、广播和杂志制造了一个系统。不仅各个部分之间能够取得一致，各个部分在整体上也能够取得一致。”[1]文化成为一种工业体系，通过技术手段实现了标准化和大众生产。此时的文化工业表现为一种新闻媒介，以一种公开的灌输形式出现。马尔库塞指出：“单向度思想是由政策的制订者及其新闻信息的提供者系统地推进的。”[2]13大众传播技术在当下更加发达，随着互联网信息技术的出现和数字平台的崛起，文化工业也出现了个性化的趋势和转向，通过算法推荐来实现对用户的个性化服务，精准推送和信息定制似乎改变了传统文化工业单向的信息输出。

“个性化信息服务的出现，是信息过载时代的一个必然结果，也是尊重与满足个体的信息权利的一种新手段。”[3]但是，数字时代的个性化或许只是看似美好。如果人们只关注自己熟悉或感兴趣的内容，那么个体的视野将会被局限，失去对事件和信息的完整判断，成为信息时代的井底之蛙。这一过程不能仅仅归咎于个人，也要看到文化工业在其中扮演的角色。文化工业作为一种工业体系，本质上是建立在大众传播技术之上的，在数字平台中这一技术的核心表现为算法。以大数据为基础的算法推荐能够对用户进行精准画像，从而实现信息的定向推送。但这种所谓的个性化服务并没有为人们带来双向度的生活方式，反而进一步加强了单向度倾向。在数字平台虚假的个性化掩盖下，社会的单向度表现得更为隐蔽，主要体现为信息、价值和思想的单向度。

一、信息的单向度

算法推荐对用户的精准刻画是依赖大数据得以实现的。互联网的发展使人们获得了前所未有的自由和便利：各种信息实现了跨越时空的流动和交换，数字支付使人们从现金支付的局限中解放，实时定位地图使人们从纸质地图的局限中解放，线上购物、打车、订餐软件的兴起更是为人们带来了诸多便利。移动智能终端在渗透进人类生活方方面面的同时，也将人们笼罩在数字资本的铁幕之下，人们联网的一举一动都留下了抹不掉的“数字脚印”。数字平台利用用户数据进行建模，谁拥有越多的用户个人信息，谁就能搭建起越精准的模型；而谁拥有了越精准的模型，谁就能吸引到越多广告商，获得更大的利润。为了使利润能够持续增长，数字平台利用用户模型进行精准的广告投放和信息推送，这一过程看似尊重用户的“个性”，实际上却与传统文化工业的单向度属性如出一辙。

几乎所有的社交平台都是凭借这样的模型来实现向用户推荐“熟悉的人”或“感兴趣的内容”，将目标用户与其他用户联系起来，从而降低用户脱离平台的概率。短视频平台的运作逻辑更是如此：平台根据用户观看视频的偏好动态调整接下来推送的内容，让用户尽可能长时间地停留在平台内部，进而达到流量变现和广告推广的目的。所有能做到“投用户所好”的各类软件，采用的都是同样的算法推荐逻辑，利用源源不断的针对性的内容将用户牢牢绑在系统之中，而“受众面对智能算法推送来的产品信息时，往往不再将之视作令人厌烦的广告，反而会觉得其恰到好处地‘读懂了’自己的需求”[4]。这样的运转逻辑似乎是技术进步的生动体现，人们看似获得了更丰富的见识，但很大程度上是算法刻意调度让人们见识到的信息，是被规定的单向度的信息。在算法精准排布的信息流中，受众的视野不是变得更开阔而是更闭塞，人们甚至可能因此丧失获取和接受不同信息的能力。美国学者桑斯坦提出了“信息茧房”一词，形象地描绘了算法推荐大行其道的当下人们遭遇的信息困境。在他看来，信息茧房即“我们只听我们选择的东西和愉悦我们的东西”[5]的状态。“今天的某些大数据分析，在某种意义就是在分析甚至‘制造’人们的‘视角’，然后将符合视角的‘事实’推送给他们，虽然推送的‘事实’似乎是客观的，但是，当它们被放置在人们的‘视角’下时，就成为了影响主观判断和态度的重要手段。”[3]人们对于熟悉和感兴趣的信息的偏好将使人不自觉地投入正向的、肯定性的信息中，不愿接触或被算法排除而无法接触到否定性的另一种声音。在这种封闭单向的环境中，人的视野被算法规定而越来越受限，长此以往，包裹用户的信息茧房将会越来越密不透风。

二、价值的单向度

值得警惕的是，算法推荐并不会止步于此，信息获取的单向度必然带来价值选择的单向度。数字平台价值的单向度一方面主要体现在平台受众自单向度的信息中逐渐形成的单向度的价值观念，另一方面，由于算法逻辑的背后是人的思维逻辑和价值取向，因此算法逻辑也潜在地包含着价值选择，内在于算法中的价值取向潜移默化地影响受众，从而形成一种外在于人但能够深刻影响人的单向度性。

人的本质是一切社会关系的总和，任何人都无法脱离所处的环境而独立存在。网络中同样如此，互联网作为虚拟的公共空间是现实社会的衍生物。如果社会中的大多数被单向度的信息茧房围困，那么公共空间将变得支离破碎，“公共信息的传播、社会意见的整合、社会共识的形成，也会变得日益困难”[6]。茧房效应不可避免地会带来“回声室效应”，即信息或想法在一个封闭的范围里得到加强。2020年5月，加拿大政府将Incel(involuntary celibate的缩略语，意为“非自愿独身者”)定义为恐怖组织。Incel社区最初是一个为在社交方面有困惑的年轻人提供建议和支持的网上论坛。但部分极端群体将在亲密关系中的挫败归咎于女性，在一些另类右翼的匿名论坛上发泄不满，最终升级到在现实中实施无差别袭击，Incel社群逐渐发展成为暴力和厌女症的温床[7]。恐怖主义研究中心将恐怖主义描述为：“恐怖分子甚至不认为他们可能是错的，也不认为其他人的观点有可取之处……他们只把邪恶动机归于他们群体外的其他人。在心理上被激发的恐怖分子的……共有特征是宣称需要归属于一个群体，这些恐怖分子通过群体接纳来界定自己的社会地位。”[8]116《沙龙》杂志专栏作家安德鲁·莱昂纳德在《困于回声室》一文提道：“我认为真正令人担忧的不是互联网将随时在谷歌里找到我需要的现成的事实这个过程变得无比简单，而是它将随时找到一种我需要的思维模式这个过程变得如此简单。”[9]由于个人总是倾向于接受协调性的信息而避免那些会带来不协调认知的信息，因此人们会不自觉地将自己封闭在全是与自己观点一致的信息茧房中，只听得到同一种声音的回声。在一个单向度的网络环境中一呼百应，人们会认为自己的观点代表主流，从而扭曲对一般共识的认识。这是单向度的信息带来的巨大危害，即价值观的单向度。桑斯坦提出群体极化法则，他认为群体时常陷入极端状态。“恐怖组织陷入误解、怀疑、仇恨或暴力，常常就是由于群体极化”[8]115，在信息茧房和互联网意见领袖的推动下，“回声室效应”不断加剧，信息茧房就发展为“价值茧房”。这种价值观上的偏见如果不加引导，将会在算法推荐的推波助澜下愈演愈烈，进而撕裂社会的核心价值共识，动摇主流意识形态的领导地位。

另一方面，算法内在地包含着开发者的价值观念，因此算法逻辑也潜在地具有价值取向，能够潜移默化地影响受众。齐格蒙特·鲍曼和大卫·莱昂在《流体监视》一书中提出：“代表个人的信息是由‘个人数据’组成的，也正是因为数据来源于个人的身体，因此它可能会影响人的人生机会和选择。零碎的数据往往比喜欢讲自己故事的人更可信。软件设计师说他们只是在‘处理数据’，所以他们的角色是‘道德中立的’，他们的评估和歧视也只是‘理性的’。”[10]算法的价值歧视和霸权在反乌托邦题材电视剧《黑镜》第3季第1集中有生动的体现：女主角生活的未来世界里的人际交往方式就是为他人评分，分数越高的人，社会地位就越高。某天不断遭遇意外的女主角疲于迎合他人，这导致她的评分急转直下，最终被关进了监狱。剧中描绘的世界里，每个人的分数决定了他们能够得到什么样的服务、达到哪一个社会层级以及过上怎样的生活，几乎所有人都被这样一个评分系统绑架，不得不按照给定的社会规则单向度地生活。这种规则不仅仅是艺术创作，由于算法具有优越的模拟和预测能力，许多行业将算法作为一种有效手段来指导决策。例如银行会根据用户的信用评级和消费能力评估是否提供贷款及贷款额度，将被算法判定为有高风险倾向的用户拒之门外。此外，我国的信息技术和互联网产业已快速发展至世界领先水平，但鲜有数字平台考虑到数字弱势群体如老年人和残疾人融入智能社会的困境并为他们进行全面的无障碍辅助支持。算法对社会群体机械地分门别类，虽然一定程度上会给平台和机构降低风险，提高管理效率，但也会潜在地使不同群体的社会地位固化，让人们只能在符合其身份地位和社会角色的范围内活动，处于优势地位的人能够凭借已有的优势获得更多的利益，弱势群体则会因为其弱势地位而继续受到隐性的惩罚。因此有理由担心，如果基于大数据的算法技术被不当利用，将会对社会的一些群体带来真实的歧视和伤害。

三、思想的单向度

在马尔库塞看来，单向度思想的形成是导致单向度的人出现的根本原因。人类对于实现效率最大化始终有着狂热追求，技术进步带来了巨大的便利，个性化服务为每个人创造了一个独属于自己的美丽新世界，这使得让渡部分隐私和个人信息来换取便利高效的生活方式变得可以接受。用户的个人信息被汇总、分析、交换，在虚拟的网络世界中每个人都有一个数字化的自己存在，在这个数字画像周围是算法精准排布的信息，单向度的信息塑造单向度的价值，被单向度的价值取向指引，人的思想也将陷入单向的维度。也就是说，数字时代标榜的个性也是被规定了的个性，“决定人类自由程度的决定性因素，不是可供个人选择的范围，而是个人能够选择的是什么和实际选择的是什么。……自由选择主人并没有使主人和奴隶归于消失”[2]8。个人独立判断和选择的能力被不断消解，机器和算法以一种不易察觉的方式掌控了人的现实生活：迎合当代人碎片化时间的社交媒体反过来强化了人碎片化的思维习惯，不是支持就是反对的极化选项润物无声地塑造了一种二元对立的思考方式。在算法逻辑中，人可以被一串二进制数字代表，价值甚至是人本身都变成了可以被量化和评分的符号。在算法逻辑工具理性的引导下，人的思想变得被动、破碎和极端，丧失了主动、完整的反思和批判能力。

同时，技术的进步一定程度上掩盖了真正的矛盾和对立。工人和他的老板用同样的手机、开一样的汽车、游览同样的旅游胜地，更多的人得到了发展红利，生活水平的提高成为社会保持现状的有力辩护，于是“出现了一种单向度的思想和行为模式”[2]11，它使得对现状的反抗和拒绝表现为对舒适生活和增长的劳动生产率的抵制和拒绝，这种束缚不表现为强制的和不合理的，反而表现为对社会现状的拒绝和变革的诉求才是不合理。“在富裕和自由掩盖下的统治就扩展到私人生活和公共生活的一切领域，从而使一切真正的对立一体化，使一切不同的抉择同化。”[2]16

正如许多学者对单向度的批判所指出的，人在面对机器和算法推荐的统治时不是完全被动无助的。但应注意到，数字平台掌握着海量的数字资本，用户拒绝提供和交换个人信息就意味着与主流社会脱节，这是作为社会成员的每个个体难以承受的代价。人们不是没有意识到算法推荐的操纵，但面对算法霸权时，人们能采取的抵抗措施非常有限，因此仅仅呼唤个人的觉醒和对现状的拒绝是远远不够的，更需要国家强力措施推动算法主动向善。机器和算法的逻辑归根结底是人的逻辑，如何在开发程序伊始就克服单向度的逻辑，鼓励开发双向度的运行模式，让机器、技术和算法真正为人的全面发展服务，才是更值得我们思考的问题。

四、应对算法推荐逻辑单向度倾向的策略

算法作为一种工具，诞生之初是为了服务于人的，但同时其底层架构是开发者的逻辑，因此，看似客观的工具实则包含着人的主观态度。算法推荐的工具理性因而可能以客观的形式造成主观的偏见，导致出现算法歧视。正是由于算法的工具理性本质会带来意识形态后果，对整个社会有着重大影响，因此为算法技术加装价值瞄准镜就显得尤为重要，遏制算法推荐单向度的趋势也成为一个社会性的议题，需要来自各方的共同努力。

数字平台作为算法推荐技术的掌控者和最大获利方，对于引导算法向善应当承担更重大的社会责任。算法推荐服务的提供者应当以法律法规为最低限度，以社会公德和伦理为准绳，坚守主流价值导向，利用算法推荐技术积极传播社会正能量，构建一个清朗的网络空间。具体而言，第一，在算法的建构阶段，开发者应始终坚持以人为本的原则，尊重社会公德和伦理，遵守商业道德和职业道德，积极承担社会责任。算法平台在数据收集过程中应加强自律，不收集超过算法需要的用户个人数据。平台有责任也有义务向用户公开信息收集和使用的范围，将主动权交回给用户，保障用户对个人隐私数据的使用情况享有充分的知情权，且平台不得以用户拒绝授权不必要的权限而限制用户的正常使用，应充分尊重并保障用户的基本权益。第二，在算法的整合阶段，平台应加强信息内容管理，尽到审核和监督的义务，及时标记并报告违法信息，避免算法推荐逻辑由于自身固有的工具理性而出现对用户的歧视性规定，避免出现刻意制造争议和对立、诱导用户沉迷、利用信息差侵犯用户利益的逻辑。第三，在算法的分发阶段，平台应充分尊重用户的能动性，不应针对用户的个人习惯进行计算和推送。此外，算法平台应当强化自身的监督责任，健全不良信息的特征库，对平台上出现的问题及时纠偏，建立完善的用户协议和社区公约并及时处理用户的投诉和举报，引导算法推荐符合主流价值的导向。

用户个人作为享受算法服务的主体，克服算法推荐带来的不良影响的最直接的方式，就是提高自身的文化道德素养和批判思维能力。数字技术和算法推荐的迅速发展彻底改变了人们获取信息的方式，各类信息被推荐到人们眼前而不是人们主动去获取，信息来源变得多元化，主流价值导向的影响力被削弱。技术的进步降低了人对工具理性的警惕和反思，算法何以成为摆布人们思想的工具，归根结底，人固有的惰性思维难辞其咎。我们只有充分认识到被数字技术宰制的状况，才会促使自身的主体意识觉醒并主动改变现状，进而摆脱单向度的思维模式。当前的互联网生态中，无效信息远远多于有效信息，形成劣币驱逐良币的趋势。面对过载的信息，用户要克服思维上的懒惰，改变获取信息的惯用方式，从权威性的消息来源处主动搜索想要了解的内容并提高明辨信息来源、核实信息内容的能力。此外，我们还可以关闭算法推荐的权限，主动走出舒适圈去倾听不同的声音，将主要精力投入到现实生活中，通过现实的人际交流来获取新的信息和经验，减轻茧房效应对我们思维方式的消极影响。只有认识到算法推荐的弊端并主动采取措施，我们才能破除算法推荐带来的自我封闭性，塑造正确的价值观并培养批判的思维能力。

我国对算法技术的治理已经迈出了重要的第一步。2021年8月，国家互联网信息办公室就《互联网信息服务算法推荐管理规定》公开向社会征求意见，一系列相关法规的颁布和实施将成为国家着力防范化解算法技术风险的重要举措。从《互联网信息服务管理办法》到更细化的《互联网信息服务算法推荐管理规定(征求意见稿)》，我国立足实际，准确把握当前互联网算法推荐乱象，不断完善相关法规，做到源头治理，在最大程度上降低算法无序发展带来的不良影响。新冠疫情爆发后，依靠互联网和大数据支持的健康码和行程码程序极大地提高了国家疫情防控的效率，为我国迅速控制疫情蔓延趋势、保障人民生命健康权作出了重要贡献。因此，算法不仅是一种工具，更是一种隐含在工具外表下的意识形态，算法技术的治理也关系着我国国家治理能力和治理体系的现代化建设。党的十九届四中全会以社会治理共同体为核心，对如何坚持和完善中国特色社会主义制度、推进国家治理体系和治理能力现代化的若干重大问题作了专题研究，强调“必须加强和创新社会治理，完善党委领导、政府负责、民主协商、社会协同、公众参与、法治保障、科技支撑的社会治理体系”[11]。其中的“科学支撑”即技术治理，具体而言，就是要将大数据和人工智能等数字技术与社会治理深度融合，推进社会治理智能化、高效化，引导算法向善将成为提升社会效能并最终建成社会主义现代化强国的重要环节。