马克思批判理论视域下智能算法推荐崇拜的生成逻辑及伦理风险

徐 静，王雪倩

1 从“商品拜物教”到智能推荐算法崇拜

商品拜物教作为马克思中后期的重要思想内容之一，不同于人们以虚幻的神为崇拜对象的宗教崇拜，而是人们把人类生产的商品作为崇拜对象。随着当代信息社会的扩张和人工智能的发展，商品拜物教发生了变化，呈现出智能算法崇拜的时代特点。算法是一种模拟仿真技术，通过对信息数据内容的建模处理，模拟人的认知能力、分析和决策能力并在此基础上实现技术方面的超越。简单来说，智能算法推荐通过信息数据技术，有效地帮助相关机构实现对于海量用户信息价值的准确评估和分配、适配。然而当前智能算法推荐使用的普及发展，打破了原有在信息分发适配方面的边界，进一步把强大优势影响到上游的创作、互动和审核方面，使信息的生产形成数据皆可算法化以及数据皆可物化的智能算法推荐崇拜心理，妄图利用技术解决一切问题，实现“技术的乌托邦”。但是，用户在享受算法推送的同时又受困于有限的推送，技术的异化在算法推送中体现。

2 智能算法推荐的生成逻辑

1）对于算法的私有化占有而言，算法是建立在信息、数据大量生产、复制、免费性商品私有化的基础之上。

数据是信息的特殊表现形式，那么从马克思视角出发，数据是一种特殊的商品，它在消费中很难被用完，可以很容易和快速地复制和分发，复制成本低，是非竞争性的。在大数据时代，大规模、多样化、低密度的数据通过社交媒体、移动设备、大数据、传感器和定位系统汇集在一起。在消费领域，为了资本积累，权力拥有者就会通过一定的手段将数据变为私有品，而算法在其中就能够发挥出巨大的作用。算法模型通过目前常用的四种基于内容的推荐系统（Content-based）、协同过滤系统（Collaborative filterring）、基于用户——产品的二部图网络结构（Netork-based）、混合推荐系统（Hybrid）的智能推荐分发信息模式，将海量不同属性的数据集相互关联，来为用户的状态、需求与内外部的连接发挥价值增益的作用，也为公共数据的私有化占有奠定基础。

对于算法制造者而言，算法制造蕴含了制造者的多层价值观。他们能够将具有公共性的数据变为一种算法的知识产权，即对于数据的商业秘密性的私有化占有，例如现在主流的智能推荐算法大多由商业公司开发，算法制造者的工作很少包括称赞那些收集和整理数据集的人的工作，以及编写更多数学算法的人的工作，而是基于他们自己公司的利益而去雇佣其它人创造算法，算法制造的最根本目的是通过信息技术追求实现极致的流量价值进而获得最大化利益的资本回报。其次，企业本身的文化也会左右算法制造。如Facebook作为社交媒体，注重互动的“Friends family first”原则在算法制作的体现上就表现为不断为用户推送与其互动关系强的用户的相关信息。

2）从算法背后的社会关系来看，当算法生产进入交换环节成为商品，并直接支配并控制算法用户的习惯，算法背后的社会关系得到更加自然的颠倒。

算法生产后进入交换环节拥有了生命，并直接支配和控制算法用户的习惯，算法作为商品生产的目的不是创造使用价值，而是创造交换价值，进而异化劳动产品为人服务的主体理念，成为支配劳动者命运的存在，社会关系呈现一种真实的颠倒。

算法使这种颠倒的社会关系变得更加自然化，人在不知不觉中受到算法的“支配”。2016年是算法编辑超越人工的转折之年，据美国皮尤研究中心发布的《2016美国社交媒体平台新闻使用报告》数据显示，Facebook已经成为人们阅读新闻的最大入口。在美国最大的社交平台Facebook上，用户可以不用直接为使用它而付费，就可以即刻体验到在这个平台上自己与他人之间、他人与他人之间的社交关系，并可以享用到社交平台上的智能算法推荐的信息分发权力。

社交关系和被赋权赋能的信息分发权力掩盖了Facebook的商品形式，智能算法推荐崇拜在Facebook上以一种翻转的形式呈现出来：在商品拜物教中，资本和社会生产结构才是物与物表象关系背后所隐藏的真实的社会关系。在企业社交媒体上，平台的社交性特点掩盖了其背后的商品形式，用户能够即刻地、具体地体验到社会关系和信息分发的权力，而商品形式作为隐形存在，并不直接面对用户。这也就是为何Facebook和Google并不传播或售卖使用权，但却是世界上最大的广告公司的原因。

3）被包装为社会崇拜物：集体无意识。在算法私有化的生产方式和社会关系下，资本的运作逻辑作用于市场的交换原则中，形成数据皆可算法化及数据皆可物化的内在分配、供需及交换的框架，进而导致社会的拜物神圣化心理在整个社会经济中滋生蔓延。

当下智能算法推荐通过算法技术逻辑冲破传统寡头权力的栅栏，信息生产和分发技术的发展使得个人对信息自我赋权的意识增强，用户主导信息的权利不断扩大。传统的“人找信息”模式通过算法推荐技术进阶到“信息找人”模式。但是现在的问题是社会将算法达成了社会契约式的迷恋物（崇拜物），用户能够真真切切体验到它为带来的好处，比如它可以通过挖掘个人的特征，进行个性化推送为每个人提供他们想要的东西，也能够为制造者创造高额工资。但是，大多数用户由于对个性化算法的运算规则并不清楚，产生了对算法技术的集体无意识崇拜。当算法运用于信息分发的过程中，算法模型经常以无声无息的方式在虚拟数字世界中处理信息、评估现状、得出关联进而做出推送决定，在整个运作过程中少有监督，只有在形成错误或失败时才会被注意到这种无意识。用户被牢牢地聚拢在算法构建的拟态环境中，虽然算法自身不具备具体的权力，但实际上它在技术无意识的层面上代表着背后的政治或商业利益，而被算法效果所吸引的用户在很大程度上并不知道自己受到商业利益的控制。

3 智能算法推荐崇拜的伦理风险

1）“算法表象”主导生活。2016年是算法编辑超越人工的转折之年，Facebook已成为美国人们阅读新闻的最大入口。从2017年6月易观数据发布的《中国移动互联网网民行为分析》中可以看出，2016年这一年我国的信息市场也出现了算法推荐超越人工推送信息的现象，之后，算法推荐进一步抢占用户注意力市场，远远将人工推送甩在身后。人们的大部分生活和时间都被算法生成的表象所吸引和控制着，生活本身展现为算法推荐的庞大堆聚，算法构建的表象和其赋予意义就成为用户的日常追求。

著名学者戈夫曼在其著作《日常生活的自我呈现》中，通过一系列舞台表演概念阐述了经典的拟剧理论。他将戏剧表演中的词汇——“舞台”引入到阐述中，将人类的表演场称作舞台。舞台又划分为前台和后台。在前台，表演者为了使自身形象及表演呈现理想化的景观，会不自主的有意识的通过模型和修改展示社会期待中理想化的自己。后台的呈现景观更加真实、随意，相较于前台，表演者在后台则不必那样刻意关注自己的形象。在以往传统的信息分发获取中，表演者按照自身所获取的信息中对于社会理解和期望的评定，在前台和后台中角色呈现以明确的舞台媒介为限进行明确的行为表演，而在当下智能推荐算法的技术逻辑下，个人的后台数据以隐形的数据呈现被算法无声无息生成出个性化的用户推荐成为表演者获取社会理解和期望的新评定标准，进而带入前台的表演，这个过程实质上是将后台前置，将与个人日常生活相关，呈现个体的每一个场景、生活由此变成了一个个的智能算法推荐。

2）制造消费和消费异化。在智能算法推荐场景中，算法构成的场景消费模式对用户的控制主要体现在经济上的控制，通过不断的创造消费需求和引导人们持续不断的消费上来实现。

马克思批判理论的后继者社会学家居伊·德波认为，消费社会中的各种景观都是服务于消费生产的。景观系统中的消费即便是虚假需求所引起的消费，作为不断强化指导孤独人群的武器，也是能够引起生产周期的循环和不断扩张。这里德波对于景观由消费产生，又不断引起消费的生产和扩张的表述，与算法作用于消费的模式具有高度一致性。这种算法引导消费的模式又会进一步加深人们的算法崇拜。

在算法场景中，其消费模式基于用户的个人习惯，通过算法设计，定制化地为每一位用户制造消费，这使得这一时期和场景下的商品地位更加突出于马克思所描述的状况，算法崇拜和异化消费从而存在内在的逻辑联系。在这种技术环境和算法崇拜下，人们的真实及虚假需求被不断地制造出来，与此相连的是社会生活被商品殖民化。算法推荐所制造的商品消费层出不穷，消费商品作为一种隐性的控制力量进驻到人们的生活中，并且开疆扩土，不断创造出新的需求，最终人们的生活被商品消费所支配，消费被异化，这种控制力量也变得清晰可见。

3）个人信息隐私权的“无保障”及媒介内容价值观的“无序化”。在消费领域，为了资本积累，权力拥有者就会通过一定的手段将数据变为私有品，而算法在其中就能够发挥出巨大的作用。算法模型将这些用户日常生活中产生不同属性的数据集相互关联，来为用户的状态、需求与内外部的连接发挥价值变现的作用。算法本身是没有对与错，不存在价值观，但是算法程序所依托的价值变量的设定以及信息生产盈利平台作为渠道分发的内容是存在着价值观。算法私有化导致算法制造的目的是经营者为了获得最大化利益的资本回报，在此基础上，当个人数据信息的占有成为独特性赢利的资本，蕴含着不同价值观念的内容被分发到受众端，价值观在没有统一导向的情况下被无秩序地传递。个人信息隐私权的“无保障”及媒介内容价值观的“无序化”直接对用户、对社会产生重大的伦理问题。

2018年3月，美国《纽约时报》报道一家名为剑桥分析（Cambridge Analytica）的数据公司非法窃取5000万Facebook用户的数据资料，并利用算法通过大数据分析，利用每个用户的兴趣爱好、个性特征、行为习惯预测他们的政治倾向。除了预测，这家公司还能借助Facebook的广告投放系统，利用数据分析，对用户进行个性化、精准化的信息定制和推送，使用户在推荐的信息中潜移默化地被影响，最终达到影响用户投票选择的目的。2018年4月，我国国家广播电视总局在督查“今日头条”网站整改工作时，发现其中的“内涵段子”这一客户端软件存在着导向不正、格调低俗等突出问题，责令其永久关停，并且全面清理类似算法推荐的视听节目产品。由于算法的真正权力主体并没有参与到算法的运作中，反而权力主体用户个人信息隐私权的“无保障”以及算法编辑把关的缺位，大量的个人信息被曲解利用，混乱低俗价值观的、重复性高的软新闻充斥到用户推荐页，而真正受众应知道的关乎国计民生和人们切身利益的公共性信息明显占比不足，媒介智能推荐算法的信息内容“无序化”给用户合理价值观的形成也带来一定负面影响。

当下用户不再按传统方式与服务供应商进行直接、单一的联系，而是要同时跨越时间、空间限制与数据中间商和数据后续利用者等多元主体建立多维复杂的关联。同时，智能算法推荐从诞生以来，冲破传统寡头权力的桎梏，实现了用户个人对信息的自我赋权，虽然在实际算法应用过程中出现一些伦理问题，但从总体来说，人工智能信息技术的发展使用 是大势所趋。强制管制只会适得其反，但是智能算法推荐崇拜是建立在对数据私有化、程序化的生产机制中，因此对算法崇拜的伦理风险防范策略还需要主要建立在数据的公开性、透明度原则之上，在具体伦理防范实践中根据算法场景导向的原则，建立合理的算法风险评估和管理体制。