算法推荐时代的技术规训与价值重塑

□袁 媛 李 娜 王灿发

互联网时代，信息资源呈爆炸式增长，算法推荐技术的出现为用户获取信息提供了极大便利，有效缓解了用户对“信息过载”的焦虑。新兴媒介公司通过技术赋能，建构了以用户为中心的开放式信息生产发布模式，并将能否满足用户的个性化信息诉求作为争夺注意力市场的关键。因此，用户在一定程度上居于主体地位，个性化需求得以被重视和满足。随着传媒产业市场化程度的不断加深，算法技术逐渐深入用户生活，并通过长期对用户数据的收集、分析与利用不断增强自身的技术权力。于是，算法技术与用户的地位关系发生了深刻变化，算法技术的地位不断上升，用户地位不断下降，用户“自主的”主体性逐渐成为一种幻觉，算法技术权力的规训严重危害了用户的主体性。同时，“大数据杀熟”“信息茧房”“算法黑箱”等大数据技术漏洞不但破坏了公共信息传播系统，也侵害了用户自主选择、自主分享的权利，并对用户的隐私权等造成威胁。

一、算法技术规训下用户主体性的弱化

（一）用户自身要素的异化

马克思提出，异化是指人的物质与精神生产及其产品变成异己或与人对立的力量反过来统治人的社会现象。[1]权力不断增大的算法推荐技术将用户异化成为可以交易的商品，极大地削弱了用户的主体性。用户自身要素异化的过程体现为，算法平台将媒介、用户、广告商紧密联系在一起，用户在休闲时间自愿观看算法推荐内容的同时，也完成了消费欲望的刺激甚至是消费行为的实现。基于此，算法技术对于用户的控制演化为三个要素的异化。

第一，用户自由时间的异化。传统媒体时代，媒体通过提供免费的信息来获得用户的注意，再将用户的注意力贩卖给广告商进行变现，以此来维持其自身运营。此时，媒体出售的是受众较容易感知的观看广告的时间。算法推荐时代，个性化推荐技术贴心地根据用户画像为用户定制专属内容，在帮助用户节省寻找信息的时间的同时，也加深了用户对于推荐内容的依赖，模糊了用户的时间界限，令用户深陷“信息喂养”形式下的商业陷阱，不可控地消耗了大量的个人可以自由支配的时间。随着对用户碎片化时间控制的加剧，凭借算法对用户的精准分析，媒介资本对用户展开全天候的广告推荐，加剧用户日常生活的殖民化，导致原来的“特定时间剥削”转变为“全场景剥削”。

第二，用户情感劳动的异化。作为一种技术权力，算法权力不具有实质性的存在，其对用户进行规训甚至惩罚的过程是隐匿化的，很难被辨别、指认或是界定。在福柯论述的“权力的去中心化”的过程中，算法技术利用“算法黑箱”等隐藏起了权力运作的过程，甚至将其幻化成用户自由意志的狂欢。因此，算法技术对用户的控制手段主要是通过用户 “心甘情愿”的参与来实现的。在算法推荐技术的诱惑下，用户主动地观看、阅读算法筛选过的信息，信息偏向带来的舒适感和价值认同带来的满足感等使用户不断放松警惕，逐渐沉浸在这种“偏食投喂”带来的正向刺激和快感之中。在快感—劳动—快感的循环中，用户不停地在情感的驱动下“愉快地劳动”，使自己所有的活动行为和情感投入都异化为算法技术了解、控制、规训自身的有力工具。这种由用户自身驱动、不知不觉进行的“自我剥削”式劳动，使用户一步步沦为算法技术的免费劳动力，最终难逃数字劳动的枷锁。

第三，用户生产数据的异化。算法推荐时代，用户生产的数据分为主动生产数据、被动生产数据和介于主动与被动之间的数据三种。其中用户主动生产的数据包括用户主动发布、分享、评论的信息等。用户被动生产的数据主要是指用户在媒介平台 “不同意即放弃使用”的注册条款制约下不得不提供给平台的数据获取权和使用权。而日益普及的各类智能可穿戴设备也成为介于用户主动与被动之间的数据的主要来源。这三种类型的数据虽然来源不同，却同样具有经济价值，对其进行记录、存储、计算和分析，能够为算法平台赢得巨大的商业利益，这使得依靠数据“喂养”的算法平台对用户数据趋之若鹜。再加上部分用户对个人信息重视程度不足，缺少相应的法律常识等，致使个人数据被滥用的现象不断增多。算法技术站在用户的对立面，成为利用数据优势剥削用户的异化力量，整个过程虽然隐匿但却剧烈。

（二）用户自主权利的损失

第一，算法垄断侵害用户的选择权。严格意义上说，用户接受算法平台的信息推送就是其选择权，即信息自由获取权被侵害的开始。算法推荐技术在为用户提供定制化信息推送服务的同时，不断强化用户的“信息偏向”，满足用户心理上既成的“阅读期待”，很容易让用户产生信息获取的渠道依赖，受困于算法推荐精心织就的“信息茧房”之中。再加上算法推荐规则的不透明性和权重计算的复杂性等包含算法平台利益价值判断的算法设计因素，用户的个人信息视域范围不断缩小，并逐渐丧失阅读选择的主体意识。与此同时，居于信息垄断地位的算法平台一方面借机售卖热点和植入广告，实现流量变现。另一方面借助个性化推荐技术，推送媒介内容形塑用户，依据用户标签向其推送精心美化的“合适”内容以诱发用户的消费欲望，促成用户的消费行为，并最终“教育”用户形成及时享乐的生活方式，规训用户践行物质至上的人生价值。和居于主导地位的算法技术相比，处于弱势的用户在长期的 “信息偏向喂食”中产生“媒介多巴胺”成瘾，出于对戒断反应的恐惧，只能被迫接受平台夹带的私货，并在这种精心设置的“服务”中，一步步沦陷为算法技术规训与控制的对象。

第二，算法机制限制用户的分享权。网络用户的分享权即网络用户进行信息发布与传播的权利。算法机制对用户分享权的限制进一步削弱了用户在信息传播活动中的主体地位。当前以算法为核心的媒体平台对内容的传播有着近乎绝对的控制，内容传播的速度和范围往往并不取决于传播者发布内容的质量或接收者对信息的关注与需求程度，而是取决于以下三种平台算法机制：一是头部推送机制。即算法不以内容质量的优劣作为推送标准，而是以信息发布者粉丝数量的多少作为推送标准，因此拥有大量粉丝的头部用户能够拥有更多优先推送的机会，新用户和粉丝数量较少的用户，其内容被推荐的机会很低，很难得到其他用户的关注。二是推广收费机制。算法平台通过推广收费机制对付费主体的内容优先传播，使其能够被更多的用户关注借助算法技术打造的“深后台”，实现对非付费用户的权利收缴和为付费用户赋权的过程，进一步加剧了用户的权利结构不等。三是内容审查机制。用户生产和传播的内容越是符合平台对流行度的要求，越是能够迎合平台流量变现的目的，越有可能获得优先传播。平台在用户内容审查中的强大权力慢慢渗透进用户分享信息的常规行为之中，形成超越主体反思的惯习，用户开始主动迎合平台取向，成为自我规训和控制的根源。

第三，算法推荐伤害用户隐私权。在以算法为核心的平台中，用户的一切信息和行为都是算法抓取和分析的对象。无论何时何地，只要用户进入数字空间，其所有浏览、搜索以及消费等记录都会被算法实时抓取，用于演算、标记和勾勒用户画像。再加上智能媒体技术的不断进步，将图像等非结构化数据转化为结构化数据已经并非难事，呈几何级数增长的摄像头数量将用户的更多隐私暴露出来。强大的算法技术权力导致用户隐私的控制主体发生了改变，拥有隐私的隐私主体不再是唯一的隐私控制主体，掌握算法技术的平台替代隐私主体成为控制用户隐私的关键主体。由于隐私主体和隐私控制主体分离，当双方发生利益冲突时，就不可避免地出现隐私侵害的情形。首先，平台制定的“用户须知”“用户条例”要求用户必须让渡自身的数据存储权和使用权等来换取使用平台并获得良好体验的机会。智能算法通过对用户让渡数据的筛选过滤与排列组合来为用户画像。对用户的精准画像可能会带来对用户的新型隐私，即整合型隐私的侵犯。所谓的整合型隐私是指利用数据挖掘技术将用户在网络中留存的数字化痕迹进行有规律的整合而形成的隐私。整合型隐私在整合前往往是普通的个人信息，在数据挖掘过程中，通过对数据的排列组合，整合型隐私才得以产生。由于数据整合的主体、时间、方式、目的和用途等往往无法提前确定，导致整合型隐私具有极大的偶然性和隐蔽性，用户很难察觉。其次，用户数据的巨大商业价值不断刺激算法平台加大对用户数据的控制力度。算法平台记录、存储和分析用户数据，不仅为了向用户精准地推送信息，还为了建立用户数据库，精准预测用户的消费需求，并在此基础上加大相关内容尤其是商品广告的推荐，以赚取商业利益。用户数据的让渡是媒介资本不断积累的前提，在逐利本质的驱动下，算法平台对用户隐私数据的获取永无止境，并且未来将更加隐蔽和智能。

二、算法推荐时代的价值重塑

人类的主体性是人类实现自由而全面的发展的前提和基础。算法技术高效的信息分发机制优化了信息的配置效率，但弱化了人的主体性并产生了一系列的权利侵害。因此，政府、平台和用户等多方主体应当在对算法技术进行反思的基础上，共同构建有效的约束机制，对算法推荐技术进行优化和规范，纠正算法推荐技术重工具理性轻价值理性的偏向，使技术的高效性、便捷性与人的主体性、价值性相协调，重塑正确的价值导向。[2]

第一，政府层面加速立法，加强监督。政府的及时立法和有效监督是保证信息传播健康有序发展的刚性约束力量，目前已经出台的与算法技术应用密切相关的法案主要包括《个人信息保护法》和《互联网信息服务算法推荐管理规定》等。前者从立法层面明确了一般个人信息、敏感个人信息的收集、存储、使用、加工、传输、公开、删除如何在法律允许的范围内进行，后者为规范算法推荐服务提出了科学化、系统化、精细化的合规要求，明确并确立了算法治理的对象和基本原则。然而，随着对算法推荐技术各类主体在信息保护中权利和义务界定的逐渐清晰，对于算法推荐技术的公开、算法平台治理和算法数据安全等问题的解决变得更加迫切。算法“黑箱”对工具理性的包庇引发了算法偏见、新闻公共性受损以及人的主体意识削弱等一系列问题。只有增强算法的透明度和可解释性，有效治理以算法技术为核心的互联网平台，切实保护用户的算法数据安全，才能够坚守住人类的主体地位，防范权益被侵害的情形产生。

第二，平台层面优化技术，以人为本。首先，在算法推荐技术设计之初，对设计主体需加强伦理道德教育，使其认识到目的至上的工具理性的缺陷，回归到以人为本的正确价值导向，以科技伦理引导算法设计，使代码在生成之初就蕴含更多价值理性。具体而言，可利用“价值敏感设计”方法，将价值观、道德规范等嵌入到技术设计系统中[3]。例如，通过权重强化技术，为主流价值观等应知信息打开绿色通道，并在算法生成之后，对规则设计、数据处理、结果呈现等环节进行价值检视，纠正价值偏差，让人工智能更多地体现人的主导性和价值观。其次，在算法推荐技术的应用过程中，平台需认识到技术发展的目的是为人类服务，利益的实现不能违背人的意愿和价值观，即算法的运用应遵循自主性、公正性原则，促进算法推荐服务向有益于人类社会的方向发展。同时，平台还可以运用区块链等技术加强算法的可解释性和透明度，推动算法推荐流程的规范透明。建立完善人工干预和用户自主选择机制，充分尊重人机互动中人的自主性等。

第三，用户层面提升算法素养。提升用户的算法素养主要应从两方面入手：一是要培养用户的算法思维。算法思维是用户理解算法运行机制的基础，也是用户规避算法风险的认识来源。二是要提高用户防范和对抗算法风险的能力，深刻认识算法推荐平台中数据泄露的途径与方式，在与算法共存的数字世界中，学会驾驭和使用算法，重塑人的精神价值。[4]

三、结语

算法推荐时代，智能化、个性化的信息供给机制在满足用户多元需求的同时，也带来了用户自身要素的异化和自主权利的损失，算法技术为用户创造了新世界，但也抹去了诸多其他的可能性。因此，对于算法的发展不能听之任之，必须重新厘清用户与算法间的关系，使用与治理双管齐下，如此才能在未来的实践中重塑算法逻辑，帮助用户重新获得主体性。