张舒
摘 要:数字技术促进了监视功能的强化和扩展,商业监视借势兴起,并对社会生活产生了巨大影响。在文化逻辑视野下,商业监视嵌入人们的日常生活,在以确定的方式满足人们需求的同时,也将监视方式转变为受欢迎的自我量化。但这也导致了商业监视对民众数据分享行为的规训、在收集和使用数据中的“冷漠”以及制造社会惩罚等问题的产生。究其原因是监视泛化后的景观社会制造的欲望支配了人们的思想和生活。人们可以通过认知层面上正视生活中的不确定性、行为层面上减少对算法的依赖,并借助相关机构的立法手段以及多方社會力量监管来限制商业监控对社会的控制。
关键词:数字社会;商业监控;监视文化;数字中国;人的现代化
基金项目:教育部哲学社会科学研究重大课题攻关项目“新冠肺炎疫情对国民社会心态影响研究”(21JZD038)。
[中图分类号] C913 [文章编号] 1673-0186(2023)006-0108-013
[文献标识码] A [DOI编码] 10.19631/j.cnki.css.2023.006.008
随着党的二十大报告对如何建设数字中国问题的重视,商业组织获取民众数据的问题也逐渐吸引了研究者的兴趣。当前,在数字技术的辅助下,商业组织以更加隐蔽且高效的途径来监视用户的行为模式,并对其生活带来方方面面的影响,因此商业化的监视模式应当引起社会的广泛关注。提到监视,往往会让人联想到间谍的画面,街角处的摄像机,或者是数据公司或权力机构持有的个人资料。随着公共空间摄像头的普及,监视已经成为一种“观看”的存在方式。在《监视研究:概述》一书中,大卫·里昂(David Lyon)将监视(surveillance)定义为:为了影响、管理、保护或指导的目的,对个人细节进行集中、系统和例行的关注[1]。安东尼·吉登斯(Anthony Giddens)指出,监视是高度现代性的四个组成部分之一[2],机构或集体通过信息的收集、组织和存储,用来监测和管理人们的活动[3]。从已有研究来看,监视通常指的是国家或企业机构对人口进行管理的活动[4-5],该概念涉及一种不对称性,即个人被结构性实体所监测,权力的天平压倒性地偏向监视者。但智能技术的发展使监视变得更加多样化。
新的计算机技术和消费主义在20世纪后期的监视发展中起到了重要作用。乔纳森·芬恩(Jonathan Finn)指出,当下社会中存在的监视系统已不再是警察、国家和公司的职权范围,而是生活的一个组成部分[6]。虽然奥威尔(George Orwell)[7]笔下的人物生活在一种恼人的恐惧中,但如今的监视却是通过我们自己点击网站、发送短信和交换照片而实现的。人们比以往任何时候都更热衷于监视,在这个充斥着舒适消费和休闲工作的软监控世界里,用户生成的内容产生了日常活动监视的数据,“观看”已经成为一种生活方式,监视文化也因此形成。
齐格蒙特·鲍曼(Zygmunt Bauman)和大卫·里昂(David Lyon)认为互联网是一个内在流动的监视空间[8],这种流动性往往会跨越起始的假定活动范围,模糊公共和私人领域间的界限,使“线上”和“线下”的分类对人们实际生活的影响越来越小。当观看作为一种生活方式,人们在数字生活中便产生了一种矛盾体验,一方面是人们沉浸在日常社交媒体、游戏化的在线环境和自我追踪中感到自由自在,另一方面则是人们的就业机会、人生选择往往也会受到数据收集、存储、分类等计算方式带来的消极影响。对一些人来说,商业监视是令人愉快、充满力量的存在;另一些人则认为,这些监视个人数据的活动可能带来不可预测的风险,例如分类导致的社会歧视。因此,在数字现代化环境下,需要超越《一九八四》的奥威尔式框架,找到适合当今监视研究的新思路。里昂在查尔斯·泰勒(Charles Taylor)的研究基础上,提出以监视文化的模式来分析当下监视的是如何使人们积极参与其中,并试图规范自己和他人的行为实践的。在此背景下,人们更加需要重视商业监视对个人数据的记录和追踪。本文主要分析商业组织通过商业监视收集和分析个人数据以获得影响力、权力和管理操作的经验。
一、问题表现:需求引导下的监视生活方式
整体来看,商业监视使人们对监视的态度从忌惮和疏离转变为积极参与的自我量化,究其原因是商业监视能够为人们提供一种更加“确定”的生活方式。
(一)从寒蝉效应到自我量化
商业监视对文化的塑造主要表现在其对人们生活方式的影响上。监视的法语来源于单词surveiller(字面意思是“看管”),是一种古老的行为习俗。纵观人类历史的大部分时间,监视一直是少数人的活动,由特定的人或组织来完成。这一情况随着21世纪的到来发生了转变。互联网技术的发展使网络社交媒体日益普及,监视主体的范围也逐渐扩大化。美国发生的“9·11恐怖袭击事件”以及2013年斯诺登复制并公布美国国家安全局的文件,引发全球关注美国国家安全局(NSA)等情报机构对世界进行“无嫌疑监视”的行为,一度引发美国民众对监视和窃听的寒蝉效应。寒蝉效应,即人们在担心其他人,特别是大型、不透明的组织,如航空公司或安全机构,对个人私生活的了解程度。从20世纪后期开始,在越来越强大的新技术的推动下,企业的监视功能不断强化,尤其是信息基础设施扩展对日常生活中数字关系日益依赖,商业监视也逐渐向日常生活倾斜。监控文化通过个人的广泛在线参与以及对手机等通信工具的深刻依赖而逐渐形成。虽然西方社会监视的控制权目前大部分仍掌握在警察和情报机构手里,但随着互联网和数字技术的发展,普通民众在日常生活中也可以且更容易地进行监视活动,“观看”正成为人们的日常生活行为。这在我国民众的生活中也已成为常态,例如,父母通过智能设备、社交媒体平台对孩子的成长和学习情况的掌握,朋友之间甚至是陌生人之间在社交媒体平台上的互动观察,个人利用电子设备进行的自我监视健康状况等。在商业监视的视域下,企业通过查看个人社交媒体档案来施加影响以说服用户购买产品,社会管理部门通过查看个人的银行记录来判断是否有资格获得社会援助,以及个人查看感兴趣的资料时主动发起的自我追踪。随着人们越来越多地使用监视工具,监视文化应运而生,而它的一个关键特征是人们积极参与并试图规范自己和他人的监视想象。例如,许多人使用社交媒体查看他人的生活并进行道德和价值评价,极端的情况例如“网络喷子”和“键盘侠”等行为。整体上来看,监视文化的特点首先如里昂所指,监视不再仅仅是从外部影响人们生活的存在,它已经成为民众日常所遵守的、自愿和有意参与的、无需谈判和抵制的理所当然的实践活动;同时,监视已经渗透到家庭生活中,成为人们整体生活方式的一部分[9];最后,监视成为现代性制度的一个方面,属于社会控制技术的增强模式,并被人们不断内化,成为日常反思的一部分。
监视成为日常生活的表现之一就是人们利用数字技术进行自我量化的可穿戴设备越来越受欢迎。“量化自我”的宣传语也越发普遍[10]。人们正通过“自我认识”的方式来探索“更好的生活”。例如自我健康数据的追踪、记录,经济收入的变动,以及时间的管理和分配等现象,而在不久前这些还只是少数“极客”爱好者的行为[11],现已被视为常见的生活方式。但人们所不知道的是用户的客户端只会显示小部分数据,绝大多数被收集的数据最终都进入了可穿戴设备公司的数据库[12]以作他用。用户通过自我监视的方式,每天在线活动产生持续的数据流,成为众多平台和系统成功运营的关键。总体来说,通过监视文化的概念,可以看出普通民众在日常生活中逐渐成为监视和被监视的双重主体,并不断发挥出积极主动的作用。即人们对商业监视的态度发生改变:从愤怒和恐惧到安心甚至是欢迎。
(二)从不确定性中计算出的“确定选择”
民众为何对商业监控采取了放任的态度?中国社会科学院社会学研究所《中国社会心态研究报告(2019)》的调查结果显示:我国民众虽然担心机构对个人信息的收集,但却对数据分享行为并不排斥,并在一定程度上认可数据分享对社会运行的积极作用[13]。这显示出人们对商业监视的恐惧心理正在消失。究其原因,是商业监视能够为人们提供一种更加“确定”的生活方式。例如高德地图显示出的最优路线减少出行的不确定性、淘宝等电商平台的定向推荐增加了商品的吸引力、新浪微博的实时热搜功能拉近了个体与世界的心理距离等等。在减少各种不确定性的同时,商业监视不断满足了人们的各种需求。
全球数据巨头声称,商业监视根据“科学观察”,能够从数字环境中的个体生活方式中提取数据,并将数百万台机器每时每刻倾泻而出的海量数据汇聚统合,利用算法等智能计算得出人们的行为规律,对未来选择进行最优预测。而在现实中,人们确实感知到了互联网的惊人力量。它能够让身处两个不同半球的陌生人取得联系,也能让人在虚拟世界进行各类放松和娱乐、获取并更新实时资讯。这些功能不仅改变了人们对被监视的微妙反应,还将这些监视技术为己所用。
因此,从本质上来说,是人们的需求催生了监视技术的发展。首先,城市监控满足了人们对社会安全的基本需求。在安全需求的基础上,商业监视不断累积大量数据用于产品开发,出现更多可满足人们不同需求的功能。例如,外卖、购物平台可以满足人们衣食住行等基本的生理需要;偏好推荐可以缩短人们的搜索时间;微博、豆瓣等社交媒体平台上的系统提示,又能帮助人们寻找到与自己兴趣爱好相同的友谊群体,人们在获得兴趣认同的同时,也获得自尊、爱与归属的需要满足;最后如抖音、快手等短视频平台网站通过用户的表演和思想传播,甚至可以完成一些人自我实现的需要。可见,在上述这些个性化服务不断满足人们需求的同时,商业监控既减少了人们对不确定性的恐惧,也最终渗透进人们的日常生活,成为其难以割舍的一部分。而在这一过程中,商业资本家将技术异化为资本累积的工具,持续剥削人们的数字劳动并威胁民众的自由意志。
二、问题分析:商业监视对民众数字劳动的剥削
商业监视不仅剥削民众数据的累积价值进行利用,而且通过“推荐的消费模式”不断减弱民众独立思考的能力,以期获得社会控制的目的。尼克·库德瑞(Nick Couldry)认为,數据累积的扩张是殖民主义和资本主义进化的一个阶段,是剥削人类生命以获取权力和资本的工具[14]。殖民主义和资本主义的双重视角表明,数据提取的意义不仅体现在利润上,也体现在对人类生活和自由的管理上。一方面,商业平台通过宣传、倡导不正确的数据分享观念诱导人们放松对个人数据的隐私敏感度;另一方面,对民众数字劳动的剥削主要表现在对其个人数据的冷漠使用,并利用累积的数据按照商业组织的盈利目的对民众进行分类的控制。
(一)规训分享:无需恐惧和隐藏
监视文化中对个人信息的分享具有必要性。例如在社交媒体平台上人们只有共享信息才能实现互动。因此,商业监视强调对个人信息的共享,并且时常通过文化途径提高人们对共享信息这一认知的顺从程度。就像戴夫·埃格斯(Dave Eggers)的小说《圆环》中描述的那样,企业的监视文化不断宣传一种后奥威尔式的口号——“关怀就是分享”,人们生活在“无需隐藏无需恐惧”的咒语中[15]。现实中的企业则以类似的文化模式规训用户进行无私而大胆的数据分享,并将用户的偏好、习惯、意识等海量数据用于广告和消费主体的再构建[16]。
与此同时,分享被公众识别为是自我曝光的一个方面[17],主体在某种意义上可能被商业机构要求服从带有强制性的数据公开。但人们的主动参与却意味着认同这种对数字平台的服从,并自愿将自己所具有的知识、欲望和期望纳入商业监视体系中。这种矛盾合理化存在的原因包括:一方面,商业监视可以给民众造成一种自愿分享的错觉。自我曝光使人们能够处理多重或流动的身份,它让人们感觉自己挑战了垄断的权力,自主决定哪些数据应该提供给谁、在什么情况下以及信息暴露多长时间。例如,在线消费者大多会认为能够自由选择购买的商品[18],以及在相对不具侵入性的“软监视”情况下,受试者可能更愿意公开身体数据,而且当下流行的心理治疗文化也鼓励人们公开展示内心的脆弱,强调自我曝光的功能性价值[2]。另一方面,自我曝光成为数字世界塑造个人存在的必要实践。哈考特(Harcourt)认为在社交媒体饱和的时代,“数字狂热”会鼓励人们进行更多的自我曝光和展示,尤其适用于年轻人,他们展示的欲望是一种生产力[17]。例如,丹娜·博伊德(Dana Boyd)采访的青少年认为,“除非你在社交媒体上活动,否则你就是不存在的”[17]。哈考特将这些情况描述为“解释社会”(expository society),这比德波的“景观社会”(society of the spectacle,)、福柯的“规训社会”(disciplinary society)或德勒兹的“控制社会”(society of control)都要更好地代表了当下商业监视对日常生活的影响,人们逐渐对自我展示的必要性表现出认同的趋势。因为自我中心主义、自由市场的幻想以及过度监视等因素使被监视者变得迟钝[17],在娱乐和惩罚相互渗透、相互作用下,人们对数字透明度的风险变得麻木。
(二)脱域使用:技术理性的冷漠
与个人对数据风险的麻木形成鲜明对比的是商业组织总是知道如何能够最大化地利用数据价值。肖莎娜·祖博夫(Shoshana Zuboff)指出数据追踪的新兴阶段是监视资本主义,与大数据实践密切相关[19-20],监视资本主义的目标是预测和调整人类行为,以获取利润和控制市场[21]。祖博夫的研究证明了类似谷歌、百度等数据巨头对待其用户群在形式上的冷漠态度。如上文所述,商业监视的文化诱导人们相信个人数据的共享具有正义性,如果人们不愿意共享,那么就可能是有问题的。这种对个人隐私进行是非判断的二元规则简化了人的主体复杂性,其目的是利用技术理性模糊对个人数据的剥削。
除此之外,数据巨头还利用小范围监视技术所收集的数据进行多种情境内的产品开发。这种小規模监视的内容会被应用在更广泛的情境中。比如物联网、智能城市或可穿戴设备所收集和累积的数据在用户难以觉察的情况下被用于跨情境的其他领域。尼森鲍姆(Nissenbaum)通过消费者监控、公共和私人视频摄像头、以及指纹、面部识别等生物识别技术的使用研究,指出情境完整性在理解个人信息处理问题研究中的必要性,人们在特定的语境中披露信息期望它在该语境中得到适当的使用[22]。在跨情境应用的过程中,由于情境复杂性会增加数据的出错概率,因此数据不对称和失真是常见情况[23]。同时,商业监视具有动态监测的能力,埃里克·斯托达特(Eric Stoddart)指出动态监测强化了可见功能,对个人隐私产生了更高程度的威胁[24]。其中的可见是监视试图掌握个人在社会空间中的相对位置的功能,其由用户接触驱动,虽不具有防御性,但却更为灵活。在这一功能的辅助下,商业监视利用小范围监视,扩大了监视结果,使其应用范围更广,对人们生活的侵入程度提高,威胁性变大。例如当用户开启手机的实时定位功能后,会陆续收到附近商家所发送的广告信息。
因此,脱域形式的数据开发,不仅忽视了信息使用背景的一致性,对个人隐私数据使用不透明,而且也反映出商业机构对用户数据的管理的思路以追求创造更高价值的技术理性为主,并不在意用户隐私是否存在暴露的风险,这缺少了以人为本的基础关怀。
(三)社会惩罚:弱势群体的边缘化
从20世纪后期开始,监控成为信息基础设施发达的西方社会的核心组织特征,人类社会的复杂性通过分类进行管理[25-26,6]。商业监视通过收集到的数据对人群进行分类管理,以区别对待不同的群体,这就是社会分类[27]。人们在监视方式的发展中不断被视为抽象的数据,分类产生了累积劣势,部分民众对监视功能产生的怀疑取代了对其的信任。与此同时,对商业监视缺少公众监督使数据公正、公平的使用难以保证[28],监视应用的消极结果不断表现出来:民众的人格被淡化,生活机会受到直接或间接的不公平影响。这些都是大型商业组织为实现其战略目标如控制社会的运行、提高运转效率以及追逐更高的利润等,而采取的部分手段。不受时空边界限制的数据流动也对人们的生活机会和自由选择产生了严重影响[29-30]。
更糟糕的是大数据的运行扩大社会结构性不平等[31],使社会中已经存在的劣势和边缘化更加严重。弗吉尼亚·尤班克斯(Virginia Eubanks)在其著作《不平等自动化》(automated Inequality)中对这一现象做了详细描述[32]。缺少社会资源的边缘人口可能会受到公共和私人管理部门越来越多的监视。如果算法认定这些人对社会可能存在风险,那么他们则会被系统标注,并在保护社会安全的原则下在系统中被进一步与其他群体隔离,这导致他们在现实生活中失去更多工作、社会福利等机会,使本就缺少资源的情况变得更加严重[33]。因此,当系统对社会进行各种形式的分类管理后,原先的弱势群体将不可避免遭受更强的社会排斥。与此同时,当弱势群体发现他们的生存机会受到大数据实践的限制,可能会通过更多社会越轨行为来抵抗商业监视的不合理性,继而产生恶性循环威胁社会稳定。例如,在美国依靠社会福利生活的单身母亲为了照顾犯错的孩子而暗中破坏监视设备,具有破坏性的母亲会被系统贴上危险标签,在其申请社会福利时将会面对更严苛的审查程序[34]。隐藏在商业背后的自动化监视实践,通过大数据处理技术和对数据操纵的依赖,增加了对弱势群体生活机会和选择上的负面影响。
三、实践逻辑:商业监视对民众反思性的削弱
商业监视对民众的影响是一个由表及里逐渐深入的过程。商业资本利用景观社会的创造影响人们的生活规则,暗示人们可以通过消费过上预期的生活,通过支配人们的欲望改造其对人生意义的解读,并使之成为自恋、单向度、空虚孤独的人。
(一)监视泛化:景观社会制造欲望
首先,由于人们的主动参与,商业监视形式出现泛化。隐藏摄像头、微型传感器等监视设备,以及在线收集个人数据的平台机构在生活中几乎无所不在。特别是从20世纪后期开始,企业的监视模式在新技术的推动下,通过信息基础设施和人们的依赖,逐渐与日常生活融合。以美国为代表的“监控国家”在战后奥威尔时期运作良好,至今仍在情报机构的活动中具有优势。但这种模式的数据收集也严重依赖如互联网和电话公司等商业机构来提供其所需的数据[12]。此外,随着社会关系中加入越来越多的数字媒介,人们不仅是商业监视的目标或载体,同时成为积极的参与者,这在之前的监视模式中是不存在的。传统的商业监视机构只会从外部触及社会生活,但在网络公共领域,海量数据却可以从民众的日常在线活动由内而外地自动产生。
其次,监视作为一种生活方式,其内容变得更加丰富,包括个人生活数据易于量化、生活轨迹高度可追踪以及个人数据已经具有的经济—货币化维度。数据数量庞大、流通速度快、多样性以及价值高的特点吸引了越来越多的数据使用者,包括政府部门、安全机构和警察以及互联网公司、医疗保健提供商、交通工程师、城市规划师等。商业监视成为日常生活中的一个事实,不仅体现为一种外部施加的环境,而且在许多情况下,还是人们一种主动的内部参与。
第三,商业监视开始制造人们的欲望。通过累积的数据掌握并预测人们的消费模式,资本利用个性化推荐制造出消费的心理需求,以达到刺激消费的目的。表象化的算法推荐,弱化并替代了自我意识的判断,通过排序、标签和符号等方式制造需求,在人们的无意识中植入欲望与诉求。数字技术加持下的商业监视在消费社会中不断膨胀,人们对商品的崇拜转移到了“对服务个人”这一概念的追崇。根据居伊·德波提出的“景观社会”中景观的商品性[35],商业监控制造出经过伪装的名为“个性化”的景观,吸引大众目光的同时,隐藏了明确的商品意识,带给人们更多被服务的感觉。商业监视通过视频窗口给予用户所期望的生活展示,如抖音、快手等应用程序让人们沉浸在连播的短视频中,炫富、吃播、萌宠特辑,一个个经过算法筛选的内容不断呈现,让用户产生一种错觉,即通过观看这些内容自己已经过上了视频中的生活。但这只是与理想生活拉近了心理上的距离,这种短暂的满足幻象会在视频结束的一瞬间戛然而止,人们随即会陷入更深的焦虑和空虚中。为了弥补这种空虚,人们会选择跟随商家的推荐进行消费,尽可能地缩小现实生活与理想生活的差距。殊不知在“景观”的洗脑中,人们早已忘记自己最初的理想是什么,因而毫无挣扎地陷入消费陷阱。
(二)权力异化:虚假欲望支配生活
一方面,数据累积产生的权力出现功能性异化,即不再强迫被监视者恐惧性地服从,而是追求用户心满意足的忠心与顺从。这种情况在社交媒体和互联网的使用上表现尤其明显,商业监视通过社交媒体的运作,塑造用户的主观性。多数用户在没有质疑的情况下对在线商业监视表现出了顺从的意志[36]。里昂认为这种顺从的出现可以通过恐惧、熟悉和乐趣等三个方面来解释[37]。首先,自美国9·11事件以来,媒体放大的恐惧加剧了人们对可能遭遇风险的不确定性感知,提高了民众对监视恐怖主义措施的渴望[10]。其次,无处不在的监视增加了人们对它的熟悉性,继而减弱了对其的警惕。从超市会员卡,到无处不在的空间摄像头,再到机场、体育馆等多场所的安保措施,监控成为生活中理所当然的存在,完整的监视系统成为城市现代化的标准之一。最后,乐趣也提供了顺从的理由,尤其是在社交媒体上,观看他人的生活和对自己生活的展示被认为是一种有趣的娱乐行为[38]。例如在社交媒体上点赞、加好友、分享和转发等行为,是由人们自己的好奇心和乐趣而产生的行为动机[17],这将监视能力植入人们的日常快乐中。可以看出,顺从商业监视的安排,人们获得了自己预期的“理想”生活状态。
另一方面,人们欢迎并享受这种个性化的定制服务,这反映出个体化社会中人们对独异性的追求和崇拜。但是居伊·德波认为看似无害的“景观”实则是对人们的隐形控制,控制大众对消费的新社会意识形态的认识,并继而操纵人们的生活方式,他认为景观关系中纯客观性的表象掩盖了人与人、阶级与阶级之間的关系特征[39],人们在个性化定制的“景观”中忘记了原本社会中的阶级差异,磨灭了自身的真实需要,被引导接受商业监视所计算出的“幸福而理想”的生活模样,被鼓励按照个性化推荐的景观规则生活。久而久之,人们失去对生活的批判性和反思。虽然没有如“老大哥”那般暴力的强迫和控制,但商业监控使人们沉醉于各种欲望与需求的满足,导致过度娱乐和消费。人们被个性化推荐的景观所支配,认为被推荐的需求就是自己的真实需求。人们购买商家认为需要的服务和商品,并不断产生新的虚假欲望,被支配的同时产生更多的个人数据被平台收集,进而虚假欲望也支持了商业继续生产出更多的满足虚假欲望的商品。例如,社交媒体与购物平台之间通过广告链接相互传送以促使更多消费的发生,这种被异化的需求已经不再是人们的真实需要,而是商业监视创造出的获利工具。
居伊·德波曾指出西方社会整体是资本主义的景观堆积,时至今日放眼我国的商业环境,营销组织也在利用市场、媒体和明星等不断制造各种“景观”影响民众的人生观、消费观。马尔库塞认为技术并不存在价值中立[40],看似中立的技术实则带有操控者的意识形态,与商业统治紧密联系的技术,只是放弃了强买强卖的低级压迫手段,选择了更加具有合理性的软性压制。根据马尔库塞对技术的理解,商业算法不仅影响了人们的生活方式,而且影响了人们的思维模式。算法淡化了理性的个人思考,加重了由其支配的技术理性。表面来看,商业监视中的大数据、算法、人工智能确实提高了民众的生活质量,但这种改善并不是无偿的。追求效率的社会将科技视为唯一能够制定规则的存在,并会为了遵守其规则而主动调整自己的身体和意识,成为“拜技术”的社会,而当某些个体无法追赶上技术规则时,将会被技术排除在系统之外,成为被歧视的边缘人,例如,“困在算法里的外卖骑手”[41]。
(三)剥夺反思:数字公民威胁自主
当人们因为害怕受到系统的排斥和惩罚而努力遵守规则时就成了算法认定的“良民”。人们主动磨灭思考,仅仅接受被动的服务,淡化关于自我、关于人生的反思,从丰富的探索者变成单向度的接收者。恩金·伊辛恩金(Engin Isin)和伊芙琳·鲁珀特伊芙琳(Evelyn Ruppert)的《成为数字公民》一书中提出了在监视中形成的数字公民[42]。但“数字公民”的概念并不局限于爱德华·斯诺登(Edward Snowden)、朱利安·阿桑奇(Julian Assange)或切尔西·曼宁(Chelsea Manning)等著名的活动家。通过互联网这一媒介,数字公民可以出现在任何地方。虽然在法律或技术文件中,经常将互联网用户描述为数据主体,这表明他们不止被数据创建,而且受到数据的控制。用户虽然是具有主权且完全独立的个体,但他们却受到互联网的限制。数字空间通过不断累积所获取的数据创造档案,形成主体的新人格,使数字身份脱离了实体,即利用抽象的数据来替代真实主体。
当数字身份形成,商业平台便可以通过监视约束人们的数字身份来控制其现实生活轨迹。如果将日常生活看作一种本体性的思考,那么当人们不断接受外来信息推荐,则会对自己的真实需求失去主动性判断,继而逐渐失去独立思考的能力。即对自我生活的反思性监视被商业推荐所替代,人们成为只关注自己的单向度的“算法人”。生活的每一天开始被算法推荐排行榜所掌控,吃饭的餐厅、下午的奶茶、甚至是晚餐的减肥食谱,人们依靠算法指导生活,听从算法的安排,遵循算法的规则,成为只能单向接受并顺从算法“好意”的存在。正像居伊·德波所指出的那样,人们的生活仅处于自己的需求引导,逐渐迷失在欲望之中而忘记自己的真实存在[35]。同时,也像吉尔·利波维茨基(Gilles Lipovetsky)评价的那样,现代人虽然从“神”的桎梏下解放,但仍未获得完全自主[43]。在商业监视社会,人们需要依靠算法来帮助自己在信息大爆炸中进行选择,算法成为新的“大他者”(big other)。
但是,在民众自身看来,这种真实性的思考似乎并不重要。因为商业监视指导下的生活满足了人们在后现代社会中对独异性的追求。这种对生活方式的个性化追求正是费瑟斯通[44]指出的后现代消费文化的创新之处,人们可以脱离阶级束缚而自由的选择生活方式,因此受到追捧。但商业监视利用这一点,给予人们新的社会意识:通过个人选择的累积优化可以出现更好的选择方案,培养通过个人信息披露共享的新的生活方式的意识,而人们经由这种算法生活方式来表达一种自我认同。虽然商业监视赋予个人更多元的身份建构方式,使其不再被束缚于工作、邻居、或居住地等相对确定的因素之中,但自我同时也失去了稳固的根基,人们的身份认同与自我建构就会轻易受到商业监视创造的景观影响。因此,现代人虽然每天都被各种信息所包裹,看似丰富多彩的人生却总是伴随着孤独与失落。吉尔利波维茨认为,这是由于后现代社会中人们追求个性化,而不是普遍的价值观,这种解构性的风气产生了对中心性精神的消解作用,即对现代性中普遍主义和理性价值观的消解,表现在有人沉浸在二次元的百变虚幻,有人坚持尝试三次元的人间疾苦[43]。这种消解使社会越发分裂地呈现出原子化的存在,人们在新自由主义的影响下要活出不一样的自我,人与人之间失去统一而紧密的联结,而联结的失去也使个体失去超越自我的人生意义,人的精神变得更加脆弱。人们会因为自己的例行化生活被打破而感到失去可预见性,心情会变得焦虑和恐惧,身体也会因为无法继续惯性行为而失去控制感,最终导致个体失去,甚至开始恐惧自主性。
四、对策与建议:从商业监视看数字中国的建设路径
从文化逻辑视野下看商业监视对个人数据的利用无疑是一场浮士德的交易,本质上是为了操控用户行为和注意力而实现利润的最大化。民众期望科技公司可以创造更多的社会福祉,却迎来更强力的社会控制。技术的发展不断实现物质的丰富,但若商业监视仅围绕资本运行,则不可避免地制造顺从的用户和消费者。商业服务下实现的“个性化”是单一、盲目的“个性”,不仅阻碍人们的全面发展,也会导致人们意义感缺失,造成空虚的精神。例如信息茧房[45]的出现,便是用户沉浸在数字平台的单向自动推荐中所造成的思维阻滞现象。在深度推进中国式现代化发展的伟大历史征程下,党的第二十大更加明确了以技术为基础的物质文明与以人文为核心的精神文明协调发展的重要性[46]。而商业监视可能造成的物质文明与精神文明发展不协调的结果,不仅与我国现代化建设追求人的全方面发展相违背,也会导致消极社会结果[47]。因此,为了实现物质文明与精神文明的协调发展,一方面要提高民众的个体精神素养,缓解商业监视对生活的消极影响;另一方面需要规范商业监视,创造健康良好的数字发展环境。具体来说:
第一,从个人的认知角度来看,人们需要接受不确定性是社会的常态和本质。商业监视通过对大数据的算法分析得出理性归纳和经验总结的结果,就其内容而言只是一种基于概率论、比例分析的数据描述性事件,使用比较高的概率来预测未来决策,这是极限理想化下产生的心理安全感的假象,因为现实世界远比数据描述的要复杂得多,社会领域中各种因素的互动导致存在很多无法预料的后果。乌尔里希贝克通过“风险社会”的概念指出,人们不再必须针对不确定性寻找普遍意义上的逻辑解释或中心性的理论,因为当前的社会制度和社会联结需要更高程度包容复杂性和偶然性[48]。因此,人们需要通过接受不确定性认识真实世界中存在的无序、随机、不稳定和不可预见性,来更好地面对未来。
第二,从个人行为角度来看,在接受不确定社会的认知的基础上,人们可以尽量减少提前构想或设计生活的剧本,例如商业模式的预测、婚姻与恋爱的应有模式、理想人生的必备条件等等,通过减少对算法推荐的依赖,人们可以在不确定性思维中认识到自身所具有的实践和改造现实世界的能力,选择通过自己的人生体验来思考人生意义。在防止媒介信息的传播对个人生活细节的消极影响上,可以参考居伊·德波所属的情景主义者们重建和改革社会的策略,包括漂移、异轨和构境的看法[49]。其一,所谓漂移,即脱离出原有环境,达到去除单向度的操作。这虽然是一种被动领悟的做法,但贵在操作简单,人们只要时不时地从固定的生活空间线路中跳出,去走不一样的回家路线、吃不一样的晚餐、制定新的假期行程等,这些过程的体验即通过漂移,感悟新的思维。其二,异轨是利用了与“景观”意识形态相颠倒的自我反省的方式来破除惯性生活的束缚,其操作比较复杂,且要求创新性较高,并不是可轻易采用的那些具有一般性、可普及性的操作;但该概念提示人们要具有自己独立的意识和思考判断。其三,构境是上述两个概念所构建出的情景,是打破景观和重建。在这一概念中,人们可以形成自己的人生图像,不会轻易受到外界的影响和破坏。尝试通过增加反思性思维丰富人们的精神世界建设,促进人的自由而全面的发展。
第三,除从个人层面考虑弱化商业监视对社会生活的消极影响外,最重要的还是需要从国家立法和社会力量的监督两方合作来考虑如何共同创建良好的数字发展环境。商业监视直接涉及的是商业组织的技术结构与数据安全问题。那么,首要的举措既是要强化国家政策法规和监管治理,完善针对个人信息安全的相关立法,比如,2017年颁布的《中华人民共和国民法总则》中即明确“自然人的个人信息受法律保护”这一点,其他如《中华人民共和国刑法》《中华人民共和国网络安全法》以及《中华人民共和国消费者权益保护法》也都涉及个人信息保护的内容,而更值得关注的是,2021年的十三届全国人大常委会第三十次会议上表决通过了《中华人民共和国个人信息保护法》。在个人信息安全上,法律通过不断完善来禁止商业监视产生的不合理数据使用,例如禁止利用大数据“杀熟”的不透明差别定价待遇等。党的二十大报告中,习近平总书记着重强调了要提高民眾的个人信息安全[50],将个人信息安全问题提到了一个新的战略高度,这肯定了立法对保护个人信息重要意义的同时,也为商业监视问题的应对提供了方向引导。未来法律发展需要根据现实生活的变化不断细化规则来规范商业监视在不同场景中的具体应用。与此同时,也有必要健全行业伦理道德规范,促进行业自律和积极履行社会责任义务。因为具体的政策法律制定往往会落后于新技术的发展速度,所以通过相关领域专家的对话制定行业道德伦理可以在保障发展可能性的同时兼顾社会平稳运行。例如在欧盟《通用数据保护条例》颁布之前,2017年1月美国计算机协会就提出了算法治理的伦理原则,包含了利益各方应负的责任和救济机制等内容[52]。我国可以考虑根据国情倡导相关政府管理部门、产业协会、领域专家和社会民间组织等主体参与具体数字建设问题的讨论共同制定相应的伦理原则。
总之,通过商业监视中的问题来看数字中国的建设,需要立法实践创造透明和公平的宏观数字发展环境,通过多方社会力量结合制定负责任的行业原则,以及微观上激发个人认知的理性和行为的创造性,在多重路径的结合下共同规避商业监视可能存在的风险问题,从而为我国提高民众美好数字生活创建良好的社会环境。
参考文献
[1] LYON D. Surveillance Studies: An Overview[M]. Cambridge, UK: Polity. 2007: 14.
[2] 安东尼·吉登斯.现代性的后果[M].田禾,译.南京:译林出版社,2011:49-56,105-109.
[3] GIDDENS A. Social Theory and Modern Sociology[M]. Palo Alto, CA: Stanford University Press,1987:174.
[4] 胡泳.监视型社交的兴起与后敞视时代的来临[J].新闻与写作,2023(2):43-55.
[5] OGURA T. "Electronic Government and Surveillance-oriented Society." In Theorizing Surveillance: The Panopticon and Beyond[M]. UK: Willan. 2006: 270-295.
[6] LYON D. The Culture of Surveillance: Watching as a Way of Life[M]. Cambridge, UK: Polity Press, 2018: 22-25.
[7] 乔治·奥威尔.一九八四[M]. 孙忠旭,译.南京:译林出版社,2011:3.
[8] BAUMAN Z, LYON D. Liquid Surveillance:A Conversation[M]. Cambridge, UK: Polity Press, 2013: 103.
[9] WILLIAMS R. Culture and society: 1780-1950[M]. London, UK: The Hogarth Press Ltd, 1958: 304-314.
[10] CRAWFORD K, LINGEL J, KARPPI T. Our metrics, ourselves: One hundred years of self-tracking from the weight scale to the wrist wearable device[J]. European Journal of Cultural Studies,2015, 18(4-5): 479-496.
[11] WOLF G. The data-driven life[N]. The New York Times. 2010-04-27. Retrieved from http://www.nytimes.com/2010/05/02/magazine/02self-measurement-t.html
[12] LYON D. Surveillance Culture: Exposure, Engagement and Ethics in Digital Modernity[J]. International Journal of Communication. 2017, 11: 824-842.
[13] 王俊秀,陳满琪.社会心态蓝皮书:中国社会心态研究报告(2019)[M].北京:社会科学文献出版社,2019:119-144.
[14] COULDRY N, MEJIAS U A. The decolonial turn in data and technology research: what is at stake and where is it heading?[J]. Information Communication and Society, 2021, 26(4): 1-17.
[15] 戴夫·艾格斯.圆环[M].侯凌玮,译.北京:人民文学出版社,2017:323-325.
[16] TUROW J. The daily you: How the new advertising industry is defining your identity and your worth[M]. New Haven, CT: Yale University Press, 2012: 5-12.
[17] HARCOURT B. Exposed: Desire and disobedience in the digital age[M]. Cambridge, MA: Harvard University Press, 2015: 98,18-19, 23-24.
[18] 沈鹏熠,万德敏,许基南.在线零售情境下人机交互感知如何影响消费者幸福感——基于自主性的视角[J].南开管理评论,2021(6):26-40.
[19] LYON D. Surveillance, Snowden, and Big Data: Capacities, Consequences, Critique[J]. Big Data and Society, 2014, 1(2): 24-43.
[20] ZUBOFF S. Big other: Surveillance capitalism and the prospects of an information civilization[J]. Journal of Information Technology, 2015, 30(1): 75-89.
[21] ZUBOFF S. The secrets of surveillance capitalism[J]. FAZ Feuilleton, 2016, 03(5).
[22] NISSENBAUM H. Privacy as Contextual Integrity[J]. Washington Law Review, 2004, 79(1).
[23] BRIGHENTI A. Visibility: A category for the social sciences[J]. Current Sociology, 2007, 55(3), 323-342.
[24] BALLARD P. Theological Perspectives on a Surveillance Society: Watching and Being Watched[J]. Practical Theology, 2013, 6(1):117-118.
[25] BENNETT C J, HAGGERTY K D, LYON D, STEEVES V. (Eds.). Transparent lives: Surveillance in Canada[M]. Edmonton, Canada: Athabasca University Press, 2014: 3-19.
[26] HAGGERTY K D, ERICSON RV. The surveillant assemblage[J]. British Journal of Sociology, 2000, 51(4):605-622.
[27] LYON D. Surveillance as Social Sorting: Privacy, Risk and Digital Discrimination[M]. London: Routledge,2003: 201.
[28] 雷希.论算法个性化定价的解构与规制——祛魅大数据杀熟[J].财经法学,2022(2):146-162.
[29] KUNER C. Transborder data flow regulation and data privacy law[M]. Oxford, UK: Oxford University Press, 2013.
[30] MOSCO V. To the cloud: Big data in a turbulent world[M]. London, UK: Routledge, 2014: 194-196.
[31] 王天夫.數字时代的社会变迁与社会研究[J].中国社会科学,2021(12):73-88+200-201.
[32] 弗吉尼亚·尤班克斯.自动不平等——高科技如何锁定、管制和惩罚穷人[M].李明倩,译.北京:商务印书馆,2021.
[33] DATA AND SOCIETY. Data & Fairness[OL/R].2014. Available at: https://datasociety.net/initiatives/datafairness
[34] GILLIOM J. Overseers of the Poor: Surveillance Resistance and the Limits of Privacy[M]. University of Chicago Press.2001:7.
[35] 居伊·德波.景观社会[M].张新木,译.南京:南京大学出版社,2017:17,136-139.
[36] MULDER J, MARIKA D B. Willingness of Online Respondents to Participate in Alternative Modes of Data Collection[J]. Survey Practice, 2019, 12(1): 1-11.
[37] LYON D. The emerging culture of surveillance[M]. In A. Janssen & M. Christensen (Eds.), Media, surveillance and identity. New York, NY: Peter Lang.2014: 71-90.
[38] ALBRECHTSLUND A. Online socialnetworking as participatory surveillance[N]. First Monday, 2008,13(3). [39] 张一兵.建构情境:反对景观拜物教的激进思想革命——情境主义国际思潮研究[J].哲学研究,2020(11):87-95.
[40] 谢玉亮.马尔库塞技术理性批判思想解析[J].北京社会科学,2014(12):91-96.
[41] 陳龙.“数字控制”下的劳动秩序——外卖骑手的劳动控制研究[J].社会学研究,2020(6):113-135+244.
[42] ISIN E, RUPPERT E. Being digital citizens[M]. London, UK: Rowman and Littlefield, 2015: 34-39.
[43] 吉尔·利波维茨基.空虚时代[M].倪复生,方仁杰,译.北京:中国人民大学出版社,2007:27-34,120-138.
[44] 迈克·费瑟斯通.消费文化与后现代主义[M].刘精明,译.南京:译林出版社,2000.
[45] 张璐璐.破茧与共治:社会治理视域下的“信息茧房”[J].重庆社会科学,2021(7):118-132.
[46] 宋才发.中国式现代化的现实逻辑、丰富内涵与世界意义——学习贯彻党的二十大精神[J].党政研究, 2022(6):4-14+123.
[47] 王淑芹,何珊.如何理解“物质文明和精神文明相协调的现代化”[N].光明日报,2022-03-04(13).
[48] 薛晓源,刘国良.全球风险世界:现在与未来——德国著名社会学家、风险社会理论创始人乌尔里希·贝克教授访谈录[J].马克思主义与现实,2005(1):44-45.
[49] 张一兵.景观意识形态及其颠覆——德波《景观社会》的文本学解读[J].学海, 2005(05):69-74.
[50] 习近平.高举中国特色社会主义伟大旗帜为全面建设社会主义现代化国家而团结奋斗——在中国共产党第二十次全国代表大会上的报告(2022年10月16日)[N].人民日报,2022-10-26(001).
[51] 邓胜利,钱倩文,夏苏迪.个人信息安全感影响因素理论框架与组态模式研究[J].情报理论与实践,2023(3):60-67.
[52] 贾开.人工智能与算法治理研究[J].中国行政管理,2019,No.403(01):17-22.
Abstract: The advancement and expansion of digital technology have facilitated the enhancement and extension of surveillance capabilities. Commercial surveillance has taken advantage of this trend, exerting a profound impact on social life. From a cultural logic perspective, commercial surveillance is embedded in people's daily lives, satisfying their needs in predetermined ways while transforming surveillance into a popular form of self-quantification. However, this has led to issues such as regulating people's data sharing behavior, a lack of empathy in data collection and usage, and the creation of social punishments." The reason for this is that the desire created by the landscape society after the generalization of commercial surveillance dominates people's thoughts and lives. People can face the uncertainty in their lives at the cognitive level, reduce their dependence on algorithms at the behavioral level, and limit the possible control of commercial surveillance on society through legislative measures from relevant institutions and supervision from multiple social forces.
Key Words: Digital society; Commercial surveillance; Surveillance culture; Digital China; Human modernization