“透明”亦“黑箱”:当代西方数字资本主义的技术逻辑与内在悖论

柴云超,连水兴

(福建师范大学 传播学院,福州 350117)

20世纪末,美国传播政治经济学者丹·席勒(Dan Schiller)敏锐地指出:传统工业资本主义正借助计算机网络技术的发展向数字资本主义转型。因为,“信息网络以一种前所未有的方式与规模渗透到资本主义经济文化的方方面面,成为资本主义发展不可或缺的动力与工具”[1]。时至今日,数字资本主义已不再只是资本主义的转型趋势,而是彻底成为数字时代的内在结构与发展现实。其中,以谷歌、脸书为代表的数字平台构成了当代社会赖以运转的基础设施,并进一步形塑着人们的生活方式与行动逻辑。尼葛洛庞蒂(Nicholas Negroponte)所预言的“数字化生存”(being digital)——“计算不再只和计算机有关, 它决定我们的生存”[2],已经成为人们习焉不察的生活写照。正是基于当今“数字化生存”的现实,互联网巨头依靠其平台垄断地位对用户的线上活动与数字踪迹展开全景化的实时监视,并通过后台一系列专业算法程序将监视所产制的海量数据进行筛选、分析和竞卖,进而影响乃至操纵用户行为,获取源源不断的商业利益。监视与算法共同构成了当代西方数字资本主义体系在数字时代发展稳固的技术逻辑。

一、全景监视:“透明社会”的数字化基础

监视作为权力的一种表现形式,往往通过不对称的目光和单向的可见性来实施。在英国左翼学者克里斯蒂安·福克斯(Christian Fuchs)看来,监视不仅象征着“一种特定的信息收集、存储、处理、评估和使用,涉及潜在或实际的伤害、胁迫、暴力、不对称的权力关系、控制、操纵、支配或惩戒权力”[3],而且本质上是一种通过牺牲他人或特定群体的权利,以满足自身特殊利益的工具和手段。监视的权力属性早就为人所洞察,并成为人类社会维持等级秩序与权威运行体系的基础。但直到福柯,监视才得以超越单纯的权力视角,被当作一项社会规训技术来研究。

福柯在研究社会规训的空间形式时,曾详细描述了由英国法理学家边沁(Jeremy Bentham)设计的“圆形监狱”。这种监狱“四周是一个环形建筑,中心是一座瞭望塔。瞭望塔有一圈大窗户,对着环形建筑。环形建筑被分成许多小囚室,每个囚室都贯穿建筑物的横切面。……通过逆光效果,人们可以从瞭望塔上与光源恰好相反的角度,观察四周囚室里被囚禁者的小人影”[4]193。由此可见,正是通过“圆形监狱”的建筑形式,管教权威将外在的监视行为经由空间上的不对称结构转化为犯人内心的“自我监禁”[5],从而提高了监视效率,并以最小的人力成本实现了监视效果的最大化。在这里,由处在整个建筑空间中心的瞭望塔投注而来的监视目光,往往是在一种不可见的压力与恐惧中,促使每个犯人都成为自己的监视者。福柯通过回顾和剖析边沁的“圆形监狱”形式及其监视作用机制,提出了这一空间构造的价值核心——“全景敞视主义”,即“一种分解观看/被观看二元统一体的机制。在环形边缘,人彻底被观看,但不能观看;在中心瞭望塔,人能观看一切,但不会被观看到”[4]226。在此,一个不可见的中心扮演着监视众人一切生活举动的“老大哥”式角色。

大卫·里昂(David Lyon)认为:“必须根据不断变化的环境,特别是日益集中的消费和信息技术的采用来理解当代监视。”[6]随着互联网与信息技术构成当今社会的数字基础设施,福柯意义上的全景监视也变得无处不在,并且逐渐具备“自动化、匿名化、分散化和自我强化”[7]的新特征。人们的社会生活被快速扩张的互联网嵌入到数字资本主义的生产与消费体系之中,并时刻为不断涌现的新兴数字技术所形塑。借助互联网永远在线的意识形态和数字终端便携高效的监测能力,作为资本主义控制系统的数字监视,已经在很大程度上完成了去属地化,从而摆脱了监视执行流程的时空限制[8]。边沁式的圆形全景监狱不仅失去了具体的空间形式与建筑实体,而且已经从针对某一特殊群体——“犯人”的专门监视,转向了一种面向全体社会成员的普遍监视。

全景监视从一种由特定的圆形建筑空间所构造的监狱技术形式逐渐演变为数字化时代人类的普遍生存境况,表明数字资本主义日益依赖监视技术来创造一个“透明社会”(transparent society)的现实趋向。关于透明社会的作用机制与发展前景,存在两种截然不同的观点。其中,在美国学者大卫·布林(David Brin)看来,互联网和数字技术将带来一个更为民主的透明社会。信息技术的潜力可以粉碎一切秘密的阴谋和由知识垄断造成的特权阶层,并以透明的信息公开方式促进社会公正与知识民主化[9]386。此外,由于社会的“透明”必然推动权力的公开化和分散化,传统的民族国家将逐渐式微,而人们则会作为不同公民社会团体的成员共享“公民身份的核心认同”[9]440。与之相对,韩炳哲则认为透明社会对民主并无裨益,其本质仍是监控社会。因为,透明社会的运行有赖于一个建立在数字化技术基础上的全景结构。这一全景结构与相互隔绝的边沁式圆形监狱不同,生活在结构之内的人们往往被鼓励借助发达的网络媒体系统进行联系与交流,并通过主动的“自我展示和自己揭露”[10]79,最终融入到庞大的社会监视体系中。所谓的透明社会其实是一个充满“不信任的、怀疑的社会”[10]81,它会日渐丧失支撑其存在的公共价值与道德基础,进而走向分裂。

审视数字时代的发展现实,大卫·布林所畅想的透明社会在技术层面已获实现。但这个社会的真实样貌如韩炳哲所描绘,技术乌托邦式的民主幻想注定破灭。究其原因,互联网科技公司长期奉行技术例外论,认为数字技术作为科学理性的进步,不应受制于社会法律和“物质空间”的传统规范[11]。加之政府管控的相对滞后,数字技术便在一种“科学”意识形态的掩护下成为了以互联网巨头为代表的资本集团,执行监视与扩大盈利的工具。互联网和信息技术的发展带动了传统资本主义向数字资本主义的全面转型,但形成透明社会的一系列数字技术非但未能带来民主,反而进一步在技术层面强化了资本主义结构的社会控制,并催生出数字资本主义的新维度——监视资本主义。

早在工业资本主义时代,马克思就曾指出:“正如军队需要军官和军士一样,在同一资本指挥下共同工作的大量工人也需要工业上的军官(经理)和军士(监工),在劳动过程中以资本的名义进行指挥。监督工作固定为他们的专职。”[12]工业资本家为了维护其工厂内部的资本主义生产秩序,并在最大程度上规训和剥削产业工人,便已将监视作为一项特殊功能嵌入到资本主义的生产体系之中。随着资本主义生产秩序的社会化、日常化,以及数字监视技术的发展,美国学者肖沙娜·朱伯夫(Shoshana Zuboff)在马克思的理论框架和数字资本主义的基础上,进一步提出了“监视资本主义”(surveillance capitalism)的概念,直接切中了数字监视体系背后的资本主义生产结构。朱伯夫认为,在以社交媒体为代表的数字平台背后贯穿着监视资本主义的运作逻辑,即它们通常将用户的个人资料与行为数据视作一种免费资源,并往往以改进产品或服务为名将这些数据转化为可以预测用户行为的信息商品,打包出售给各类企业,从而获得巨额收益[13]。监视资本主义作为数字资本主义发展的新维度,正是依靠日益普及的数字网络与移动终端将人们的社会生活全部纳入其实时监视之中,并通过大数据收集与分析技术将监视产生的海量个人数据转变为可以盈利的信息产品。

克里斯·格雷(Chris H Gray)认为,“监视资本主义的原罪在于把利润动机植入到技术的可供性中”[14]。数字技术的发展并不是一个自然而然抑或客观中立的过程。相反,资本的天然逐利性使它无时无刻不在寻求更为便捷的增殖模式,而数字技术就是在资本的支持和推动下才得以快速发展的。当资本主义从工业时代转入信息时代,它便要求数字技术全方位地接入整个社会的生产生活,致使“一切事物都变成了赤裸裸的数据”[15],而互联网用户则时刻面临着成为一种可量化、可交易之信息商品的命运。由此可见,互联网基础设施的完善和数字技术的发展,不仅为资本主义发展模式的转型提供了技术动能,而且为资本主义社会结构的运转建构了更为有效的监控方式。在这里,社会控制背后的权力体系和资本逐利反映的经济秩序逐渐在监视资本主义模式中融为一体,而那些掌握大量监视数据的资本集团则对公共利益构成了一种新的威胁。

二、算法操纵:“黑箱社会”的科学性化身

监视作为互联网平台系统收集用户个人信息和数字痕迹的技术手段,其目的在于构建一个庞大的用户信息数据库,但这仅是其数字资本主义运行程序的一部分。如果要将庞杂零散的原初用户数据转换为信息商品,离不开算法的筛选、分类和画像、建模等技术支持。那么,究竟何为算法,它又何以构成一种操纵性的技术力量,从而有可能导向“黑箱社会”,就成了另一个亟待回应的问题。

算法源于数学,现已成为各领域的关注对象与应用技术。在唐纳德·克努斯(Donald E. Knuth)看来,算法是给出解决特定类型问题的一系列操作的有限规则集,具有有限性、确定性、输入、输出和有效性五个重要特征[16]。罗宾·希尔(Robin K. Hill)则认为,算法可以被视为“一种有限的、抽象的、有效的、复合的控制结构”[17],可以通过预设的规则来服务于特定目的。简言之,算法就是一套数学处理程序,它基于统计模型或运行规则自主地执行决策过程,而无需人工干预。

互联网平台的崛起和数字技术的发展,使得算法成为人们普遍接触与广泛谈论的对象,但其实人类对算法的应用可以追溯出漫长的历史。回顾过去,“人们一直在设计、修改并分享着算法,这一活动早在算法这个词出现之前就开始了。……巴比伦人处理法律事务时会用到算法,古时候拉丁语老师检查语法时会用到算法,医生靠算法来预测病情,无数遍布全球的普通人曾试图用算法预测未来”[18]。随着当代社会的数字转型,人类的社会生活面临着全方位的数据化进程,而算法作为“真理的决策者和仲裁者的角色和力量”[19]也愈发为人所重视。与此同时,在计算机和人工智能技术的发展下,算法也从只能执行简单设计程序的初级阶段发展到具备“独立进化,自我改进、从自己的错误中学习”[20]的高级阶段,日益成为数字资本主义进行监视数据处理的核心技术支撑。

算法作为网络信息技术的发展成果和社会生活加速数字化的现实需要,其广泛应用大大提高了海量数据的处理效率与个性化服务的定制水平。与此同时,其公正性、透明度以及对公私权限的把控也引发诸多争论。这是因为,当今社会中的数据和算法不仅深入到各行业的生产运营中,而且日益成为影响公共决策的重要依据。其中,包括“搜索引擎和个性化的在线新闻系统,还有教育评估、市场运营和政治活动、城市公共空间的设计,甚至是福利和公共安全等社会服务的管理方式”[21]。由于大量算法的复杂性与非开源性,对普通用户或公民而言,其编制和运行往往都缺乏透明度并难以接近,更谈不上进行必要的公共审查。算法是否会为了特殊的商业利益和企业价值来预置偏见,进而以技术系统所代表的科学理性之名义来执行不公正的意识形态,就成为了人们担忧的焦点。

针对算法偏见所带来的歧视现象,伊恩·艾瑞斯(Ian Ayres)曾指出:“形式上没有种族歧视的计算程序有时也会被质疑为促进了某种实质性的歧视。”[22]这种带有实质算法歧视的根源在于,大多数算法分别“将特定种族、婚姻状况、年龄、性取向和宗教信仰的人划分到了一起”[23],并依据相应的筛选标准将部分人群自动的排除在外。与此同时,当下的主流算法程序大多是基于对用户历史数据的综合分析而建构出的基本预测模型,带有浓厚的保守色彩,而在具体的使用过程中也更倾向于重现并强化代表过去的评估与决定[24]。至于算法程序的非透明性问题,其关键则在于互联网科技公司普遍将算法视为一种技术创新成果或企业内部的核心商业机密,因而有权保持对后台算法中所包含的运行规则、价值导向和核心逻辑的私属权与秘密性。在这样一套商业逻辑的背后,互联网巨头再次重申了其根深蒂固的“技术例外论”思想,并往往以更好满足受众的个性化需求为口号,试图掩盖其有意逃避公共监督与社会责任的逐利动机。

基于算法的复杂性与不透明性,它极易成为一个数字世界的“黑箱”,并随着算法技术逻辑在整个数字资本主义体系内全方位地渗透,可能将人们引向一个充满着技术操纵的“黑箱社会”(black box society)。黑箱隐喻内涵着一个信息时代的重要悖论,即“数据在广度和深度上都变得令人震惊,但对我们来说最重要的信息往往超出了我们的能力范围,只有内部人士才能获得”[25]。换言之,用户作为数据产制的主体,却并不拥有对自己数据的所有权和处置权,也无从得知数据收集与算法分析的运行机制,更无法干预或共享数字资本主义平台由此获得的巨大利益。相反,掌握海量用户数据资源的互联网平台和资本公司,则可以通过一系列算法程序将用户数据转变为可资利用的商业秘密或明码标价的信息商品。由此可见,算法黑箱之“黑”既体现在算法之于用户的不可见性,也体现在用户与平台在数据所有权、收益权的划分上存在着极端不平等。因而,那些将算法完全客观化、中立化和科学化的观点是值得警惕的,这不仅刻意掩盖了算法本身就代表某种特殊商业利益的本质,而且有意将算法标榜为理性的化身,往往成为互联网巨头为自身商业模式辩护的宣传话语。

算法黑箱在社交媒体和信息聚合平台中的负面影响则主要表现为个性化算法推荐可能造成的用户认知窄化与共享现实缺失。因为,算法在信息系统中起着控制技术的作用,它不仅会为用户生成的内容进行排名,而且决定着哪些信息会被挑选出来主动推送给特定的用户[26]。目前,主流的协同过滤算法就是通过分析用户的同类群体偏好和历史浏览记录来进行后台的用户画像,并依据画像的内容标签进行信息推送。这种算法推荐模式固然满足了人们个性化的信息需求,但如果为了保持用户黏性而无限制地迎合用户偏好,也就难免忽略个性偏好之外攸关公共价值的信息呈现。

黑箱社会作为描述当下数字生存现状及其未来发展前景的一种隐喻,其间充满着人们对包括算法在内的数字技术,既深度嵌入个人与社会生活的方方面面,却又在资本主义逐利逻辑的驱动下充满不可见性、不可控性乃至操纵性的担忧。一方面,伴随数字化浪潮对整个社会全方位的改造,包括人类自身的一切事物都必须转化成计算机可以识别并处理的“0”“1”代码,也即一连串可供企业进行数学分析与价值转化的数据材料。至于那些无法数据化的人或事物,则不可避免地在数字资本主义体系中丧失商业价值,并逐渐被边缘化。另一方面,在整个社会全面走向数据化的同时,大量的“广告商和营销者需要资源来解释这些数据,并利用这些数据来促进他们的利益”[27]。数字算法作为应对数据大爆炸的关键,便迅速成长为数字资本主义体系不可或缺的技术逻辑。通过各种算法分析程序,人们往往在没有直接参与和主观承认的情况下被完全数据化,并依据算法分析的结果被赋予带有绝对意义的个性标签。然而,作为具有很强主观性和历史复杂性的主体,基于大数据的算法分析并不总能准确感知人类的个性,而“当我们具体化的个性被忽视时,我们不仅会越来越失去对生活的控制,而且会越来越失去对如何定义生活本身的控制”[28]。

三、一种数字资本主义内在的技术悖论

马克思认为,“各种经济时代的区别,不在于生产什么,而在于怎样生产,用什么劳动资料生产”[29]。当代资本主义的生产方式正在加速转向数字化,而数字资本主义已经成为人们社会生活的本质特征。但必须看到,数字资本主义体系的技术基础并非稳固不摇、一片和谐,其内部也充满着无法调和的矛盾。其中,监视与算法作为支撑数字资本主义体系的技术逻辑,就面临着一种资本主义内在的发展悖论,即一方面将致力于以科学理性创造的透明社会乌托邦作为其未来愿景,另一方面却无所顾忌地运用全景监视技术和高效的算法程序将人们的线上活动转化为可以牟利的数据商品,从而服务于资本永无止境的逐利性,并在客观上将人类引向充满着专制与操纵的黑箱社会。

在监视方面,互联网时代数字监视机制的运行是基于平台和用户之间不平等的权力关系。但值得注意的是,这种以监视为核心的权力关系已经在数字资本主义野心勃勃的逐利计划下,从资本家的私人工厂扩展到了整个社会。当人们逐渐习惯于通过社交媒体或数字平台来进行信息传递、社会交往和生活安排时,也就将自己大量乃至全部的社会活动完全暴露在数字平台的全景监视之下,并进一步面临被数据技术数据化、标签化以及商品化的命运。在巴拉西·维罗妮卡(Barassi Veronica)看来,“将数据技术纳入社会生活的不同领域,是基于这样的假设:我们需要在生活展开的过程中进行即时监控,我们可以通过数据跟踪技术记录并进而控制日常生活的不同维度”[30]。观照当下,数字技术对生活的控制的确加强了,但它并不归属于个人,而是成为了少数互联网巨头及其资本集团的盈利工具。基于此,美国传播学者马克·波斯特(Mark Poster)在福柯“全景监狱”的基础上,进一步用“超级全景监狱”来形容数字化时代人的生存境况,因为互联网出于利润动机就“像监狱一样,连续不断地在暗中有系统地运作着,收集个人资料并组合成个人传略”[31]。

在算法方面,有学者认为,其作为数字平台进行监视数据处理的核心技术,倾向于满足少数群体的特殊利益并反复强化利润最大化的商业标准,从而削弱现实建构中的公共利益与社会责任,最终巩固和创造新的社会不平等[32]。因为,人们基于数字平台的一切活动几乎都可以被记录、存储与监控,而由此产生的各类数据主要是被互联网公司以算法方式进行商品化处理,也就难免将盈利目的凌驾于公共利益与社会平等之上。通过算法程序的分析过程,用户在数字平台的原创内容和行为记录不仅时刻为自己在后台构造着“新的虚拟身份,一个数字自我”[33],而且会作为免费获取的数据资源进一步被制成待价而沽的信息商品。在这里,不断生成的用户数据构成了互联网公司持续盈利的原材料,而算法则为数字平台隐秘嵌入歧视原则、刻意影响乃至操纵用户的行为与决策,披上了合理性的外衣。由此可见,包括监视和算法在内的数字化技术在一定程度上已经为资本主义体系所驯化,并凭借其相互耦合的技术优势构成了当代西方数字资本主义的技术逻辑与核心动能。

本质上,数字资本主义的技术悖论仍是由生产的社会化与生产资料私人占有,这一资本主义社会的基本矛盾所决定的。随着网络信息技术的发展与数字平台的扩张,数字化成为当今社会最显著的时代特征,而“信息的占有成为社会重要性的惟一标准”[34],数字技术和信息资源开始作为新的生产资料全方位地介入资本主义的生产过程。这不仅推动了资本主义生产从工业资本主义阶段向数字资本主义阶段的转型,而且使得数据和信息成为当下最为重要的生产资源。由此,数字资本主义系统地利用网络平台和数字技术将用户的无偿“数字劳动”(digital labour)置于自己的监视之下,并将其转化为一系列商业资产。其中,互联网公司作为数字资本主义体系的先锋,就凭借其平台垄断优势和用户的依赖性对所有线上活动展开全景化的监视,并通过后台算法将用户自主产制的海量数据加工成用于交易的信息商品。一方面,全景化的平台监视在某种程度上将整个数字社会引向透明化,另一方面,这种透明却包含着极端不平等的权力关系,即代表数字资本利益的互联网巨头可以借助其优势地位将用户变成商品化的“透明人”,而普通用户却对其算法黑箱难有所知,只能在信息不对称中遭受黑箱社会可能带来的技术歧视、权益侵害、乃至隐含的价值操纵。在数字资本主义的运作结构中,透明社会的技术实现可能与黑箱社会的政治经济现实所产生的矛盾,既反映着资本主义社会基本矛盾在数字时代的延续性,也构成了一种内在于数字资本主义体系的技术悖论。