从“单向度”到“被算计”的人*——“算法”在传播场域中的伦理冲击

□文│江作苏 刘志宇

在不久前成都举行的2018年中国传媒经济与管理学术年会上，笔者的学术团队经过长时间研究后提出的一个观点获得了“年度观点奖”。这个观点是：受众已经进入了“被算计的人”场景时代。这种概括性认识不仅基于大量统计数据，而且基于人人都可以感受到的现实，即，在当下数字与算法野蛮生长的时代，每个人都要意识到，在无所不包、无远弗届的网络场景中，只要身处传播场域，几乎每个人都已经完成了各自的历史性转换：在以算法为驱动、以云计算托底、以移动通讯为支撑的条件下，受众已经不知不觉被转化为了“被算计”的人。

新闻传播学界很熟悉马尔库塞的“单向度人”学说。[1]他认为，在后工业时代的大众传媒传播作用下，流行价值观被受众内化为伦理规范，使人们盲目地一味认同，压制了其多向度思考，也就使之失去了突破单向度行为，实施多向度选择的能力。此处的向度（dimension），也可以翻译成方面或维度。观点表述中提到“被算计的人”，其“算计”一词很难找到对应的英文单词。因为“calculate”一词本意是纯数学意义的“计算”，而中文的“算计”一词除数学意义以外，还有“刻意追求某种目的”的含义。

当下无处不在的“算计”从大家的日常生活中处处可以感知到，例如“×宝”靠算法精准推送有利可图的商品目录以刺激用户消费、“××头条”据算法推送投受众所好的内容以赚取流量。这种依靠算法对人们的日常动态予以收集察验，再通过“计算”而“算计”千千万万的个人，从而获得商业利益或是影响力的做法，如今已是司空见惯。无论人们主观上如何看待，你我都在客观上进入了“被算计”的场景，而且正逐渐适应这个场景的伦理。

一、难以逃避的“被算计”：算法下的伦理困境

不久前，某人收到一张明信片，寄送者是某国驻华使馆的新闻文化处。对方寄这张明信片是为告知该使馆办了40年的一份文化性杂志停办，以后不再寄赠。对方同时表示希望收件者用手机扫描明信片上的二维码，今后可以用在线方式继续向此人推送数字化杂志。这么一件小事，可以引起如下思考。

除了印刷媒体的式微外，印象最深的就是使馆所寄的明信片要求收件扫描其二维码，这就涉及“算法”和今后是否会“被算计”的问题。暂且不谈该二维码所导向的链接是否安全合法，只要扫码，对方数据库就可以获得对方手机号码。基于我国手机用户登记实名制的技术前提，对方可以运用社会工程学的各种手段通过手机号码获得姓名、身份证号，进而轻易地运用算法获得该人所有个人信息和社会交往的实时情况，这绝非耸人听闻。

现实空间中的地址可以改变，但数据空间中的坐标却难以修改，收件扫码后只要手机不换号，对方可以将其视为一个移动的信息之窗，随时能全面探知个人动态，而对方几乎没有躲避的可能。

从这件小事引发的思考出发，围绕“世界已经进入了‘被算计的人’场景时代”这个观点，再考察和思考一下我们的伦理与法律环境。当下，中国学术界正在热烈谈论欧盟2018年生效的《一般数据保护条例》，[2]即GDPR，这个条例看似十分严格、细致甚至繁琐，似乎是保护受众不被过度“算计”的法宝。但是深入地进行思考，像GDPR中关于“信息遗忘权”的概念和相关规定有多大的可行性？人们甚至可以怀疑这是一个伪命题，因为像某国使馆文化处对收件人多年以前的一个通信地址尚不会遗忘和删除，那么数据服务商若得到了用户的数据地址和信息会主动忘掉吗？在需要动用的时候会选择放弃吗？这很难做到。

通过数字痕迹追踪场景中的一切人是算法时代的媒介所共有之取向。人们打开网络门户，接受并运用海量信息获取多种便利，这固然是一种享受，但是否要为此付出代价甚至让渡部分权利呢？这是一个罗生门式的问题。很多时候用户一旦提交个人数据，实际上就进入了不可逆的不被遗忘场景，很多难以预估的问题会由此产生。这在行为伦理上的确是两难选择。

用户不可能既要求服务，又不透露个人信息，但用户因透露个人信息而受到某种损害时，又会本能地指责整个算法场景无权收集和“算计”个人信息。这当中的伦理平衡不易做到，所以受众也应当进行计算和算计，算一算自己在获取数据时的得失与选择。从受众意识层面来说，大众媒介伦理素养要升级到更高层次，使受众意识到自己是在一个被时刻“算计”的场景中生存，要评估客体“算计”的动机和目的。有这种认知基础，才能在享受权利的同时做出主动的伦理判断和行为选择。

二、伦理困境的“天元”：算计带来的控制机制

时下风行一时的算法推送技术是技术理性与人文理性相结合的产物。而这一产物在智能化场域中对人类最大的冲击，是伦理问题。除了用户的数据安全问题外应当看到，伴随着传播伦理的问题而来的问题已经凸显，例如社会不同群体间的语境阻隔和对受众个人造成的信息茧房效应，这些在新闻传播研究中都已是热门议题。在面对问题时，首先要看到传播场域——即传播伦理发生作用的前提已经发生了变化，算法的“算计”给传播加入了全新的控制机制。

算法主导下的传播是真正的控制下的传播。维纳在1948年问世的《控制论》中提出，一切物质存在，不管是天体、生物、机器直到人类社会以至于人的思维过程，都构成一定的“系统”，具有不同形式的控制、反馈功能。[3]这一论点在传播学中运用的基本思想便是运用反馈信息来调节和控制系统行为，达到预期的目的。当下这种算计主导的新系统控制模式，其核心在于个性化的推荐算法，其通过无处不在的收集和运算，为整个传播系统注入高效迅速的反馈。在这种新系统之内，信息环境对人们信息的收集无处不在，且难以察觉。人们在打开各类基于大数据和算法技术的网页和APP接受信息时，便将包含着信息的行为提供给了各类传播主体，供其通过数据算法进行分析，发送反馈。这种由收集、运算、反馈、传播组成的系统控制，构成了“超级全景监狱”和对受众的“符号暴力”。

如美国学者马克·波斯特所言，[4]人们正处于计算机数据库信息模式下的技术性权力格局中，被限制在“超级全景监狱”里。与相对熟悉的米歇尔·福柯之“全景监狱”相比，“超级全景监狱”不像福柯认为的那样是19世纪监视和规训的延伸，而是一种全新的模式。从监视的程度与范围而言，这种监视更加隐蔽而无处不在，权力在这种监视下如毛细血管一般延伸，触及社会的每一寸空间，只要通过技术媒介进行信息活动，随时随地都会被捕捉到数据，并被进行反馈和推送；从监视的建构方式来说，“全景监狱”里尚存在着人的主体意识，而“超级全景监狱”中的主体构建采取“客体化”的相反路线，通过分散的身份、通过连个体都没意识到的身份生产这些个体——简而言之，超级全景监狱里的人们甚至都意识不到自己被“监禁”了。这一概念的描述正是对“被算计”的人们当下处境的生动写照。

除了建构“超级全景监狱”的传播场域外，“算计”在作用机制上构成了对受众的“符号暴力”。由布尔迪厄提出的这一概念指的是统治者在社会行动者本身合谋的基础上，通过符号的权力施加在其身上的暴力。从算法发挥作用的机制来说，受众本身积极迎合“算计”，所谓的“算计”才得以进行。而且受众对于这种监视、控制、灌输仍在一定程度上处在一种不知情的状态，因此也如布尔迪厄所说，这是一种“温和的暴力”。[5]

在“符号暴力”之下，算法带来的“算计”并不是真实的暴力，从传播效果看来也对受众没有造成直接的伤害。但这种“算计”是看不见、摸不着的，信息生产者通过技术手段传播场域中获得了充分的信息生产前提，进而通过符号权力对意义进行任意建构，更加懂得如何迎合受众的好恶，使受众的心智结构呈现为更具有形成性的“惯习”。“通过这种惯习的养成，受众进而呈现出体现于身体而实现的集体个人化，或者是经由社会化而获致的生物性个人的集体化。”[6]这种机制下，符号暴力展现出它的威力，它通过培养“惯习”进而构建出知识场域，影响受众对于社会的经济、政治、文化等各个领域的看法观念。而且通过观察可以看到，依然有大量的用户不曾怀疑过算法的合乎伦理性，大多数人在观念上形成一种“误识”，并不认为这是一种暴力，反而为其辩护，进而加强了符号暴力的威力，在传播场域内形成一种内闭循环。

通过“超级全景监狱”和操控“符号暴力”的机制作用，信息生产者的这些“算计”主要是为资本服务，致力于吸引受众的注意力，进而将流量变现。当下的新闻平台、信息服务平台、电商平台普遍采用个性化推荐算法，这种控制机制也伴随着与技术手段的捆绑被推而广之，对传播伦理构成了内源性挑战。

三、当下应对伦理冲击的一般观点

第一种论点提出，如今虽然整个社会从互联网时代进入到移动互联网的时代，但监控的形式和本质依然是以计算机数据库为核心的。伦理问题能不能回归到技术领域，交由算法去解决？例如，世界经济论坛就曾发表过一份题为《解除个人信息的价值——从收集到使用》的报告，其主旨在于将管理数据的重心转移到限制使用数据上，呼吁“通过新型技术手段限制使用个人数据能够让个人控制自己的信息安全”。[7]

应当承认，算法是没有“原罪”的，算法是否剥夺了受众的自由不可一概而论。算法带来的伦理问题，指望“解铃还须系铃人”是一条思路。但从当下看来，对于“被算计”的忧虑主要是针对算法被滥用而非算法本身的问题。例如2017年引起轩然大波的美国脸书（Facebook）数据泄漏事件，并不是东方式的禅意过虑，而是西方契约精神失灵的实体焦虑：受众并不知道剑桥公司“算计”其个人数据的目的，而且出于对数据挖掘、智能算法等技术手段的习惯性接受，客户甚至不知道自己在受到某种影响和控制，被置于一种无意识的被监控状态。这种伦理缺位带来的伤害并非单纯是技术对人的伤害，更多的是人对人的伤害，要从算法出发用技术手段去进行修正显然是勉为其难。

那么，从第二种论点出发，是否可以期待业界与学界联手，针对算法的开发与应用从伦理、道德或是法律层面拿出具有公信力的成文约束方案呢？当下，比较有代表性的是张超从伦理学视角出发提出的将传统的新闻伦理与新兴的技术伦理相结合的方案，认为新闻生产的算法责任伦理体系当中应包括以下原则：公平、准确、透明、可解释、可审计、责任。[8]

此外，类似的还有邱仁宗等从大数据的伦理风险出发提出的“基本目的、负责研究、利益冲突、尊重、隐私、共济、公正、透明、参与”系列原则等多种方案。[9]这些方案各有侧重点，但基本精神相近，且从限制当下的“算计”出发来看均具有一定的合理性和操作性。不过，从当前行业发展情况看来，互联网技术和数据技术距形成成熟业态尚存在距离，此时期望有一种与实践步伐相适应的、通用的、完美的传播伦理直接拿来运用，实际上很难，且不说这套伦理规则还需要用公允和完美的文本形式表达。

即便如马云这样的业界前沿人士，也认为当下正处于互联网的黎明时期，下一步全球行业还需要紧追从 IT（Information Technology）走向 DT（Data Technology）的大趋势。[10]在互联网行业和数据行业尚不成熟的前提下，期望制定出一整套严密完备的法律和规定来约束从业者行为，亦是一种良好愿望，但是操作时空尚不匹备。此时从业者和受众都还在探底，这就如同正在刮着飓风的海面上，实时的船舶状态没有办法固定描绘和控制，只有驶入相对稳定的海区后才有可能。

因此，要在当下解决这种“被算计”给人带来的损害和焦虑，技术手段、简单规制手段是难以做到的，要得到解决必须从受众心理的角度入手，建立起伦理上的警惕性。

四、伦理冲击下的当务之急：摆脱无意识

世界经济研究领域存在中等收入陷阱（Middle-Income Trap）现象，指发展中国家在经济发展过程中面临重重阻力，特别是从落后国家进入中等收入国家以后有可能失去发展动力，陷入长期经济停滞。[11]将此概念移植到传播领域、媒介形态上来讲，在当下这个互联网行业的黎明时期，人类也可以说正处于广义的信息中等收入状态。整个人类社会，包括某些自诩甚高的网络强国，都要警惕这种状态下的伦理认知混乱。

伦理学研究发现，当下这个时期社会的伦理困惑往往是与经济上的中等收入陷阱相伴生的。中等收入陷阱内的人们急切地想增加财富和跳出陷阱，对一切并不一定具有资源秉赋基础，或者超出承受范围的激进变革和公共产品，一概采取民粹主义的态度，盲目冒进。如同消化不良者往往不检点自己的饮食方式而一味怪罪食物的品质一样，结果是付出了大量社会资源的代价而收益却并不理想。眼里只看得到算法而看不到“算计”是大部分人面对伦理抉择时给出的答复。

通过理论分析可以发现，无论是“算计”背后的作用机制“超级全景监狱”、“符号暴力”抑或是“中等收入陷阱”驱动下的民粹心态，其产生伦理风险的根本要素在于无意识。受众面对“算计”时，沉溺于这种无意识而缺乏伦理上的警惕性将可能使其行为受到影响乃至精神被控制。要打破这种伦理困境，最首要的是帮助受众建立伦理警惕，摆脱无意识状态。从操作层面上来说，对受众进行伦理教育并不难，但其前提是学界和业界意识到其重要性，通过擦掉算法推送的表层色彩，兑现受众知情权、复苏其伦理意识，使其主动避免成为“单向度的人”，并能够判断和认清自身的选择与行为是否符合自身的伦理认同。

五、结语

“算法”看似客观中立，“算计”本身也并不邪恶，但其规则是人为所制定，所以这一新兴的传播机制不可否认的具有偏向性。简而言之，即“算法中性”与“价值中性”并非是趋同的。虽然大多数经由算法推送的信息，人们常规上都选择很大程度去相信它，但这不等于受众不再需要有伦理的底线意识，不意味着独立人格不再有价值。面对算法，除了“尽物之性”外，也要兼顾“尽人之性”，践行“尊重和认同人的内在价值”这一人类伦理的出发点。

注释：

[1] 赫伯特·马尔库塞.单向度的人[M].上海：上海译文出版社，2016

[2] 《一般数据保护条例》（General Data Protection Regulation，简称GDPR）为欧洲联盟的条例，前身是欧盟在1995年制定的《计算机数据保护法》，于2018年5月25日在欧盟成员国内正式生效实施。该条例的适用范围极为广泛，任何收集、传输、保留或处理涉及欧盟所有成员国内的个人信息的机构组织均受该条例的约束。

[3] 熊澄宇.传播学十大经典解读[J].清华大学学报(哲学社会科学版)，2003(5)

[4] 张金鹏.超级全景监狱：信息方式下的权力技术——波斯特论信息方式下的统治模式[J].南京社会科学，2007(8)

[5] 尚帅.传播的兴趣偏向和浑然不觉的符号暴力——基于《今日头条》的算法控制研究[J].现代传播(中国传媒大学学报)，2018(10)

[6] 毕芙蓉.文化资本与符号暴力——论布迪厄的知识社会学[J].理论探讨，2015(1)

[7] 宋吉鑫，魏玉东，王永峰.大数据伦理问题与治理研究述评[J].理论界，2017(1)

[8] 张超.新闻生产中的算法风险：成因、类型与对策[J].中国出版，2018(13)

[9] 邱仁宗，黄雯，翟晓梅.大数据技术的伦理问题[J].科学与社会，2014，4(1)

[10] 马云.两岸企业家峰会上的讲话[EB/OL].http：//tech.sina.com.cn/i/2014-12-15/doc-iawzunex6503537.html

[11] 蔡昉.“中等收入陷阱”的理论、经验与针对性[J].经济学动态，2011(12)