科技本位主义的局限性

李侠

【关键词】科技本位主义  互联网中心主义  算法    【中图分类号】C912.67    【文献标识码】A

如果回顾我们在新世纪初谈论科技本位主义的话题，那时多半还停留在观念思辨层面上，与真实生活还有一段距离，那么20年后的今天，科技本位主义早已从观念层面物化为一项项具体的技术，以更直接的方式充分展现在我们面前，并且时刻形塑着我们的生活。2020年，疫情让原本隐而不显的科技本位主义再次回到公众视野：生活的方方面面借助于互联网而摆脱停摆的命运，互联网中心主义以其杰出的表现俘获公众的信任;企业/平台在算法的加持下实现数据炼金术的华丽转身;对于个人而言，量化自我成为一种全新的科技本位主义表现形式。

互联网中心主义是一种新的技术乐观主义

2020年，各地健康码、国家政务服务平台“防疫健康信息码”的推出对于疫情的全面控制起到了重要作用。众所周知，健康码的推行不可避免地存在隐私泄露问题。在互联网时代，疫情为数据的全面收集提供了合法性，但当危机过后我们还可以回到从前吗？这个现象再次印证多数公众头脑中普遍拥有互联网中心主义，这是一种盲目的技术乐观主义。

自20世纪90年代以来随着互联网的崛起，经过几十年快速发展，互联网的功能得到了充分展现，由此在公众中形成了一种“共识”：互联网是万能的，这就是最朴素的互联网中心主义的含义。之所以把共识用引号标出，是因为人们对于互联网的意义与功能在不同的认知框架下有不同的理解与判断，但不论差异如何大，都共同认为互联网是这个时代的标志。按照知名学者弗朗西斯·福山的话说：“由资本主义驱动的自由民主仍然是城里唯一的游戏，由资本主义驱动的互联网也是如此。从逻辑上讲，它是神赐予我们的宝贵礼物，人类绝不应该抛弃它或把它搞得一团糟。因此，尽管互联网可能会颠覆一切，它自身绝不会被颠覆。它就待在这儿哪儿也不去，而我们最好惟其马首是瞻。发现它的真性情，把它的特征当做金科玉律，汲取它的经验教训，相应地重新翻修我们的世界。”对于中华文化来讲，经过一百八十年（从1840年算起）的被动现代化以来，从“师夷长技以制夷”到创新驱动发展战略的实施，国民对于技术甚至科学的心态，历来是乐观的。从这个意义上说，中国人对于技术有着强烈的乐观主义心态。2020年整个疫情期间基于互联网的网购、直播越发火热，各类社会热点事件也经由互联网实现了知情与共识，科、教、文、卫诸多社会关键领域更是借助于互联网摆脱疫情危机实现了有效运转。这一切都加深了互联网中心主义在中国的落地生根。

互联网中心主义在如火如荼扩张之际，也面临一些困难与风险。首先，中国互联网的乐观主义仍然停留在表层，深层结构与互联网并不契合，导致这种美好理念只开花不结果。比如最近几年一直流行的“互联网+”，到目前为止，成功案例并不是很多，这也再一次提醒我们，我们的基础产业与整个社会的知识结构仍然无法与互联网实现有效对接，目前的互联网热潮仍然处于表面层次。其次，互联网的发展以及网民数量的大幅增加对于原有的社会治理模式与政治架构形成一种紧张与冲击。社会治理的权力结构是垂直的，而以互联网为代表的权力则是水平的，这就导致原有政治体系与以互联网为代表的社群体系潜在地存在冲突。借助于互联网倒逼治理体系的改革，这将是很痛苦的过程;加强对互联网的监管，但是如果监管不得当无疑又增加了公众与治理体系之间的矛盾。最后，互联网无法完全实现启蒙的目的。网民群体的知识结构普遍偏低，由于盲从效应的普遍存在，互联网的价值大打折扣，从而无法助推公众形成理性思考的习惯。

算法神器造就企业的新炼金术

伴随着大数据、云计算与人工智能的兴起，算法崇拜已经悄然走进寻常百姓的日常生活，不知不觉中已成为新时代的炼金术。我们无法准确说出是从哪一天开始的，人脸识别已成为生活的常态，也无从查找从哪一天起，商家和平台利用我们的个人数据对我们实行定向推送甚至不惜采取杀熟策略。大体来说，利用数据赚钱有三个层次，最低级的是直接卖数据，这个模式在监管逐渐加强的今天，违规风险加大;中级就是对收集来的数据做结构化处理，然后卖给需要的客户;高级的就是那些互联网巨头公司利用自有数据和技术为客户提供特定数据服务。当下所有企业/平台都在疯狂收集个人信息，这一切的背后推手皆源于最近几年算法的突飞猛进。算法之所以能在各领域畅通无阻，源于其标榜的客观、中立、科学特性，更有无与伦比的经济性，这些特性使其获得一路绿灯的道德通行证。其实，算法是高度不透明的，没人知道它内部的复杂程序是如何编写的，普通人与社会之所以接受算法，源于算法具有更高的效率以及更低的成本。笔者曾将算法与公众之间的矛盾归纳为三类，矛盾一：算法不透明VS个体越发透明;矛盾二：个体的道德敏感性低VS忽略算法小恶的累积（大概率杀熟）;矛盾三：个体追责成本高VS算法违规成本低。

算法神器的获胜，除了开发商的大力推动之外，也与公众的短视有关，轻易被算法的便捷性与经济性俘获，其实，这也是新技术获得市场认同的标准步骤。一旦获得市场普遍认同，然后技术的贪婪本性開始呈现，到那时任何个人或商家都无力扭转，这已经是新技术的常规发展路径。也许更为严重的是，通过对个体大数据的收集与挖掘，个人的隐私空间急剧缩小。目前算法已经向所有生活领域渗透，如用算法相亲、下棋、招聘人才，甚至用算法预测并防止犯罪等，这些远胜于人的表现，让算法进一步获得社会认同。历史经验一再告诫我们，技术的过度发展有可能带来高昂但无形的成本，到最后处理它所带来的成本，比其前期带来的收益大得多。

目前算法神器正在各行各业突飞猛进地发展，治理算法违规的微观路径有两条：其一，算法的设计者要具备充分的伦理知识与公共意识。毕竟算法的最初设计者对于算法的未来后果具有初始责任，遗憾的是，目前的程序员很少有这方面的知识和意识，导致从设计之初就处于伦理无意识状态，而且目前程序员被赋予了过多的决策权，不会受到严格审查，这就导致算法的恶具有先天性。其二，激活个体的道德阈限，提升个体的道德敏感性。通常道德阈限低的地方，个体的道德敏感性较高，从而通过社会力量约束算法从业者的责任伦理（对行为的后果负有责任）。中观路径：整个社会要有一个开放的具有批判功能的公共领域，所有企业都将接受舆论的监督与审查，没有任何企业具有豁免权。宏观路径：通过有针对性的政策、法规等制度安排，规范与算法相关企业的行为。

量化自我引发绩效主义与加速社会的犬儒化

所谓量化自我（Quantified Self）原本是指一些技术爱好者基于数据崇拜心态，利用技术进行自我跟踪测量（如传感器、穿戴设备与手机等），追求关于自我的多维数据，以此实现自我的量化。随着收集数据种类的增多，其最初的含义开始发生转向，把量化与存在状态捆绑在一起。一些人开始把自我存在感与可量化的数据结合起来，以此彰显个人的价值与尊严。这种偏好迅速在精英阶层扩散，并渗透到越来越广阔的人群中，由此对自我的量化与激励政策有了很好的契合点，激励靶标的设计一定要与个体对于量化的需求相匹配。在现实生活中所有可以量化的指标都可以变为一种激励靶标，以此衡量个体成功与否，如有多少存款、几套房子等，在学术界则表现为量化指标：发表了几篇顶级期刊论文、获得什么级别的奖励或“帽子”、以及有多少科研项目，不一而足，所有这些把量化与存在状态进行捆绑的努力，都促成了绩效主义的盛行。2020年9月，苏州大胆推出“苏城文明码”，文明码采用可以量化的积分制，这项举措一推出，就遭到部分人的批评：道德可以量化吗？谁有资格这么做？在这些质疑的声浪中，这一做法被撤回。

绩效主义带来了规训的革命性变化，以前的规训都是由外部强加的，而当下的绩效主义则是自我生成的。绩效主义不但有效，而且还能让个体产生一种自由的幻觉，在量化的无数次叠加中，所有的时间都变成了工作时间。在这种为了追求绩效而使工作无限叠加的过程中，我们会产生一种倦怠感，这种饮鸩止渴式的追求绩效之旅，不可避免地造成个体对于公共事务的冷淡与麻木，因为筋疲力尽的人再也没有力气逃脱自己给自己设定的牢笼，外在世界在快速消失，或者与我何干？这种局面注定会加剧犬儒化倾向，而互联网时代的犬儒化会像病毒一样快速扩散开来。

所谓犬儒主义，在英国学者提摩太·贝维斯看来，“现代或后现代的犬儒主义是一种忧郁的情境，它逃避世界、理性和政治，退守内心;它源自一种使客体文化负载过度价值的流行趋势——崇拜当代性，而非蔑视当代性”。通俗地说，犬儒主义者就是一群活得相当精明的人，他们清醒而沉默，精于算计，基于自利原则，对于公共事务退避三舍。绩效主义正在快速造就社会的犬儒化，一旦社会的犬儒化程度达到一个极限值，那么这个社会就彻底锁定在退化的轨道上了，因为所有促进社会进步的批判意识与反抗精神都将被消解，这是数字化时代最为暗淡的未来。

为了消解科技本位主义可能带来的消极影响，还是要回到人类认知链条的初始点，毕竟最终还是由人的认知/行为决定技术到底是向善还是向恶的方向发展。由此联想到，这几年全世界范围内兴起的负责任创新运动、把伦理嵌入技术的新科技伦理观等，都是强调在技术的起点处开始规范技术的发展走向。最近两年国家多部委联合发布科技界破“四唯”“五唯”的通知，其初衷也是希望借此从制度层面消解量化自我的野蛮生长。由于现代科技的复杂性，仅靠科技从业者自身的努力显然已经无法消解科学主义的野蛮扩张，从这个意义上说，我们应该把伦理检视的范围扩大，从最初的设计者向应用者以及公众拓展，从而形成一种全方位约束算法神器以及企业炼金术的广谱约束机制。

社会的进步是所有人共同努力的结果，单靠任何一方力量都是无法遏制这种新科学主义浪潮的，而且这种努力，有助于在全社会形成一种有批判精神的公共領域的形成，这也是我们长期缺乏的，在算法、机器学习高歌猛进的时代，在人工智能快速发展的当下，这事关所有人的尊严与未来。

（作者为上海交通大学科学史与科学文化研究院院长、教授、博导）

【注：本研究得到国家社科基金“基于心理内容表征路径的信念修正模式研究”（编号：18BZX037）的资助】

【参考文献】

①[白俄]叶夫根尼·莫罗佐夫著，张行舟、闾佳译：《技术至死：数字化生存的阴暗面》，北京：电子工业出版社，2014年。

②[英]提摩太·贝维斯著、胡继华译：《犬儒主义与后现代性》，上海：上海世纪出版集团，2008年。

责编/赵橙涔    美编/李祥峰