数据异化与规制：智能社会的焦虑与适应性治理*

王光利，饶爱民

（1.滨州学院 人文学院，山东 滨州 256600；2.安徽师范大学 法学院，安徽 芜湖 241000）

21世纪以来，以人工智能、机器人、清洁能源、量子技术、虚拟现实以及生物技术等为代表的第四次工业革命已成为社会变革的重要动力。互联网、物联网、图像处理、身份识别、3D 打印、医学影像等技术广泛应用到人类日常生活中，人与人、人与物以及物与物之间联系日益紧密快捷，人类由此步入智能社会，成为科技发展的必然趋势。

然而，伴随智能科技介入社会深度与广度的拓展，其负面影响日益显现，并逐渐引起社会的警觉。2018年3月，英国“剑桥分析”公司（Cambridge Analytica）通过从Facebook 不当获取的8700 万用户个人（主要在美国）数据进行性格特征及政治倾向分析后，反向推送特定信息以影响2016年美国总统选举的丑闻曝光。Facebook 公司数据泄露事件的严重程度远远超过市场、政治家、金融家以及民众的预期，最终演变为重大的政治事件、经济事件与科技事件。国内同样也面临较为严重的数据外泄问题。由于滴滴（中国）科技公司的“App”存在严重违法违规收集、使用甚至泄露个人信息问题（通过软件公司获取120 项个人信息数据），“滴滴出行”等25 款“App”2021年7月2日被国家网络安全审查办公室要求下架。随着事件发酵，因数据泄露及滥用所引起的社会对个人隐私保护、数据伦理、信息垄断、社会整体图景缺失、个体自我异化、反社会行为、主体能力弱化、虚拟交互与精神麻醉等的焦虑及反思迅速成为社会及学界关注焦点。如何规避智能科技的负面影响，探寻适应智能社会治理的新模式、新策略成为目前亟须解决的社会与学术问题，本文借此展开论述。

一、数据霸权与异化

智能时代，科学实验、检验、统计等所获得的和用于科学研究、技术设计、查证、决策等的数值（即数据），在资本挟持、技术滥用、无序扩张背景下逐渐摆脱了原本的客观属性成为社会的一种异化力量。当海量数据逐步被少部分人拥有与控制，成为谋取私利、压制他人、获取垄断地位的工具，并逐步成为社会发展与结构扭曲的驱动力时，数据霸权便横空而出。数据霸权就是数据拥有者通过主宰数据被动应用者的数据来源与应用，通过控制数据内容与应用规制来达到控制目的，以获取最大利益。数据霸权不但力图逐步削弱个体的主体性、迫使其放弃自由的发展权力，变为数据的奴仆，而且对原有的社会结构、经济结构、价值观产生巨大冲击与影响，成为当今不得不认真对待、深入研究的新的社会现象。

自文艺复兴始，理性与科学精神在西方逐渐内化为主体生命价值的内在元素，继而成为科技绵延发展的内在动力。然而科技发展在提高劳动生产率、满足人们生产生活需要的同时也对人类自身带来诸如增强对人奴役、人自身主体性日益丧失等负面影响，这些影响的发酵使科技对人的“异化”问题在愈演愈烈颠覆人类中心主义神话的同时也引起人们关注与反思①蓝江.数字异化与一般数据：数字资本主义批判序曲［J］，山东社会科学，2017（08）：5-13.。马克思认为由于科技“被资本用作致富手段”②马克思，恩格斯.马克思恩格斯全集（第47 卷）［M］，北京：人民出版社，1979：572.，本质上它是作为一种潜在异化力量而存在，伴随科技浸染的社会生产生活水平的提高，其异化性质日益凸显。

人文主义者肯定人性和人的价值，认为人需要从自身寻求认知根据和伦理法则。康德认为人不但是“自然界的最高立法”者③康德.未来形而上学导论［M］，北京：商务印书馆，1978：92.，而且也为自身立法。即人的认知世界、伦理实践、审美标准要从人自身而非从外在权威或对象中寻求。然而科技自然主义打破了人文主义的基本理论预设，它将人视为类似于动物的生物，主张由技术改造乃至重新设置人的生物与社会属性，人类不可侵犯的本性和意义来源由此受到严重挑战。现象学创始人胡塞尔对这一倾向进行了分析与批判，他在《逻辑研究》中批判自然主义者只看到“自然并且首先是物理的自然”④HUSSE R L.La philosophie comme science rigoure use，Paris: Paris Presses Universi-taires，1989: 19 -20．，而没有看到现象背后的本质。关于实证主义对科学和人类精神生活造成的危机他也进行批判，说“实证主义可以说是将哲学的头颅砍去了”⑤胡塞尔.欧洲科学的危机与先验现象学［M］.王炳文，译.北京：商务印书馆，2001：19.。如果单纯注重科学，人类必将被科学的“繁荣”所迷惑⑥胡塞尔.欧洲科学的危机与超越论的现象学［M］.王炳文，译.北京：商务印书馆，2009：18.。胡塞尔力图通过现象学为科学立法、为人类寻求意义，但随着科技对人类生活介入日益加深，由此引发的危机也愈加深重。

当代法国政治思想家雅克·阿塔利在《未来简史》中从已知历史和科学角度出发认为未来技术的巨大进步必将颠覆人类传统工作、休闲、文教及政治制度。阿塔利依据人们对科技愈演愈烈的敬畏、顺从及崇拜提出科技宗教概念，认为科技宗教不仅将取代传统宗教而且将“直接彻底切断人文主义的脐带”，在他看来，“目前最耐人寻味的新兴宗教正是‘数据主义’（Dataism，它崇拜的既不是神，也不是人，而是数据）”①尤瓦尔·赫拉利.简史［M］.林俊，译.北京：中信出版社，2016：133.。学理上数据是指进行各种统计、计算、科学研究或技术设计等所依据的数值。然而对于数据主义者，他们将数据上升到极高地位，如数据科学家迈尔-舍恩伯格认为“世界本质上是数据”②维克托·迈尔-舍恩伯格，肯尼思·库克耶.大数据时代：生活、工作与思维的大变革［M］.盛杨燕，周涛，译.杭州：浙江人民出版社，2013：V.。此论断虽有失偏颇，但已从某个角度反映出当代数据论者对数据的倚重或“迷恋”。在数据面前，数据主义者认为所有普遍规则都不再重要，而“数据分析，可以揭示一切问题”③维克托·迈尔-舍恩伯格，肯尼思·库克耶.大数据时代：生活、工作与思维的大变革［M］.盛杨燕，周涛，译.杭州：浙江人民出版社，2013：38.。数据分析归根到底是一种算法，人工智能是机器算法，基因技术应用于生物则是一种生物算法，其本质是基于数据流和算法的存在。个人认为这种将数据和算法置于至高无上地位之观点不但是数据霸权的逻辑起点而且也是数据控制或数据宰割、异化人自身的基点。如果任由这种观念发展下去，在后人类社会④FUKUYAMA F．Our posthuman future: consequences of the biotechnology revolution， Farrar: Straus and Giroux，2001:24.数据及算法将消解传统人性、意识乃至人文主义，造成人性和人类精神生活的深刻危机。

数据及数据的收集、分析早已有之，但随着信息科技高速发展，通过互联网收集的虚拟数据、物联网收集的物理数据、移动设备收集的个人数据以几何级数倍增方式增长，同时人类对数据分析及分享能力空前增强，人类由此进入以海量数据及超级分析处理能力为特征的大数据时代。“大数据”概念最早源于20世纪80年代，它与计算信息直接相关、用来描述和定义信息爆炸时代海量数据的专业术语，但真正兴盛是在2011年5月麦肯锡研究所发表《大数据：创新、竞争和生产力的下一个前沿》研究报告之后。报告对“大数据”作了清晰阐释，指出“大数据是指大小超出了传统数据库软件的抓取、存储、管理和分析能力的数据群”⑤Bill Franks.驾驭大数据［M］.黄海，车皓阳，王悦，译.北京：人民邮电出版社，2013：4.。自此，大数据成为当代科技代名词，人类也由此进入大数据时代。

大数据具有量大（Volume）、高速（Velocity）、多样性（Variety）、价值密度高（Value）、真实性强（Veracity）等特征⑥Vance，Ashley．Start-Up Goes After Big Data With Hadoop Helper．New York Times Blog．2010-04-22．。人们在收集、存储海量数据之后可以借助各种类型的工具对其进行比较与分析，通过客观、准确、快速地发掘现象背后真相与事物之间的关联性⑦See Danah Boyd & Kate Crawford，Critical Questions for Big Data: Provocations for a Cultural，Technological，and Scholarly Phenomenon，15 INFORMATION, COMMUNICATIOn，& SO-CIETY p. 662-679（2012）.，从而实现大数据应用最核心的功能——预测。大数据分析的预测功能在智能驾驶、犯罪防控、环境保护、交通管理、市场开发、恐怖袭击评估、国家安全保障等方面都能发挥积极作用。现实中大数据的预测功能也已经触及并影响人们的日常生活。纽约时报披露“预测少女怀孕并进行商业营销”就是鲜活的实例。美国折扣连锁零售商Target 公司分析师依托海量数据利用“关联规则+预测推荐”技术建立了怀孕预测模型（pregnancy-prediction model），根据高中女生X 购买无味湿纸巾和补镁药品的记录，预测该女生已经怀孕，通过美国唯一顾客识别编号（ID）精准找到女生X 的家庭地址并邮寄婴儿服装和孕妇服装的优惠券，不知情的少女父亲愤怒投诉商家，但最后的事实证明了大数据模型预测的精准性。

由于大数据能够无限次重复利用并能挖掘出源源不断巨大潜在新价值而被誉为21世纪取之不尽用之不竭的“石油”与“黄金”。Facebook、谷歌、亚马逊、Twitter、Snapchat、Blend、阿里巴巴、腾讯等公司之所以能快速积累巨额财富，从某种意义上而言就是它们拥有了海量数据，卓越的数据收集、分析及运用能力使它们脱颖而出，成为智能社会的佼佼者。例如谷歌公司利用数据分析获取新闻用户的政治倾向、性别差异、个人兴趣差异、受教育程度、经济实力等信息，随之精准地向它们提升推送新闻，从而获取了客户对新闻新鲜度和质量的认可，润物细无声地将他们牢牢绑缚在自己的产品生态系统中，获得巨大经济效益。Google 的收入自2008年到2018年，从140亿美元增长到960 亿美元，大数据分析与运用从中起着可谓决定性的作用。从此实例中我们可以感受到大数据正在深刻地改变着现存的世界①徐明：大数据时代的隐私危机及其侵权法应对［J］.中国法学，2017：（01）：130-149.，有西方学者甚至断言大数据改变了人类对知识的认知以及对“知识的定义”②Danah boyd and Kate Crawford，Six Provocations for Big Data. A Decade in Internet Time：Symposium on the Dynamics of the Internet and Society，September 2011：12.。在此背景下的社会则逐渐从以产业、金融资本为财富与权力的世界过渡到“以数据为财富与权力的世界”。“数据资本”（digital capital）通过数据计算与分析消除了产业与金融资本的盲目性，进行最有效的资产配置，从而快速地攫取、积累巨额财富③蓝江.数字异化与一般数据：数字资本主义批判序曲［J］，山东社会科学，2017（08）：5-13.。随着“数据土壤”日渐肥沃，大数据革命兴起，原本局限于计算机与自动化等专业技术领域的人工智能自2016年“阿尔法狗”（Alpha Go）与世界围棋冠军人机大战获胜后迅速升温，成为媒体热点、风险投资家投资热土和各门学科研究热点④K. S. Gill．Uncommon voice of AI．AI ＆ Soc，Published online：August 14，2017：34．。2016年因此被称为人工智能再崛起元年。“阿尔法狗”之所以轻松获胜，大数据及数据推演功不可没。大数据的出现不但使计算机和信息技术发生质的突变，而且随着数据与算力几何倍数式提升，世界向智能化发展趋势日渐明晰。

大数据归根结底是人工产物，其技术缺陷、逻辑漏洞、思维陷阱成为扭曲、异化社会的根源。大数据技术发明者自身在认知、能力方面的局限叠加大数据技术为实现功利主义的实践价值与应用效果，只注重相关性而非因果性，只注重效率而非精确性，导致大数据技术逻辑的异化与扭曲，技术本质成为简单的“现象集合有目的编程”。随着大数据技术科学化、客观化、专业化的加深，它在代替人们决策方面的作用日益显著。这一方面助推了人们的技术依赖心理，另一方面强化了“易得”心理与盲从心理，这些思维陷阱容易造成决策失误、治理失效与服务错位等问题⑤张爱军，梁赛.大数据对政治传播的异化与消解理路［J］.湖北社会科学，2020（11）：24-31.。

《1844年经济学哲学手稿》中，马克思认为工人在劳动中沦为自己的奴隶而否定自己，是一种“自我异化”，批判了资本与劳动对人主体性的戕害。而在智能环境中人的主体性异化有了新的表现形式。随着人工智能技术发展及物质条件越来越丰盈，人自身越来越迷醉于智能技术带来的舒适环境与各种智能服务，然而却没有真正获得成就感满足，反而在生活压力加剧与生存空间缩小中，因自我实践能力衰减而变得颓废、堕落，生活方式发生变化，本来完善的主体性也产生畸变与异化现象。表面上物质充裕、丰富多彩的生活却因失去自我价值实现本性与初衷而变得空虚与无奈。人类被技术奴役的现象日益凸显，个体在复杂智能技术面前的渺小感、无助感和绝望感油然滋长。智能技术挤压人的个性化发展、迫使人沦为科技的工具、削弱人的社会责任感，无论对人自身还是对整个社会都危害极深。

如果任由唯数据主义、数据霸权存在、蔓延及肆虐而不加以规制，数据对人的奴役、挤压将急速增长，个体在数据面前的渺小感、无助感和绝望感将与日俱增，数据对人异化作用必将凸显。

第一，对个体自由发展的异化。对数据本身及数据分析的依赖以及对其客观性的盲目崇拜与盲从，极大限制甚至禁锢了个体的自由判断与选择。在数据的裹挟之下，人类个体活动的自由界限逐渐缩小，数据的追踪与运用增加了行为越界的风险，个体面对可能的惩罚不得不谨小慎微，无疑这是对个体自由发展的异化。正如法国技术哲学家雅克·埃吕尔所言，技术是一种异化力量，技术自身日趋自主化，人类在其淫威之下无所作为①黄欣荣，王英.埃吕尔的技术自主论［J］.自然辩证法研究，1993（04）：41-47.，人失去自由发展的权利，逐渐矮化为技术的奴仆。

第二，道德异化。功利主义者认为“合乎需要的或有益的结果”②Taylor，P.W. problems of Moral Philosophy［M］.Belmont，CA：Dickenson，1972：137.的行为就是合道德的行为③王少.论科技伦理评估的理论基础及评估标准［J］.自然辩证法通讯，2021（02）：87-92.。数据客观性、利用有效性及数据分析预测的准确性迫使个体放弃道德选择权利与肩负社会责任的道义。在数据理性的趋势下个体只能顺从，道德的约束力在利益的冲击下逐渐衰弱。

第三，主体性异化。将一切视为数据并以数据为中心的“数据主义”世界观颠覆近代以来所确立“以人为中心”的基本人文价值精神与生活秩序，人的主体性受到数据“物”性压制而异化。在数据暴力面前个体越来越感受到自身的渺小，主体性逐步丧失。人的自主性在大数据面前只保留形式上的“同意”或“接受”，不再过问“同意”或“接受”背后的意义，人的自由选择权已转让或让渡给了数据与算法。

第四，价值观异化。将数据视为“石油”财富，将资本、数据收集与分析视为攫取利益手段与工具的价值观颠覆了以劳动致富的传统价值观。现实中由此诱发了通过盗取数据信息不法获取经济利益的大量犯罪案件。2019年11月最高法院在《司法大数据专题报告之网络犯罪特点及趋势》中披露，2019年利用数据信息进行犯罪的案件数量比2018年增加了50.91%，由此探知价值观异化所带来的严重社会问题。

第五，社会制度异化。随着算法提升人的欲望与情绪被预测与操纵，甚至代替我们自身做出决定，原有的社会制度与行为规则在数据及其算法的冲击下已难以自我修复。数字霸权和数据独裁成为社会统治主流形态，严重侵害目前建立在自由民主基础上的社会制度。

二、智能社会的焦虑、撕裂与沦陷

随着大数据、人工智能、云平台、互联网、物联网、机器人、区块链等智能科技融合程度逐步提高，智能技术的感知力、决策力、自主性及环境适应力越来越强，逐渐成为科技、产业及社会生活的基础性、前沿性与关键性角色。从指纹识别到面部识别、从机器人客服到语音导航，从无人驾驶汽车到无人机，以大数据转化为商业直觉、智能化业务流程和差异化服务的智能技术逐步占据新闻、医疗、金融、保险、律师等现代服务业核心地位，并且不断渗入人们的日常生活，人与人、人与物以及物与物之间联系日益紧密快捷，无疑使我们已经或即将进入建立在高技术融合基础上的智能社会。

虽然现在智能社会还处于初始阶段，但已展现出属于智能时代的社会特征。一是社会结构重塑。数据与算法所形成的智能权力成为一种新型控制权力，它与政治权力、经济权力、法律、文化等的融合将重塑社会权力与结构框架，促使组织结构从金字塔型向扁平化发展。二是主体性蜕变。人机融合与人机共生在主体与“拟主体”交互中不断演进。人的主体性在与物的深度融合中消解，人类伦理、道德、精神信仰在冲击与危机中不得不顺应智能社会发展进行适应性演化。三是物质丰富。智能制造成为社会财富主要生产方式，其技术的先进性、系统性及整体性保障了智能社会物质财富的极大丰富。四是个性化发展。社会产品、服务与个性需求之间相互推进，个性化产品与服务在满足个人多样化需求的同时使个人潜能得以发挥，智能社会为个性需求与发展提供了更丰腴的土壤。五是认识论演化。大数据成为社会发展驱动因素，其独有的相关性思维方式对传统基于因果关系的思维方式形成挑战，个体知识的形成逐渐依赖于群体智能，这对传统基于个体层面的认识论产生挑战，同时为认识论的演化提供了多种可能性。

智能社会是社会发展的新阶段，是社会进步的必然结果，但它并不完美，从某种角度而言更具有挑战性与不确定性。大数据及人工智能等高科技逐步深入社会生活各个层面并深刻影响人的生活方式与思维方式之时，数据泄露泛滥、科技异化对社会的负面影响（如新事物引入时排他性焦虑、对社会固有结构的撕裂、对伦理道德冲击等）也逐步显现并难以杜绝规避，成为不得不认真反思与规制的现实问题。

第一，隐私的终结。2019年我国《民法典》（草案）对隐私的概念进行了界定：隐私是自然人的私人生活安宁和不愿他人知晓的私密空间、私密活动与私密信息①顾理平.整合型隐私：大数据时代隐私的新类型［J］.南京社会科学，2020（04）：106-111.（这一概念由《民法典》第1032 条确认下来）。美国对于个人信息并没有一个通用的定义②陈美.开发政府数据的隐私风险控制：美国的经验与启示［J］.情报杂志，2021（06）：81-86.，但在《消费者隐私权法》第四条规定，个人信息是指覆盖实体（coverd entity）所管理的，而且一般公众无法合法获取的信息或数据。社会现实中个人隐私与个人信息呈交叉关系，例如住址、身份证号码、出生日期、医疗纪录、照片等在某些情景下是可以让人获知的个人信息，而在某些场景，特别是个人可以自由选择保密与否的场景可以被视作个人隐私，受相关法规保护。对“便捷性”的期待是人之本性，同时也是人类迈向智慧生活的动力。然而在获得“便捷性”同时也须付出代价——让渡自己的“识别性”即个人信息特征。例如在互联网转账中个体必须首先成为网络一个独一无二可识别的“节点”，作为个体的节点之间才能通过网络完成转账交易。而成为可识别节点必须向信用卡、微信等金融与监管机构提供包括个人社会特征（如姓名）与生物特征（如指纹）等一系列信息为基础，个人信息上传不可避免侵蚀个人隐私。

随着智能技术（特别是智能监视技术）的发展，人类社会正在进入“监视资本主义时代”③吴帮乐.人工智能终结了个人隐私吗？——从《咖啡机中的间谍：个人隐私的终结》谈起［J］.科学与社会，2021（02）：79-93.。监控是个体或组织“记录、储存、处理和控制他人信息的过程”④王俊秀.监控社会与个人隐私：关于监控边界的研究［M］.天津：天津人民出版社，2006：24.。大数据智能时代信息来源于许多方面，既包括通过无处不在摄像头、识别系统、网络搜索引擎、可穿戴设备等获得的信息，也包括政府机关、商业企业收集的个人信息，而这些信息的整合构成了大数据监控。信息收集手段经过了人工、机械与电子阶段，目前通过云储存、云计算、数据挖掘技术的监控具有全息性。无论身份信息还是生物信息在大数据监控环境下都无法隐藏，通过合法或非法途径个人信息或隐私几乎是“全景敞视”，个人已无力保护自身隐私，隐私已经终结。个人隐私的“全景敞视”使人们精心管理的身份控制受到损害①facy： Lessons For Australia From the US and UK. UNSW Law Journal， 2014，37（2）：745-747.，而数字刺青（Digital Tattoos）行为的大量存在则带来社会新型监视与媒介侵权隐忧②殷乐.智能技术与媒体进化：国外相关实践探索与思考［J］.新闻与写作，2016（02）：20-24.，这会对个体心理与行为产生负面影响。

在智能互联时代，“泛在技术”（Ubiquitous-technology）是改变隐私内涵、让隐私终结的要因③O’Hara K，Shad bolt N。The Spy in the Coffee Machine：the End of Privacy as we know it. USA：Simon and Schuster，2014：168.。信息时代个人数据的集成性、流动性及透明性在智能技术的挖掘、分析、整合下，隐私权保护变得越来越困难④刘志坚，郭秉贵.大数据时代公共安全保障与个人信息保护的冲突与协调［J］.广州大学学报（社会科学版），2018（05）：74-79.，在利益驱使下，个人数据不知不觉中成为某些互联公司待宰的羔羊。例如被称为“中国Cookie 隐私第一案”的互联网侵权案即为一个典型案例。全球范围内网络服务商广泛采用的Cookie 技术是一种用于互联网服务器与浏览器之间信息交互的技术。当用户利用浏览器（Google、百度等）访问网站时，网站服务器便自动发送一个Cookie 信息存储于用户浏览器。用户不知道或无法察觉这种信息的发送。普通女性网民朱某发现无论在家中还是单位上网，在搜索一些关键词（如“人工流产”“隆胸”“月经”“减肥”等）后，在浏览其他网页时会受到一些与“隆胸”等关键词相关的广告推送。朱女士认为百度公司未经其同意，擅自利用痕迹信息进行商业推广牟利，侵害了其隐私权与知情权，于是起诉百度公司，请求法院判令赔偿精神损失并停止侵害行为。一审法院认定事实清楚，支持了朱女士的法律请求。二审法院虽也认定事实清楚，但为了实现规范互联网秩序与保障互联网科技发展之间的平衡，没有支持朱女士的法律请求。对于法院一审、二审截然相反的判决我们不做评判，但从该案件中我们发现如下几个问题：在智能科技时代，隐私的泄露与侵害现象十分普遍；在科技裹挟之下，信息泄露十分隐秘；个人在保护个人隐私方面势单力薄，为了获取某些信息，必须让渡或出卖自己的部分隐私；关于隐私保护的法律还不够完善，个人隐私在互联网领域难以得到有效保护；科技技术对人的挤压所产生的社会危害（如隐私泄露产生的心理压力导致个体或群体焦虑、忧郁等）不容小觑。

第二，挑战传统伦理道德。数据主义者尊崇“价值与智慧隐藏在数据之中”⑤史蒂夫·洛尔.大数据主义［M］.胡小锐，朱胜超.译．北京：中信出版社，2015：22.的信条，导致人们对于数据分析结果客观性、科学性产生盲目崇拜，热衷运用大数据预测和惩罚人类潜在行为，不但对现代社会个人主义和自由意志构成威胁，而且侵害建立在功利主义和责任伦理基础之上的道德规范，加重伴随现代科技而来的伦理危机与道德危机。对数据盲目崇拜禁锢了人类自由意志和道德选择。轻视执法和司法决策过程中深思熟虑重要性，将数据分析结果视为量刑与定罪依据，将陷入亵渎公平公正及自由意志之歧途。道德是人们共同生活及其行为的准则和规范，它通过社会的或一定阶层的舆论对社会生活起约束作用，维持着社会秩序及其运转。法戈赛（Austin Fagothy）认为本意善良的人都具有直觉的是非感，但对于道德的推理不一定准确，因为道德判断需要依赖顿悟和直觉。如果抛弃道德判断的直觉性而完全依赖数据及分析，必然从根本上颠覆社会道德判断体系的基础。

人工智能技术创造出具有类似人类情感及“人性”的“人工生命”，将引起前所未有“人权”问题。人造生命是应该将其视为可被变相奴役和压迫的附属物继续为人类工作，还是应该赋予它们与人类同等或相近“人权”，必将引起伦理道德危机。社会稳定在一定程度上依赖于道德体系约束，如果“人工生命”被肆意辱骂、遗弃、毫无尊严地被奴役去代替人类完成危险工作，不但违背并且从根本上动摇人类社会基本道德准则与体系，道德体系紊乱对人类行为约束力的下降还将导致社会混乱。

第三，主体自我异化与主体能力弱化。普罗泰戈拉“人是万物的尺度”、笛卡尔“我思故我在”以及康德“人为自然界立法”的命题确立了人在世界中的中心地位与主体性：客观世界的存在的被认识必须依附于人的主体性感知。然而随着现代智能技术发展，人类对智能载体依赖性越来越重，人的主观性被抑制从而变相削弱自身自主性。智能社会人们在工作或学习中遇到困难，不再按照传统方式通过自己的思考解决，而首先借助搜索引擎等智能载体解决问题。学生遇到作业难题，不再苦思冥想而借助网络查找答案。这种懒惰或依赖无形中削弱人本能的研究探索能力。智能载体的使用使人与虚拟世界交往越来越频繁，挤压真实物理世界与人类实体交往，必然削弱人的情感认知力。在智能载体时间和空间制约下，人对智能载体依赖程度越高，人的主体思索能力就越弱，人的主体地位也就愈低。个人让渡自己的信息，完全暴露于看似中立的算法中，在新技术对个体的解构中，个人实际上变为“资本控制的冰冷游戏”的配角，成为信息社会没有自主权、没有主体性的被动客体。

第四，工具理性泛滥。启蒙运动之后理性与工具相连，侧重于最大功效，力图实现人的某种功利性目的的工具理性随之产生。马克斯·韦伯从文化与社会两个角度对工具理性进行了分析，最终形成了对现代社会的悲观诊断①杜靓.从工具理性到交往理性——评哈贝马斯的交往行动理论［J］，哈尔滨学院学报，2021（05）：1-5.。20世纪40年代法兰克福学派认为由于技术进步与理性工具化以及希望的消失与人存在方式的转变，人类工具理性开始泛滥②仰海峰.法兰克福学派工具理性批判的三大主题［J］.南京大学学报，2009（04）：26-34.。而“统治的罗网已经变成理性自身的罗网，社会最终也会被困在该罗网之中”③马尔库塞.技术合理性和统治的逻辑［M］.上海：上海交通大学出版社，2012：103.。霍克海默与阿多诺运用统治的工具理性逻辑阐释了人类自身遭受统治的社会现实，认为工具理性产生了人对外在自然的统治。工具理性的运用导致个人对自己的内在自然的自我规训，同时导致人对人的统治，人类对解放的追求无法真正实现④刘光斌.论《启蒙辩证法》的工具理性范式及其转型［J］.兰州学刊，2020（03）：33-41.。智能技术发展在增强世界物化程度的同时也使技术合理性与统治逻辑更加根深蒂固。智能科技依赖于算法这种工具逻辑，虽然数据库中有上千种模板，但人机对话、“机器人写稿”自身却没有感性认知，它们无法辨别与捕捉情绪，只是遵从逻辑与工具理性从数据库中找出匹配词语，其生产出的“产品”难以拥有人类“体温”。工具理性泛滥对人类伤害不容小觑：一是思维上人类对技术合理性产生盲目认同，盲目肯定的思维方式使人失去批判与反思能力而变成“单向度的人”，成为科技对人思维异化的牺牲品。二是对工具理性的盲目依赖使人遭遇困难时不首先通过自己思考与判断解决而是求助于智能系统自动推理和数理逻辑推演等技术功能，一定程度上削弱了人的主观能动性与自主思考能力，是对“人的自由全面发展”的阻隔。三是工具理性泛滥使技术环境产生新变革，科技日新月异的发展令普通人难以适应（特别是老年人），他们的身体、心理与精神产生严重疏离感，感到自己与当下社会脱节，造成跟不上潮流的失落和寂寞并严重影响其自身健康发展。

第五，撕裂社会。信息共享是大数据+人工智能时代的基本精神之一，然而现实中被誉为21世纪新型“石油”的信息却由于技术、资本等原因高度集中在少数超级公司中，成为它们攫取利益、加强统治的武器与撕裂社会的利刃。微软、谷歌、亚马孙、Facebook、阿里巴巴、百度、腾讯等公司基于各自用户进行数据采集分析在“利益争夺战”中各自建立数据库与信息壁垒，而这种“信息鸿沟”使先进技术成果不能被人公平而“无隔”地分享。在此背景下拥有并能够挖掘数据者可以从数据中攫取利益，而没有数据或不能深度挖掘数据者则只能处于不利被动困境，在马太效应助推下造成“富者愈富，穷者愈穷”恶性循环。在数据与信息垄断背景下对信息资源控制程度成为阶层地位和社会身份重要标志，即社会群体分层的新指标。由于种种原因而在信息与数据争夺中处于劣势的中下层社会群体被日益边缘化，进而成为数字信息技术奴隶，而数字鸿沟中的精英阶层地位则愈加巩固。这加剧了社会“碎裂化”风险，不但阻碍阶层间正常逆向流动，而且使智能社会极化程度越来越高，成为社会群体间隔离与对抗的重要诱因。

机器对劳动力的补充或取代历来是科技发展必然结果之一。凡是具有固定操作规则和标准答案的工作岗位都有被机器人取代可能。例如在美国特斯拉生产车间，电脑控制的约100 具机器人几乎可以完成生产汽车所有流程。随着人工智能、物联网等技术发展，不但传统机器人正以前所未有的速度取代生产线上的产业工人，而且随着具有认知和情感功能的智能机器人进入医疗辅助、老年人陪护及教育等领域，越来越多传统工作岗位将被蚕食。在智能技术革命浪潮中，由于社会为劳动力开辟新用途的速度被新兴技术节约劳动力的速度超越，因而社会传统就业结构正面对越来越强力挑战。2017年麦肯锡研究报告认为：未来大量行业和工作者面临重新择业挑战，目前60%的职业将被智能技术所替代①McKinsey Global Institute，Jobs Lost，Jobs Gained： Workforce Transitions in a Time of Au-tomation，2017：1-160.。客观现实是由于智力、年龄等原因，无论多么努力，总有一部分人在面对新兴科技挑战时被淘汰，演化为社会躯体抹不去的“伤疤”。

虽然智能社会的民众具有充足信息选择权，甚至可以“定制一份个人化报纸”②尼葛洛庞帝.数字化生存［M］.胡泳，译.海口：海南出版社，1997：290.，然而在信息自由选择的同时人们却容易被自己定制、窄化的信息包裹在一个信息“茧房”③凯斯·R·桑斯坦.信息乌托邦—众人如何生产知识［M］，毕竞悦，译.北京：法律出版社，2008：7.中而不能自拔。信息巨头基于算法和大数据采集的用户信息绘成一个具有虚拟世界DNA 性质、专属于个人的兴趣图谱，由此向用户进行个性化信息推送。个体被自己感兴趣的信息包围，“茧房”内即使原本错误的观念也会被得到强化。为了利益，巨头们在算法上不断角力，让个体深陷“茧房”不能自拔。长期在“茧房”中受浸染，没有异质信息洗礼，个体性格越来越自负孤僻、视野越来越狭窄，由此极易产生极端偏执的个体甚至是社会群体极端化，严重危害社会和谐发展。

除却上面所分析智能技术对社会负面影响外，还不得不面对一些焦虑。一是智能社会中人类步入“浸媒体”时代，智能技术产生的虚拟交互综合式体验导致媒介“麻醉精神”蔓延。人与人之间的亲情交往日渐稀疏，许多人身不由己地将自己隔绝起来，许多人由此陷入精神迷途甚至导致精神错乱，继而引起严重的社会问题。二是未来人工智能能否替代或超越人类大脑并控制人类的深层焦虑成为悬挂人类头顶的达摩克利斯之剑。在许多方面智能机器人已超越人类，如果任由这种趋势发展下去，人类是否最终成为机器人的附庸，这关系到人类发展的前途与命运。三是由数以百万计摄像头、防火墙与数据管理等系统组成的监控网络，使各个国家大步迈向“数字霸权”的可能性急剧增强。例如美国在应对围绕警察暴行和乔治·弗洛伊德（George Floyd）之死的抗议活动中暴露了政府用来监视示威活动的一系列工具。美国电子前沿基金会（EFF）研究报告称政府使用了无人机、实时面部识别摄像头和IMSI 捕捉器（又名“脏盒子”）来拦截电话并跟踪手机的位置从而实现压制示威的目的。美国政府的行为与认知倾向加剧了人们对“数字霸权”的疑虑。四是随着智能“过滤泡泡”等技术兴起，更多人通过网络平台“抱团取暖”、党同伐异，从而强化极端观点，引发恐怖思潮泛滥并诱发更多反社会行为。当我们进入某些论坛时常常会感受到键盘侠（keyboard man）党同伐异的戾气。现实中许多人由于某种原因陷入网络舆论漩涡，最终经受不住网络暴力这匹“猛兽”的蹂躏而陷入忧郁、社会性死亡状态，甚至失去宝贵生命。五是智慧技术的运用会诱使一些政府官员依赖技术治理而导致“懒政”或“勤政”（不作为和乱作为），同时对数据信息的过分依赖增加对社会规律误判与决策失误可能性。一些政府官员面对数据与智能技术会失去自主判断能力。大数据分析对个别随机数据的消除与忽视是一种客观现实，如果只依从大数据分析的预测结果与治理路径，现实中可能对某些个体产生较为严重的伤害，因为大数据忽略了偶发的、个体性的需求与发展轨迹。

三、智能社会适应性规制策略

德国社会学家乌尔里希·贝克认为，后工业时代的工业与科技以一种“自反省”的成果影响政治、公众和私人的争论与冲突，对社会产生了系统性的“风险图景”。面对“风险社会”，过去用来解决经典工业社会问题的治理方法和模式不再适用，必须进行“自反性”反思与自我反抗。大数据、人工智能、物联网等智能科技对于现代社会是一把双刃剑，在接受它们为社会带来便捷与繁荣之时，必须审慎对待它们给社会带来的风险与破坏力。面对智能科技为社会带来的焦虑与新风险，必须在反思传统社会治理思维与模式基础上，富有前瞻性地探寻出规避智能社会风险、适应社会发展变化的新思路与新策略。

（一）构建以人为本科技伦理准则

无论个人隐私丧失、数据霸权肆虐还是工具理性泛滥还是主体异化、社会图景式焦虑与缺失，其涌现的一个重要原因是滥用智能科技。当数据与科技“物”的属性被无限放大而挤压人的自由、平等、快乐生活空间时，社会和谐发展将成为空谈。智能科技必须以为人类自身及社会发展服务为宗旨，因而构建以人为本科技伦理准则成为规制智能技术必要手段。一方面对人类伦理道德构成危害的科技开发与应用应严格规制，另一方面必须从伦理道德高度对智能科技进行预防性规制。大数据技术伦理治理关键在于加强对大数据技术的伦理控制，即必须赋予大数据技术以人的伦理价值。首先，对智能科技本身蕴含伦理价值进行预判；其次，在预判基础上以人性自由视角制定符合人性的运行规范；再次，制定预防消极伦理后果出现的有效伦理规制。无论智能科技人性化多高，由于科技具有两面性，其负面影响始终难以完全消除，因而智能科技发明者及使用者要勇于承担责任。瑞斯尼克在《科技伦理导论》中列举了包括社会责任、公开、诚实、审慎、合法、尊重主体在内的十二项科技伦理原则。他认为科技人员必须对其研究结果负责，必须避免对社会的伤害。从责任伦理角度对智能科技开放与运用进行规制，最大限度地促其实现良性社会运行。从功利伦理视角要求在实现智能技术伤害最小化与利益最大化前提下对受消极后果影响者进行必要补偿。从德性伦理视角进行治理则要求利益相关者培养良好思想道德素质，自觉促进科技沿着有益社会良性发展的轨道运行。然而单单依靠科技人员的自律来处理科技伦理问题远远不够，必须提高各级科技伦理治理水平，加强科技伦理指导与规范，才能从根源上处理好科技伦理问题，总之，单靠个体或单方面的努力难以动摇整个科技伦理问题的根基①刘淑媛，周嵘.中国科技伦理制度建设的对策建议——以司法案例为例［J］.科学管理研究，2021（01）：33-37.。

（二）法律法规保障

罗素在《权力论》中认为，如果任凭权势恣意妄为，它将如“异教的雷神和火神”②伯特兰·罗素.权力论［M］.吴友三，译.北京：商务印书馆，2012：1.一样对社会造成毁灭性伤害。只有伦理道德约束与规制对于数据霸权与智能技术的恣意妄为难以奏效，因而运用制度与法律对其进行强制监管变得尤为重要。首先应该建立完善法律法规体系，保障有法可依。要通过条文形式限制政府部门利用维护国家利益名义无节制地侵犯隐私权、数据信息共享权。其次要明确规定智能技术发展边界，对于诸如复制人类胚胎干细胞等可能引起极端人伦危机的技术开发与应用应明令禁止。对于没有违反法律法规的智能科技研发不应随意干涉。强力部门任何具有争议性的措施都应接受民众质询。同时通过各种社会团体、行业协会与政府相关部门等促进智能科技规范得到强充分执行。在制定法律法规时必须在尊重“自然法则”基础上遵守“内嵌”于代码的科技规则。代码是建构在高技术之上的智慧生活的内在生存密码和存在逻辑。法律法规不能与内嵌在代码中的技术规则相抵触，因为它们是智能社会系统中的刚性秩序基础。法律的制定与实施现实中会遇到各种各样的困难，对法律的完善必须与时俱进。例如面对大数据分析对个人信息保护的现实威胁，美国率先突破既有构架模式尝试制定《消费者隐私权利法案》（2015CPBR），欧盟也出台了《通用数据保护条例》（GDPR2018）③范为.大数据时代个人信息保护的路径重构［J］.环球法律评论，2016（05）：92-115.，然而由于科技的日新月异，法律明显滞后于科技发展，因此法律的实际实施效果并不理想，个人隐私侵权事例仍然层出不穷。因而对法律进行与时俱进的完善至关重要。为了应对新形势挑战，在法律保护、法律制定方面必须坚持合理合法性原则、透明性原则、目的限制原则、数据最小化原则、准确性原则、通知原则、可访问性原则、数据完整性与保密性原则。确保个人对与己相关信息的知情权、更正权、删除权、访问权、携带使用权，确保信息控制者、使用者与处理者的法律责任与义务。为了应对挑战，需要与时俱进地对个人信息的概念或范围进行重新理解与界定，同时强化信息控制者与处理者的全过程治理责任，从法律层面限制他们滥用信息，扩大其违法成本，从源头上切断数据信息滥用的途径。除了法律失范之外，监管不力也是一个现实问题。由于智能科技是新生技术，还处在发展的不成熟阶段，面对“人肉搜索”“定点犯罪”等危害社会行为，往往由于约束与制裁不及时、不到位而表现出无计可施的状态，因此现实中必须发挥人的主观能动性加强监管，将不良行为消弭于萌芽状态。

（三）风险预防控制

智能科技创新为社会带来许多不确定性甚至风险，如何规避或控制风险是智能社会必须时时面对的挑战。由于智能科技给社会带来的风险与传统社会的风险不同，在未来的发展过程中要不断提高风险管理水平与管理质量，保证智能社会平稳健康发展。目前在智能科技风险管理方面存在如下几个问题：一是缺乏完善的风险监管规则；二是缺乏防范信息数据安全风险的措施；三是缺乏评价及预警机制；四是缺乏信息数据流动的风险监控；五是风险管理水平低下；六是主体自身内部控制薄弱。针对这些问题，必须建立智能科技的风险管理综合体系。首先，要确立风险管理规则。在明确规则之后将其融入管理体系的每个环节。其次，要确立风险防范专项机制。机制必须以科技平台为载体，通过对风险进行识别而进行相应防范。再次，要建立预测反馈机制。通过制定相关机制对科技产品及服务进行测试，并通过测试结果进行评估、反馈，进而采取相应对策。再次，要制定科技信息数据的预警机制，通过提前预警信息数据产生、传输、应用过程中的风险，最大限度地降低其对社会的负面影响。再次，逐步完善风险评审机制。通过完善风险评审，加强内部控制，预防风险，提高未来决策的正确性。最后，要让风险处于一个动态的监测过程中。这不但要求监测系统必须与时俱进，而且风险控制体系的各个环节必须具有联动反馈及积极响应功能。

要在风险社会完全消灭风险是不现实的，风险本身不是问题，关键是能否有效风险。因此在社会安全与个体自由、社会秩序与个人自由、便利与个人隐私、激励创新与边界控制之间必须通过折中权衡选取一个平衡点。风险具有隐蔽性、非独立存在及突发性等特点，并且通常与创新、超额收益、非理性冲动等交织在一起，因而风险治理难度较大，单凭一种手段难以奏效，必须坚持多管齐下、各部门协调行动的多元化治理原则。多元化治理能够化解多方面的矛盾，也比较符合解决问题的现实要求。风险治理不但是各部门协调集体行动的结果，而且面对各种风险并存时必须权衡取舍，采取整体风险控制策略才能使社会整体风险最小化。这要求集体研判协商并成立风险控制中心等协调机构。风险治理手段应当包括行政与法律风险规制、个体与组织风险感知、风险应急措施准备、风险预警沟通机制建立、风险治理评估及预防二次风险等。

（四）人文精神治理

科技的产生、应用与发展都离不开人①程县昆.科技伦理研究导论［M］，北京：北京师范大学出版社，2011：73.，以人为本是科技发展的核心理念。数据霸权、信息垄断及滥用对社会造成负面冲击归根到底是过于注重商业价值、唯科技主义以及不注重人文精神之后果。美国高校建设“数据科学文化”②史蒂夫·洛尔.大数据主义［M］，胡小锐，朱胜超，译.北京：中信出版社，2015：22.的尝试就是对忽视人文精神培养的一种反制。历史经验表明人类科技实践成功离不开科学精神与人文精神有机结合，没有人文关怀，科技发展犹如无源之水、失去目标的箭镞。虽然科技对人类的发展至关重要，但如果片面追求科技所带来的物质财富而忽略人文关怀与心理疏导的巨大作用，社会必然遭受巨大的损害。当个体或整个社会被极端物化而失去人文精神，抛弃仁慈、宽容、伦理道德，个体与人类自身必然陷入迷茫、空虚、精神紊乱的泥潭。欲实现人文精神治理，首先要在智慧科技发展新情景下努力探索适合智能科技的人文精神，对传统的哲学、伦理道德、文学艺术、历史文化等人文学科进行深度改造与完善，使之适应新环境变化。其次，加强对智能科技人性化管理，使之朝着有利于人的全面提升方向发展，自觉抑制过度注重追求物质利益思想倾向。再次，挖掘并弘扬科学精神中蕴含的量化、精确等人文精神，促进人文精神与科学精神有机融合，实现社会利益最大化与最优化。

（五）技术教育与技术归化

虽然现在普通民众受教育程度越来越高，但相对于科技飞速发展以及愈来愈精细化专业化的趋势，他们对于科技知识的了解却相对缺乏，面对层出不穷的新技术显得无所适从，因而进行科学普及与技术教育变得越来越紧迫。波斯曼认为技术教育目的是让公众在了解新兴技术对于人类思维和行为影响的基础上更好地利用技术而不被其裹挟与绑架①Postman N. End of Education：Redefining the Value ofSchool［M］. New York：Vintage Books，1995：190-192.。技术教育一方面能够提高公众自治、辨别与适应能力，另一方面也提高社会治理人员与技术专家的价值观、伦理观及专业素质，降低社会治理中因对科技无知而引发的风险。技术归化是将陌生、蕴含危险因素的新技术驯化成能够融入社会文化与日常生活的转化过程，它既是新技术使用价值实现过程也是赋予其意义、社会文化价值的过程②黄嘉.技术归化：理解用户与产品关系的关键视角［J］，自然辩证法研究，2012（01）：52-56.。技术驯化表现在社会对智能科技的选择与引领作用，建立系统技术归化体系至关重要，它可以有效规避或减小智能科技对社会的负面冲击。

结束语

科技洪流滚滚向前，21世纪以来伴随大数据、人工智能、物联网以及生物技术等新兴科技的发展，智能科技已经以不以人的意志为转移的方式深入社会日常生活的各个层面。在为社会创造新财富、新业态、新体验、新就业方式以及提高社会智能化与生活整体水平同时，智能科技终结个人隐私、挑战社会伦理道德、导致主体自我异化、工具理性泛滥、新兴科技适应性焦虑弥漫以及撕裂社会等负面影响也随之浮现。随着智能科技对人类生活介入深度与广度的增加，越来越多的人在深刻体验智能科技负面影响的同时，对其发展方向及对人类社会的深远影响产生警惕。中西方学界虽然对此不同层次地展开过研究与论述，然而迄今为止，如何在规避智能科技负面影响的同时最大化其积极推动作用，至今还没有一劳永逸或取得社会各界共识的解决方案。科技发展日新月异，智能科技对人类社会的挤压或僭越必将日趋强烈，因而亟须学界对此问题进行与时俱进的深入探讨，希冀未来有更多更深入的相关研究能够为人类从容、安适地面对智能科技的挑战，消弭智能社会的焦虑与裂痕，提供强有力的智力支持。