风险与进路：从后疫情时代到数字化未来

【内容提要】新冠疫情的全球大流行加速了新型技术的场景化运用，但数字化技术在赋能战役的同时，其外部负效应也逐渐渗透到社会的各个层面。基于科技抗疫的实践活动，对抗击疫情引发的伦理风险、价值风险和安全风险进行总结和反思具有重要的现实性意义。文章提出数字化未来时代对技术规制的三条路径：伦理先行，强调技术创新的人道化指向;自我规制，强调技术应用的实践智慧;国家公器，坚定科技创新的制度进路。

【关键词】后疫情时代  数字化  技术伦理  风险  治理

一、引言

现代科学技术不断丰富着大众的日常生活，但技术在迭代更新和装备现实的时候，也经常挑战或打破人类社会的技术规范和伦理底线，进而给新技术的采用和创新造成负面影响。在此次新型冠状病毒的抗疫过程中，以互联网技术为代表的一系列创新应用对疫情防控发挥了重大作用，加速了人类战胜疫情的速度。但进入后疫情时代，随着抗击疫情这一主要矛盾化解，关于数据安全、隐私泄漏、数据的二次开发等被掩盖的矛盾逐渐爆发。疫情来势汹汹的时候，国家调动一切资源包括公民个体的身份信息、行为轨迹等数据资源去抗击疫情。但疫情逐渐消散之后，这些被让渡出去的权利和资源却被很多人忽视，给现代社会技术的创新发展埋下隐患。在抗击疫情的常态化过程中，大量的用户数据使用情况不明、数据管理和使用存在重大安全隐患，“先使用后管理”和“先应用后处理”这种应急办法的问题在疫情后期逐渐显现出来，科技与人的矛盾也越加突出。疫情加速了中国现代化治理体系的建设进程，但同时也加速暴露了现代化进程中的弊病。如何去释放数字化技术的潜能、更好的服务人类，与此同时最大程度的降低技术异化带来的风险，就需要重新审视新技术与人类发展的关系。

历史上每一次的技术变革和创新应用或多或少都会带来风险，不同时代的技术有着不同时代的特征。如何“驯化”技术以服务人类是人类发明创造的根本动力和最终目的，而技术伦理则是人类在采用技术的过程中防止技术异化的道德规范和行动指南。回归技术伦理，不仅是为了反思科技抗疫中的伦理失调，也是为了更好的促进未来科技的应用。进入以信息技术革命为表征的数字化时代，大数据、人工智能、5G和云技术等高新科技的应用对科技伦理的规范提出了新的向度要求。技术的创新和发展必须始终坚持为人类社会发展服务、为个人幸福服务的宗旨，数字化技术必须始终考虑满足人民群众的需求、维护人民的利益。要充分调动各种数字化技术去谋求最广大人民群众的福祉，这就是新技术背景下的科技伦理要求——数字福祉（Digital Wellbeing）。数字福祉有两个维度的要求：其一，充分发挥数字技术的生产力和创造力，最大程度实现对整个人类社会的普惠和赋权;其二，在释放数字技术势能的同时，最大程度的限制和减小数字技术运用对人民群众的负外部效应。这本质上是科技伦理的人道化要求，强调科技以全人类的共同需求和利益为出发点和归宿。①在数字化技术深入发展的今天，就是要求科技公司不仅要注重数字技术的创新发展，还需要考虑技术创新过程中的人性和道德，不能盲目追求创新应用而忽视技术风险。后疫情时代暴露的风险问题，将成为建设更加美好的数字化未来的垫脚石。

二、后疫情时代：技术异化与风险评估

后疫情时代，指的是疫情基本得到有效控制或者疫情逐渐常态化之后的社会时空结构，以及一个需要反思、修复和完善的社会场域。随着数字化技术的大规模应用，现代社会的风险外延已经有了新的变化，现代化的技术成为当下时代需要反思的对象。科技抗疫正是在新的历史背景下对信息科技的一种实践运用，是数字化技术与既有伦理规范的一次全新互动与碰撞。但在这个场域中，人逐渐对技术失去控制，技术开始支配着人，②即由技术异化导致的风险出现。只有了解数字化未来的发展风险，才能够制定政策规避或者降低发展风险。

（一）伦理风险

伦理风险是指在人与人、人与社会、人与自然、人与自身的伦理关系方面，由于正面或负面影响可能产生不确定事件或条件，尤指其产生的不确定的伦理负效应，诸如伦理关系失调、社会失序、机制失控、行为失范、心理失衡等等。③當数字化技术被应用于抗击新冠肺炎疫情，一些复杂多变的伦理风险也随之而来。比如在抗疫时期，地方政府和组织利用大数据摸排武汉返乡人员信息、跟踪新冠肺炎患者的行动轨迹，在此期间被调查的人员信息遭到泄漏，在隔离期间遭受网络谩骂，对本就是疫情的受害者造成二次伤害。由于技术提供方和信息管理方的失误，导致了社会中人与人的矛盾冲突、网民的过激行为以及个体的心理打击等多维度的伦理问题。有学者基于动态评估视角，从技术环境、技术自身和企业组织三个方向建立了新兴技术风险评估的三维模型，明确指出伦理风险是新技术风险的重要组成部分。④在大规模应用数字化技术产品的时候，必须慎重审视技术可能带来的伦理风险。数字化技术将改变传统的生产力、生产关系与生产方式，也会重构人与人、人与社会之间的交互关系，数字化技术带来的伦理问题变得更加隐性化、复杂化，也变得更加难以控制。

（二）价值风险

价值风险指的是在发展和应用技术的进程中，偏离技术发展初衷、违背技术应用基本原则，造成价值缺失、价值冲突和价值异化的风险性问题。数字化技术的开发和利用原本为了促进人类文明的进步和人类社会的发展，需要考虑如何利用数字技术增进人类整体福利，但是当不同主体的利益发生冲突，技术的价值取向就会发生扭曲。比如哈佛大学医学院的论文，其中利用卫星通讯和大数据分析技术，收集了关于武汉地区相关医院的就诊数据，炮制出一篇针对中国的“科研论文”，用来当作攻击和污名化中国的武器。随着全球化的深入发展，各个国家都在努力的发展自身的现代化技术，力求增强自身的科技实力，进而在全球竞争中占据领先地位。但在这一过程中，数字化技术成为组织与组织、国家与国家竞争的手段，导致不同阶级和集团因为利益冲突而忽视既有的普世价值观念和技术伦理原则。数字化技术往往不再是为了人类社会的数字福祉而服务，成为了大国之间、组织之间的博弈工具和战争武器，人类需要警惕数字化技术造成的价值风险。数字化技术在未来必将会嵌入万事万物之中，但如何建构一个健康平衡的数字化生态却充满风险和挑战。

（三）安全风险

在数字化时代，社会发展进入以数据资源为基础、以信息技术为支撑的新时代，数字化生存成为时代的重要表征。但信息技术在加速数据收集、开发和利用的同时，也给大众的个人隐私、数字资产、社会声誉等人身权利造成了威胁。正如此次抗击疫情，健康码、AI智能识别系统、大数据疫情地图等科技应用随着疫情的发展加速落地，这些科技抗疫产品的背后是一个个公民个体让渡出去的隐私信息和社会信任。但在抗疫过程中因为管理和技术漏洞导致用户数据泄漏，导致网络暴力、网络诈骗和用户数据的“二次售卖”，这给大众的正常生活造成了巨大困扰和挑战。失衡失范的数字化实践牺牲了公民对于公权力和数字技术的信任，造成了用户对于数字化技术应用的担忧和恐惧。数字化时代的安全风险更为隐蔽、广泛，也更为长久，因为网络空间中个体的“数字脚印”很难被完全抹去，一旦造成安全威胁其影响也难以得到控制。

三、数字化未来：技术规制与路径设计

人类社会经历自动化、信息化的变革之后终将步入数字化景观时代，这将以物联网、大数据和人工智能等新技术的规模化应用为标志，数字化技术与产品将成为人类社会的基础架构和框架。但建构一个可持续的数字化社会需要得到合理的规制和引导，以更好的利用数字技术推动人类社会生产、生活的进步。技术的社会制约论认为，社会伦理、政治和文化的制约是技术发展的内在纬度，⑤因此有必要从伦理、政治和文化等层面对数字化实践进行制约，进而实现技术、人与社会之间的良性互动和可持续发展。

（一）伦理先行：技术创新的人道化指向

科技伦理的本质是人道化，就是要突出人是科技的主人，也是道德的主人，⑥强调伦理介入科技的必要性。技术伦理是通过对技术行为的伦理调节，协调技术发展与人以及社会之间的紧张的伦理关系。⑦数字化未来的技术创新也需要与人类的价值观和规范体系相一致，要将人类的价值观和规范嵌入数字化的系统和应用之中，将现实世界的道德规范调适后引渡到数字世界。戴维斯（Davis）和帕特森（Patterson）指出，大数据技术在带来巨大机遇的同时也带来伦理挑战，需要在创新与伦理风险之间找到平衡，并对大数据技术进行必要的伦理约束。⑧科学技术在建构数字化社会的同时，也给人类社会带来风险危机，人类在未来的技术创新和科技实践的过程中要打破技术本身和资本的逻辑，要把整个人类的数字福祉当作科技创新的价值标准，践行“伦理先行”的科技观。“考虑周全的责任”要求在技术设计阶段就将安全性、有效性、道德性等更多的现实因素考虑进来，以抵消技术模型的简单化带来的风险。⑨技术设计不能只关注便利、快捷和功能等产品属性，而忽视数字福祉，道德应该成为设计新技术流程的一部分。要实现“技术的道德化”（在技术产品的设计中把抽象的道德因子嵌入进去，使技术产品在技术实践中发挥“行动者”的道德指引功能）⑩和“负责任创新”（将企业的社会责任同技术创新实践密切结合，从伦理角度有效评估和影响技术创新的各个环节）11， 以保证技术创新的可持续性。

（二）自我规制：技术应用的实践智慧

亚里士多德对“决定目标及达到目的的手段及智慧”进行了探讨，12强调实践过程中向善的价值伦理、作为手段的多种知识体系和工具理性的智慧，13也就是一种实践智慧。正如技术创新的实践存在多种风险，但为了实现科技赋能和“科技向善”，不能因为风险就不发展技术。因此，一方面，需要推进技术创新为社会发展和变革服务;另一方面，还要推进技术创新为规制技术本身带来的风险服务，这就是技术创新与应用的实践智慧。对技术风险的规制与控制根本上还是需要回归技术本身，从设计前期、实践中期和应用后期对技术进行分阶段的管控。首先，建立健全技术预见机制，做好顶层设计与规划。其次，建立健全防御性机制，利用技术控制技术风险，做好技术创新和实际应用中的管控工作。比如在此疫情当中，信息疫情的扩散造成了社会恐慌和混乱，因此智能内容识别引擎与可视化人审平台相结合的智能风控技术得以被应用，精准识别虚假疫情与涉黄、暴恐等违规内容。最后，利用数字化技术消除和削弱技术风险造成的不良影响，对新技术使用所造成的危机要能够进行及时有效的阻断和恢复。

数字化技术本身是社会经济发展的产物，是在人与人、人与社会的互动中成长起来的，对异化技术的控制和重塑也需要在与社会相协调、与技术自身相磨合的实践中去逐步实现。

（三）国家公器：科技创新的制度进路

国家公器，即社会共有制度系统，通过强有力的公权建构不可触碰的底线。数字化技术的泛在化运用弱化了地域、时间以及传统制度的限制，数字产品、数字流和数字交易等活动成为新的监管对象。因此加快数字化技术的制度建设、完善数字化时代的治理逻辑，对推动数字化技术的创新应用、保障数字市场的规范化建设和充分释放数字化时代的技术红利都有着积极的意义。冯庆旭认为要将责任伦理的精神要义与脚踏实地的政治实践结合起来，14责任落地离不开国家政治制度的保障。数字世界的伦理规则和运行机制不能单靠个人自觉和社会道德去推动，还需要积极利用数字化的技术去构建数据使用规则、数字运行规范，比如利用区块链、大数据和人工智能等技术让数字应用、数字实践变得更加可控、可用、可知、可靠。将数字世界中的科技组织、政府机构和公民个体都纳入到权责分明的智能合约体系当中，用技术和制度实现惩恶扬善，为數字技术的开发、利用保驾护航。欧盟立法者在数据开放共享存在安全隐患的背景下，基于“设计的安全”（Privacy by Design）15等理念制定了《通用数据保护条例》。疫情期间，我国也发布了《关于做好个人信息保护利用大数据支撑联防联控工作的通知》，规范了数据收集和使用的行为。要推动数字化技术的创新发展和落地，就必须适时的制定相关的交易法则及管理办法，在制度和法律的层面使得技术创新和应用有路可循、有法可依。

四、结语

在后疫情时代，反思数字化技术之于人的影响，对更好的实现技术创新、技术应用和技术规制有着建构性意义和价值。在技术发展的进程中，创新和风险是相辅相成、合二为一的，要想通过技术创新去创造社会价值，就需要承担技术异化的风险，如何实现科技创新与实践风险的动态平衡是一个重要议题。总的看来，首先需要重塑数字时代的伦理秩序。在此基础上，充分调动各种政治、经济和文化资源以保障、促进和规范数字化技术的创新和应用，使得数字化技术在现实社会的生产生活中能够始终践行科技向善的终极目标。

【本文为国家社会科学基金重大项目“总体国家安全观视野下的网络治理体系研究”（项目编号：17ZDA107）的研究成果】

注释：

①王克，谢冠华等.科技伦理漫话[M].广州：花城出版社，2003：12.

②李三虎.十字路口的道德抉择：马克思的技术伦理思想研究[M].广州：广州出版社，2006：141.

③冯庆旭.风险社会中的伦理风险及其应对[A].江苏师范大学伦理学与德育研究中心.伦理学与德育研究（2010年卷总第五辑）[C].江苏师范大学伦理学与德育研究中心，2011：10.

④宋艳，银路.新兴技术的风险识别与三维分析——基于动态评估过程的视角[J].中国软科学，2007（10）：136-142+154.

⑤赵迎欢.高技术伦理学[M].吉林：东北大学出版社，2005：25.

⑥王克，谢冠华等.科技伦理漫话[M].广州：花城出版社，2003：12.

⑦张永强.工程伦理学[M].北京：高等教育出版社，2014：39.

⑧Kord Davis & Doug Patterson， Ethics of Big Data. California： OReilly Media[M].2012：15-23.

⑨Mitcham Carl. Thinking Ethics in Technology：Hennebach Lectures and Papers[M]. Colorado：Colorado School of Mines Press，1997：123-152.

⑩Verbeek，Peter-Paul.Moralizing Technology：Understanding and Designing the Morality of Things[M]. Chicago：The University of Chicago Press，2011：114.

11Hellstr?m，T. Systemic Innovation and Risk：Technology Assessment and the Challenge of Responsible Innovation[J].Technology in Society，2003， 25（3）：369-384.

12李義天.作为实践理性的实践智慧——基于亚里士多德主义的梳理与阐述[J].马克思主义与现实，2017（02）：156-163.

13马志强，许鸿宇.社会工作的实践智慧：概念构成与培养途径[J].社会福利（理论版），2020（03）：38-41+57.

14冯庆旭.风险社会中的伦理风险及其应对[A].江苏师范大学伦理学与德育研究中心.伦理学与德育研究（2010年卷总第五辑）[C].江苏师范大学伦理学与德育研究中心，2011：10.

15Cavoukian A.，Privacy by Design： Leadership， Methods， and Results[M]. in Gutwirth S.， Leenes R.， de Hert P.， Poullet Y，eds.， European Data Protection：Coming of Age， Berlin：Springer，Dordrecht， 2013：175-202.

作者简介：郑玄，清华大学新闻与传播学院新媒体研究专业博士研究生

编辑：王洪越