智能制造的伦理冲突及其应对

陈 晨

(上海交通大学 电子信息与电气工程学院，上海 200030)

随着机器人、物联网、人工智能、大数据、5G通讯、云计算等技术的不断发展，传统制造业正在展现越来越多的创造空间，形成多种可能性和不确定性。事实上，无论是德国于2013年汉诺威工业博览会提出的“工业4.0”、我国于2015年印发的《中国制造2025》，还是美国于2018年发布的《美国先进制造领先战略》，都以前所未有的战略模态昭示着一个事实——制造业由自动化向智能化转型已成为时代的选择。

2020年的一项研究对中国15 145家规模以上智能制造相关企业进行了筛选和评分，评选出了当前我国智能制造百强企业，该研究将榜单中的前20强分为创新先锋、信息领军和制造巨头三类[1]。这些企业展现了创新能力、信息技术能力和资本实力对制造智能化的强大助推，在实现高度自动化、机械化和智能化后，生产效率和质量得到了很大的提升。

然而，伴随着智能制造对传统制造业的重塑，新的伦理冲突也显现了出来。清华大学李正风教授曾指出，“制造”向“智造”的转变，使得传统的“工程”概念发生了重要变化： 一是工程的知识化现象——当前的工程活动越来越多地应用了最新的科学和技术成果以及更多的知识化成果；二是进化技术在工程实践活动中的广泛渗透——工程“智造”之“智”不仅仅带来变革，更带来工程实践中很多新的问题，比如个人隐私问题；三是工程的“反身性”更强——它表现为工程实践和人的联系更为密切。在这种背景下，伦理的思考不再单纯是当工程实践产生后果时我们怎么去应对的问题——它本身已成为工程实践活动中很重要的一个部分[2]。

在此背景下，对智能制造视域下伦理冲突困境本质及其应对方法的探索，成为未来社会伦理重构必须探讨的时代命题。

一、智能制造伦理冲突的困境

智能制造在全球化的浪潮中高歌猛进，使处于传统惯性生活经验中的人们感到措手不及，智能制造伦理冲突造成的困境从人与自身、人与自然、人与社会的不同层面凸显出来。

(一)智能制造导致的人与自身的伦理冲突

在通过提升生产力和产品质量给人们带来生存红利和便利的同时，智能制造也正在深刻地改变人的生存观念和生活方式，造成人与自身之间伦理冲突的多重困境。这种困境在人工智能参与决策时体现得尤为明显。

一方面是造成现实的人自我肯定或否定的认知能力困境。大量人工智能算法是不具备可解释性的。数据挖掘技术建立的模型往往能帮助人们进行决策，但无法告诉人们为什么要做这项决策[3]。即使模型训练使用的物料来源于开发者的数据集，但无论是开发者还是使用者，其认知和机器学习模型的“认知”必然是不一致的。正如，Alpha Go下出不同于以往任何棋谱的招式时棋手们会感到不理解一样，智能设备或智能系统为管理者做出不同于以往的决策时也会给使用者带来困惑；而当与人经验相悖的机器决策被证实更优，现实的人的自我肯定或否定的认知能力困境将不可避免。

另一方面是造成现实的人自我肯定或否定的主体存在困境。当机器决策一次又一次被证实为更优，并且越来越优化后，人工智能辅助决策会不断削弱人的主观能动性，甚至不知不觉中，由辅助决策进化为替人决策。这在自动驾驶领域屡见不鲜。尽管特斯拉反复强调其Autopilot技术为辅助驾驶，仍不断有司机将全部的控制权交由设备，并因此导致事故。当前智能制造的机器或系统设计中，关键决策以使用者判断为准仍是设计惯例。但设计越好的系统，流程上的“确认按钮”就越像是设计者推脱责任的摆设，苍白的规则不足以消减便捷带来的依赖和惰性。这就表明，伴随着智能制造的演进，现实的人的自我肯定或否定的主体存在困境也将不可避免。

由此还引申出另一个伦理冲突的困境，即现实的人与智能之间基于决策错误的责任划分困境。智能算法决策的正确性是概率的，既存在本应为真却判为假的情况，也存在本应为假却判为真的情况，误判是系统性的，是算法所无法避免的。那么决策错误时，责任如何划分？智能机器的设计师又该如何面对机器使用时产生的伦理问题？因而，伴随着智能制造的演进，现实的人的自我肯定或否定的责任划分困境同样不可避免。

（一）创意阅读。教师可以将创意观念融入到阅读教学中，有目的地引入或设置创新环境，引起学生的积极思维和情感体验，引发创造冲动，引导学生从不同角度或运用不同的思维工具解读文本，从而获得全新的观念冲击或思维革新，如可采用头脑风暴法、六顶思考帽、思维导图、包容性思维、求异思维、强制联想等方法，结合自身的生活体验，获得新的观念，塑造自身新的人格。

(二)智能制造导致的人与自然的伦理冲突

一方面，智能制造在能源节约和生态改善上有显而易见的正向作用。作为智能制造的一个分支，“绿色工厂”通过对生态技术、信息技术、自动化技术的整合，可以从能源和资源需求、废弃物、粉尘、噪声、生物多样性等多方面，助推人与自然的“伦理和谐”[4]。

与此同时，智能制造也使决策者在经济性和生态性之间陷于二难选择，造成人与自然伦理冲突的困境。因为算法并不是天然公平的，决策模型的参数权重取决于设计者的主观意愿，特别是当决策的结果不可测量时。在资源有限的情境和条件下，决策应该更偏向于生产效益还是更偏向于生态保护？这就使得决策者在二者之间总是处于难以取舍的困境之中。

针对智能制造在经济性和生态性之间的内在矛盾，也有学者提出了“绿色智能制造”的概念，试图将绿色制造和智能制造有机结合，即借助智能制造的手段，实现产品从生产、使用到废弃的全周期过程中对环境负面影响最小而资源利用率最高的目标。这个概念的提出，也许有利于减少生态环境污染、提高制造业生产管理环保意识、优化资源配置[5]，然而，就实际而言，“对环境负面影响最小”和“资源利用率最高”往往很难同时达成，“绿色智能制造”更多是依靠于法律法规和道德的一个美好愿景，在“对环境负面影响最小”和“资源利用率最高”二者之间，还有诸多现实存在的障碍因素需要排除。

另一方面，智能制造也会在一定程度上消解私人定制的田园诗意和传统情韵，形成人与自然伦理冲突的困境。智能系统就像一只庞大的章鱼，末端传感器则像这只章鱼的触角伸向环境系统的方方面面，一切过程都变得可监测、可计算、可追溯、可优化。借助信息化技术和柔性生产体系，低成本、小批量的个性化定制成为趋势，手工艺者的“温度”不过是聚类算法的一个点阵，可以分析、创制甚至优化。比如宾利、劳斯莱斯等豪车品牌制造企业，其优势之一就是有丰富的私人定制选项，无论是座椅、轮毂，还是车漆、天窗，只要市面上有，经验丰富的工匠们就能为客户整合制造；即使市面上没有的，只要经费到位，亦可尽量满足客户要求。然而，类似大众、丰田这样以走量为导向的大规模制造企业，则是靠标准化压低成本。随着整车平台的出现，不同车型甚至不同品牌在同一生产线的制造成为可能，制造成本被大幅拉低，汽车作为民用商品已走向大众。我们完全可以想象到，只要设备、程序和原料到位，私人定制的优势将不复存在，而这或许就意味着，手工艺所蕴含的田园诗意和传统情韵也将会在消解私人定制优势的智能制造中逐渐消失。

(三)智能制造导致的人与社会的伦理冲突

智能制造从提高生产效率、提高产品质量、改善工作方式、降低制造成本、减少环境污染等多方面，对人们现实的社会生活产生了普惠的效应。与此同时，智能制造的普及却也正在改变生产链条的劳动组织形式，并推动着整个社会结构发生翻天覆地的变革。

智能制造大大提高生产效率，从而加剧了就业竞争，拉大了贫富差距，造成了社会的撕裂。智能机器的使用与传统机器大生产链条上的劳动者结构有所不同，智能机器逐步把劳动者排除出直接的生产过程之外，相应增加了研发智能机器与编写程序的人员。智能生产链条的突出特点就是依靠体力劳动获取报酬的工人越来越少，生产线的维系通过大量的脑力劳动来完成，即由发挥“大脑”作用的、复杂的软件系统来组织指挥机器进行产品生产[6]。自从2014年iPhone 6上市至今，富士康已经使用机器人(又或者是机械手臂)取代了超过一半的工人，当地工人数量由11万人减少到了5万人[7]。面对资本有机构成的迅速攀升，年轻工人尚可重整旗鼓，极尽所能去“做机器人的主人”，而上了年纪的普通劳动者，则不得不面临惨烈的就业竞争。在这种情形下，生产资料的所有者创造财富的速度，更大可能获得技术壁垒的叠加，由此必定会造成社会贫富差距的进一步拉大。

人与社会的另一方面的伦理冲突则来源于大数据对个人隐私和数据的海量摄取。上海大学的一项研究表明，近年来，重大数据信息泄露事件数从2012年的2 323件暴涨至2019年的5 183件。大数据应用在数据身份、数据所有权、数据隐私权、数据使用度、数据个性化分析等多个纬度存在伦理风险[8]，技术提供方如果不能从身份困境、隐私边界、数据权利和数据治理四方面全盘思考问题，个人数据安全与社会整体利益的冲突将不可避免。

此外，智能制造的一个越来越明晰的、更为危险又孕育新机的伦理冲突，则呈现在不同价值模式、不同制度模式的国家和民族之间。这一伦理冲突在大国博弈中得以充分展示。中美之间围绕芯片这一核心技术的大国博弈，就生动地诠释了智能制造所导致的大国之间伦理冲突的巨大风险，以及其中所潜藏的前所未有的机遇。在智能制造方面，作为一个正在崛起的大国，中国所面临的危机在于缺乏足够的抗力，在遭遇到美国等西方国家打压下可能会崩溃，而难得的机遇则在于被倒逼之下可能会上升到一个新的发展境域，置之死地而后生。在某种意义上可以说，未来的世界，谁掌握了智能制造的高地，谁就拥有了话语权和主导权。就此而言，在百年未有之大变局下，只有通过有效的方式化解智能制造伦理冲突的风险，抓住智能制造伦理冲突的机遇，才能深刻影响到人类命运共同体的建构，推动整个未来世界良好新格局的形成。

二、智能制造伦理冲突的应对

针对智能制造所带来的伦理冲突，学者们提出了诸多方案以寻求有效的应对。但归根结底是要面向现代化、面向世界、面向未来，促使冲突双方经由伦理和解达到伦理和谐。要应对和突破这些困境，可以从三个方面入手，即优化思维体系、实现伦理重构、增强价值导向。

(一)优化思维体系，提升应对智能制造伦理冲突的思维能力

优化思维体系主要指优化思维的方法体系和能力体系。通过优化思维方法体系，增强认知主体的思维能力，实现思维能力体系的能级提升。应对智能制造伦理冲突，尤其需要建构并提升多种能力要素构成的能力体系。这些能力要素，主要包含辩证思维能力、战略思维能力、底线思维能力，以及创新思维能力。

首先，需要构建并提升辩证思维能力。决策者和使用者都必须意识到，新技术所带来的机遇和挑战是并存的，智能设备既带来了成本降低，也带来了岗位挤出和失业风险；算法决策既带来了效率提升，也带来了责任划分和认知风险；数据挖掘既带来了精准定位，也带来了数据安全和隐私风险。因而，要善于“于危机中育新机，于变局中开新局”。可以说，运用辩证思维的哲学智慧，提升面对机遇与挑战的辩证思维能力，正是应对智能制造伦理冲突，经由伦理和解达到伦理和谐的认知理路。

其次，需要构建并提升战略思维能力。智能制造的基础是万物互联，应用是全行业的，其发展需要有前瞻性的战略眼光、系统的战略布局、强大的战略定力，需要“根据基础研究、技术研发、产业发展和行业应用的不同特点，制定有针对性的系统发展策略，推进项目、基地、人才统筹布局，老任务和新任务有机衔接，当前急需与长远发展梯次接续，创新能力建设、体制机制改革和政策环境营造协同发力”[9]。因此，应对智能制造伦理冲突，决策者必须有面向现代化、面向世界、面向未来的战略思维能力，能够从战略前瞻、战略布局、战略韧性和战略定力等诸方面具足战略思维能力要素，才能有效消解智能制造的多重伦理冲突。

其三，需要构建并提升底线思维能力。科学技术是一把双刃剑，善与恶总是同步进化，科学技术的进步在给人们带来普惠的善的同时，如果不注意，也可能会带来某种程度的恶。科学技术发展越高越快，这种恶的衍生空间和增加程度也就越大。智能制造技术的飞跃往往伴随着其技术壁垒的增高，设计者、开发者、管理者和使用者也将会面临更为严峻的伦理道德考验。从“棱镜”计划到勒索病毒，从“月饼事件”到“删库跑路”，在大大小小利益的驱使下，如果智能系统的深度参与者没有底线思维，客户、雇主乃至社会整体的安全都将受到威胁。因此，只有提升底线思维能力，才能不断强化智能制造的伦理规范约束，突破智能制造伦理冲突的困境。

最后，需要构建并提升创新思维能力。国务院在《新一代人工智能发展规划》中提出，国家发展人工智能的重点任务之一，是构建开放协同的人工智能科技创新体系，统筹布局人工智能创新平台，打造人工智能创新高地[9]。智能制造的发展和完善，离不开技术创新、制度创新和产业创新[10]。技术创新可以为智能制造伦理冲突的风险消除及其科学合理的规范约束提供技术层面的基础支撑；制度创新可以为防范智能制造伦理冲突的风险和面向未来世界的伦理重构再构提供制度层面的保障；产业创新则有利于将智能制造伦理冲突的风险和危机消散于经济社会发展的深层。因此，超越智能制造伦理冲突的困境，创新思维能力更是不可或缺的。

(二)实现伦理重构再构，强化应对智能制造伦理冲突的规则规范

应对智能制造带来的伦理冲突，实现伦理重构再构，离不开伦理规则健全、伦理范式构建和伦理精神培育。伦理规则健全就是要基于智能制造的新的技术系统和环境条件，不断“扬弃”传统技术制造的伦理规则，汲取其内容和形式的精华，剔除其陈旧不适的糟粕，推陈出新创构、完善适应于智能制造的新技术、新环境以及有利于消解智能制造伦理冲突的科学合理的规则体系；伦理范式构建就是要基于智能制造的技术系统和环境条件，从智能制造的情境和具象中，寻求有利于实现人与自身、人与自然、人与社会的伦理和解、伦理和谐的典型范例，并加以凝练、创塑，由此建构起能够引领未来世界智能制造、消除智能制造伦理冲突的主要范式；伦理精神培育就是要把人类伦理追求的精神元素，渗透于智能制造的各个环节之中，使之承载契合时代的道德理想、道德情感、道德人格、道德责任感、道德使命感等内容，呈现出有益于新时代伦理重构再构的丰富的精神内质。

实际上，正如孙伟平所说，作为智能制造核心的人工智能技术，“是人类文明史上前所未有、意味深长的社会伦理试验”“可能对既有的伦理关系和伦理秩序提出严峻的挑战，甚至将人类的前途和命运置于巨大的风险之中”，智能制造领域需要提倡和贯彻人本原则、公正原则、公开透明原则、知情同意原则和责任原则[11]。具体到每一项智能机器、系统和应用，在其设计、使用、维护的全周期中，都需要把契合时代的道德理想、道德情感、道德人格、道德责任感、道德使命感等伦理因素，作为重要影响因子纳入考量。因此，我们要在政策和行业规则制定时就完善这些伦理因素，使之在智能制造的实施过程中形成有效的制度支撑，以助力于各种伦理冲突的消解。面对这项时代命题，欧洲的《机器人伦理学路线图》和韩国的《机器人伦理章程》都试图交出一份答卷，中美两国在人工智能规划中，也都将伦理问题作为重点战略方向和必须面对的问题。然而，相对规划和提纲挈领，我们亟需更具体的伦理范式来应对更具体的应用问题，亟需兼具传统制造、智能技术和伦理精神的复合型人才来构建这些伦理范式，以使伦理规则规范真正具备实用性和可用性。

(三)增强价值导向，传输应对智能制造伦理冲突的正向能量

应对智能制造带来的伦理冲突，必须增强价值导向。一方面，通过确立激励机制，对秉持人本原则、公正原则、公开透明原则、知情同意原则、责任原则的企业和个人给予荣誉鼓励和经济鼓励。在政策和舆论上进行引导，使企业和个人在智能制造方面的价值取向倾斜于伦理和谐。另一方面，通过建立惩罚机制，对违背人本原则、公正原则、公开透明原则、知情同意原则、责任原则的企业和个人给予舆论、经济甚至法律上的处罚，使企业和个人在智能制造体系设计、开发、维护过程中有所制约。

例如，新能源汽车“碳积分”政策为助推智能制造增强绿色导向起到了示范作用。“碳积分”政策通过量化环保指标、市场化环保行为，将价值导向的激励机制与惩罚机制相融合，使得积分高的企业可以通过出售积分获益，积分低的企业则因不得不购买积分而利益受损。同为绿色导向，智能工厂废水、废气、废料的排放可以借鉴“碳积分”政策的做法，但问题在于，如何设立一套公平、合理、可执行的量化指标？智能终端一定程度上可以解决测量问题，但除非由政府部署高精度环境数据采集设备，否则企业缺乏自控自省的内驱力。事实上，如果监管不到位，在资本逐利的天性下，企业少报或不报排放量才是最经济的选择。大众“排放门”事件就是一个警钟。面对可度量的碳排放指标，尚且有如此丑闻发生，智能化更高的应用场景下，算法模型对于用户而言是个封装好的“黑盒子”，权重参数的设置和数据的使用方式，完全可以是雇主或开发人员的恶意、善意甚至无意的拍拍脑袋，并借由模型“不可解释性”的天然外衣和所谓“商业机密”的保护伞来完美地逃避监管，在不知不觉中侵害他人权益。

即使模型可解释、系统搭建也无关商业机密，但是对五大原则的定义解读也至关重要。比如：“以人为本”该以何人为本？是投资者、开发者还是使用者？“公平原则”下，何谓公平？当整体利益与个人利益相冲突时，是选择多数人的公平还是少数人的公平？如此种种。因此，应对智能制造带来的伦理冲突，增强价值导向是必须的，但对于价值的定义和衡量则需要更多的研究和探讨。这些都表明，只有在清晰的、可操作和可衡量的价值导向下，才能真正有效地传输应对智能制造伦理冲突的正向能量。

三、结语

伴随智能制造相关技术的应用和推广，人与自身、人与自然、人与社会的伦理冲突正日益尖锐。面对智能制造导致的伦理冲突困境，需要从优化思维体系、实现伦理重构再构、增强价值导向等方面对智能制造予以系统调适和积极应对。这种调适和应对无疑具有积极的意义：优化思维体系，有利于运用辩证思维的哲学智慧，提高应对智能制造伦理冲突的认知境界；运用战略思维，增加应对智能制造伦理冲突的战略前瞻性、韧性和定力；运用底线思维，加强应对智能制造伦理冲突的风险管控；运用创新思维，强化应对智能制造伦理冲突的技术基础、制度保障和产业拓展，等等。实现伦理重构再构，有利于通过伦理规则健全、伦理范式构建和伦理精神培育，强化应对智能制造伦理冲突的规则规范。而增强价值导向，则有利于在清晰的、可操作、可衡量的价值激励和惩戒下，彰显契合时代要求的伦理原则，有效传输应对智能制造伦理冲突的正向能量。

当然，应对智能制造的伦理冲突，从国家法规到行业规范，从体系构建到人才培养，从技术层面到哲学层面，还有诸多值得进一步深入研讨的课题。例如，如何揭示智能制造的伦理重构再构与人类命运共同体建构之间的内在逻辑；如何明晰智能制造基于伦理规则规范的行为遵循的边界；如何促使各种严重的智能制造伦理冲突在人们日常生活世界逐步消散，为现实的人营建更好的幸福家园和安全基地，等等，这些都是推动智能制造伦理冲突经由伦理和解达到伦理和谐必须要深入反思和破解的难题。但无论如何，对智能制造所带来的伦理冲突的应对解决，必须与智能制造技术本身相协同，这在世界范围内已形成共识，并对正在经历新一轮科技大变革的整个人类社会具有极其重要的价值启示。