机器人的技术伦理及影响

□赵 璐 涂 真 徐清源,2 刘松吟

[1.北京大学 北京 100871；2.国家信息中心 北京 100045]

技术的发展已经深入到人们生活的各个领域，当1956年“机器人之父”物理学家Joseph F.Engelberger设计了第一台工业机器人尤尼梅特开始，机器人逐渐进入制造业领域，应用于汽车制造、清理环境污染以及外太空和深海进行探索，随着机器人技术日趋成熟，使得机器人的视野、导航和移动性、语音识别方面的改进，机器人与人类的互动更加智能化，21世纪以来世界各地修建各种完全自动化的工厂，工作场景不需要人类的存在，例如日本机器人公司发那科株式会社运营的“熄灯工厂”，完全由机器人自动生产，无需监管。与此同时，机器人未来在社会的各个方面发挥重要作用的价值导向被众多机器人研究人员和机器人公司大力传播，被倡导在工厂之外对机器人技术加以应用，深入服务和医疗卫生、军事等领域。机器人学得到世界各国政府的资助支持，例如美国推出的国家机器人计划（National Robotics Initiative, NRI）, 欧盟出资支持的FP7-ICT认知系统和机器人挑战项目等。

从机器人的发展历程与未来憧憬来看，是不断从工业制造业时代向信息时代迈进的产物，从机械化到智能化，从机械机器人到仿生机器人甚至到类人机器人的转化背后体现了人类对人造生命的高层次需求，试图从技术上模拟生命的不同方面，这背后的人机交互、环境与机器的交互越来越挑战人类的认知能力。那么，人们为什么对人造生命如此执着，机器类人化背后的逻辑是什么？本文从机器人技术发展的历史沿革出发，剖析人类进行技术生产过程中的内在逻辑，探讨在信息化时代发展态势下，机器人技术作用于社会的正负效应。在本文中，机器类人化的概念具体指，机器人技术发展中，机器人从不同方面模仿人类的不同层次特征，身体形态（外观、器官功能等）、思维（思考、推理等智力）特征、社会互动（情绪表达、沟通能力）及行为遵循一定道德规则等。

从目前研究成果来看，对机器人的研究多集中于认识论层面对机器人是否真有人工智能以及对机器人伦理道德问题的隐忧进行探讨[1～3]，但是对技术与社会互动的视角对机器人的发展问题研究尚少。本文着重从马克思主义对技术发展的批判视角，探讨信息社会中，机器人模拟人类特征的前提，逻辑和社会后果。

在工业社会，马克思[4]就已经提出技术推动生产力的发展，改变着生产关系。人与技术在生产过程中相互建构，一方面，人作为劳动者，在生产过程中，对技术进行操作和使用，另一方面，技术被建构出来以后，成为一个客体的存在，在生产过程中也形塑着人类的生产行为。而且，马克思在技术推动资本主义生产过程中看到了人的异化特征，技术和分工的发展进一步的深化了异化的程度，比如，布雷弗曼[5]通过对生产过程的分析，提出了在生产过程中，“构思”与“执行”的分离，说明了劳动者不仅仅不占有生产产品，在生产过程中更是丧失了人类劳动的特性—对所要生产的产品的构思，这是人类劳动区分于动物劳动的本质。

在现代的信息社会，技术的急速发展让真正的生产者并不懂得技术的原理，只是单纯的被支配着，而技术对人工的替代，又使得机器和劳动者处于一种竞争和对立的状态。所以，反观机器人的发展，机器类人化是技术合理化的方式[6]，即技术对人类的生产、生活进行数字化控制，对社会实践合理化并减少人类依赖的方法，但是合理化的过程中会有不合理性的表现，比如机器类人化会使得人失去人性，人的社会关系甚至性关系都会麦当劳化，终极的不合理性可能就是系统（或者说控制该系统的精英）控制我们，甚至取代我们。

所以，本文试图从人与技术互动进行双向建构，回答：人根据自身怎样的需要创造出各种形态和功能的技术客体—机器人，并为何改造机器人的功能不断“逼近人性”？另一方面，技术一经创造出来就具有了自身相对独立的存在形态，通过一定途径和方式对活动主体产生的一种“逆向效应”, 即技术对主体活动的规范与制约作用，使主体活动具有一定的受动性，那么在机器类人化的过程中会带来怎样的负面因素和消极影响？

一、机器类人化的前提：生命是一种信息系统

自古以来哲学家和艺术家就不断想象人造生命（人和动物），在19世纪，对人造生命的需求十分强劲，重点在于生产自动装置，自动装置是模拟人或动物的完全机械化，这个时期的特点是通过机械手段复制生命。随着工业革命的发展，直到二战以后，生产人智能机器成为人们主要追求的目标，人们从工程学角度对生命有了新的憧憬，认为生命是一种信息系统。这就是控制论—认为可以通过信息的反馈来控制有机过程和机械过程。这种工程观认为生命过程和非生命过程是平等的。一方面，如果沿用这种思路那么生物认知和社会过程都可以用数字化方式来描述。另一方面机器也可以思考后再采取行动。并且表现出在我们看来通常生命系统才有的一些特征。比如，控制论创始人Norbert Wiener[7]认为动物和机器都是信息处理系统, 始终在追求特定的目的, 检查自身的行为是否已经带来理想的结果，然而对行为进行调整以实现要求的结果。

所以，同18世纪的机械自动装置一样，工业机器人、智能机器人也是试图从技术上模拟生命的不同方面，在一定程度上能在复杂和或多或少非结构化的环境中自主行动，执行动态的社会实践。

那么，在机器人的技术发展与社会实践中，我们能发现环境与机器之间交互以及人机交互发挥的作用越来越明显，本文对于机器人类人化的讨论要重点放在2个领域，一是生产领域，二是亲密关系领域，主要体现在两个：一是基于效率的逻辑，二是基于情感的逻辑。

二、机器类人化：效率逻辑与情感逻辑

效率逻辑具体指：机器人是人技术化产生的结果，首先，人是通过创造和利用技术来实现自身目的。而人们之间发生关系的信息量急剧地增长着，人的能力需要不断拓展，机器人的应用使人在各个层面都有了质的提升。比如在特里威廉[8]看来，机器人是“能够提高人类能力的智力机器”，这种能力不仅仅是认知能力，还要有社交能力和情绪能力。

首先，机器人是对人类生物功能的模拟和放大。机器人客观上模仿了人类的生物功能、动作特征、互动方式和认知行为，是人的四肢、感触觉终端的延续，使人的劳动能力、感知能力成倍放大，拓展了人类认识世界和改造自然的能力。以机械臂为例，这是一种基于对人体部位的仿生，能够承担高强度符合机械活动或者精细运动的机器人。机械臂作为应用最广泛的仿真机器人，在重工业生产、医疗、航空等领域都有着重要的地位。如2017年在上海举行的工博会上，川崎重工集团发布了一款新型工业通用机器人RS007N/L机械臂+F控制柜，可以将生产效率提升50%左右①。在医疗行业，达芬奇手术机器人系统以其精准、微创的特点受到越来越多的外科医生和患者的欢迎[9]，其他类型的手术机器人也在更多的介入医疗过程中。除此之外，机械臂也逐渐被应用到体育训练、农业采摘、医疗护理等领域。

随着机器人产业的发展，机器人仿真逐渐由局部器官扩展到整体，也就是人形机器人的发展。他们由头部、躯干和四肢组成，拥有视听系统，能够依据语音指令来执行任务，他们的身体仿照人类骨骼，并在关节处有所扩展，如头部可以旋转360°，以获得更广阔的视野，依据工作需要来制定具体的身高、臂长等等，具有很强的针对性。不仅如此，机器人的外观也不再仅仅局限于组合的材料，很多机器人被赋予了柔软的“皮肤”, 以提升接触时的舒适度。以护理机器人为例，日本正在研发的RIMAN就是由头、躯干、双臂和底座组成的，并在全身覆盖着厚约5毫米的柔软硅材料，该机器人身上有5个部位安装了柔软的触觉传感器，能感受一定的压强。它还配置了视觉、听觉和嗅觉传感器，可根据声源定位并通过视觉处理找到呼唤它的人，理解声音指令，然后横抱起模拟被护理者的人偶。除流畅地完成这一系列动作外，该机器人还能通过嗅觉传感器判断怀抱的护理对象的健康状况②。护理机器人的广泛应用将大大减轻护理人员的体力劳动，增加诊断效率，提升医疗效率。

其次，机器人的应用增强了人类劳动的连续性。现阶段机器人具备越来越高级的行为能力，又能够充分执行人类的意志，不会疲劳亦不会犯错，在许多人类没有能力或缺乏意愿进行的领域，机器人能够充分施展自己“吃苦耐劳”的精神，弥补人类自身的不足。伴随着人工智能功能的不断延伸，机器人对人类劳动的连续性将不断增强，突破了人类体力精力和注意力的局限，不间歇工作的同时，也降低了人的生物特性带来的错误率，同时不断提高效率。

机器人可以在高危险的工作场景作业，例如日本福岛核泄漏时让机器人下至反应堆，汽车防撞测试时使用带传感器的机器人作为乘客或者驾驶员，甚至为了未来战争研制的军事机器人等。从深入矿井，到入震区救援，从海底勘探，到随火箭上天，机器人由于兼备机器的操作性能与人的感知、基本决策能力，而能够被应用在许多人类并不愿意或不允许被暴露其中的场景之中，实现对人类的补充作用。

再次，机器人的应用辅助了人类提升认知和决策能力。相比人类会衰老、会机能退化、记忆力减退、认知水平降低，机器则在不断的信息输入和自我学习之中掌握了更为丰富的背景资料和信息处理能力。它们可以依赖互联网上难以计数的信息量，和自身具备的计算能力，辅助人类提升认知能力和决策水平。如现在已经在应用的医疗人工智能机器人，可以根据互联网上已有的形形色色的病种、症状和图片匹配病人的实际情况，辅助医生进行判断。人类医生的局限性使之不可能见过所有的病例，但是在医疗人工智能机器人的辅助下，可以快速比对全网的病例，可以基于全部人类的经验和智慧做出判断。同样，在全球许多地区都面临着人口老龄化的危机的背景下，具备人工智能的机器人也能够辅助认知能力逐步退化的人群提高记忆力，干预他们的不当行为，并能做出更好的决策[10]。

最后，虽然机器的类人化带来了诸多积极效应，但是不可忽视的是，机器类人性的增强，导致在诸多工作场景中实现了对人类的替代作用，并导致人的异化。从重复性的重体力劳动、到精细化加工、再到创造性劳动，机器的类人化过程从各个维度进行着对人类技能的模仿和超越，并不断降低工作场景中对人类劳动力的需求。因此，也对许多岗位之上技能单一的人群造成了极大的威胁。这不但将颠覆着现有的劳动制度和生产关系，而且还会拉大社会收入分配的差距：掌握资本和核心技术资源的群体将获得最多的收益，而劳动能力难以更新，工作岗位被机器取代的人群将失去劳动所得。在这样的后果之下，人和机器的地位越来越悬殊，也越来越对立。同时，机器的标准化运行方式也会导致人的异化，剥夺人类的创新能力和劳动带来的快乐，在充满机器监控的工作环境中，似乎回到了福柯的全景式监狱，人类劳动力沦为机器时代的配角。

情感逻辑具体指：机器人是人社会化的需求产生的结果，首先，人生产机器是需要与其产生互动，互动不仅停留在生产层面，也要深入社会生活层面，机器人不仅作为技术的物质载体更是人造生命，也需要完成类人的社会化，拥有人的社会性特征；其次，人的认知能力提升后会有一定的社交需求，这种需求需要人与人或类人之间的相互间沟通和深层的交流来完成，社交需求也涉及情感需求。正如哈贝马斯所言，人类在“兴趣”[11]的推动下，既进行着生存性奋斗，又从事着人类社会关系的建构，技术的兴趣力图把人从自然界的控制中解放出来，实践的兴趣是在促进人际间相互理解，而在“交往理性”为媒介下，要做到人与人造生命的更好沟通，不仅需要不断改造机器人的形态与功能，赋予其更多的人的特性，也需要不断调整机器人友好环境，甚至调整人类的物质精神生活空间来适应基于信息和通信技术的机器人。

信息时代人们对机器人的服务提出了升级的需求，这也是机器人不断拟人化并开始承担与人建立亲密社交关系的情感逻辑所在。以老年人护理行业为例，大量的科研实验结果表明，老年人的社交生活质量与健康状况之间具有显著相关关系[12]。因此，除了帮助老年人完成难以独立完成的日常事务以及对老人的健康状况进行实施监测，提供社会关怀也已经成为老人护理机器人的重要功能设计，并作为人类应对普遍老龄化社会到来的应对措施而备受瞩目。机器人Paro、AIBO等通过模仿动物或宠物的运动、反应和情感表达来达到与老年人互动并减轻老年人负面情绪的效果[13]，而Primo、iRobot等机器人则直接模仿人类的言行举止创造拟人效果与老年人建立亲密的社交关系[14]。拟人机器人在老年人护理领域的应用，表面上体现了人性在服务领域的不可或缺。由于客观的身心健康护理需求，此类机器人被赋予了与人类相近的反应能力和社会属性，从而与用户实现社交互动并达到提升用户社交生活质量的作用，对于改善诸如老年人和自闭症儿童等群体的社交和健康状况具有重要意义。但服务的创造源于需求，人类社会发展到今天，社会中的人对于亲密关系的需求与渴望并没有发生本质性的改变，但亲密关系中所需要付出的时间、精力和情感变得如此昂贵以至于人们不愿意亲自参与亲密关系而希望通过替代性的方式来付出。因此类人机器人产生的逻辑之一，是人类对社交的需求转变为服务需求。应运而生的社交机器人正是因此被创造出来以填补人对亲密关系的付出与需求之间的难以弥合的沟壑。

与补偿社交生活需求的机器人相比，一部分机器人被更激进地用来替代人类提供情感交互和社交互动。每个人都作为独立的个体遵循一定的独立意志在社会生活中活动，这就使人们在与他人建立的情感、社交生活中不可能完全受制于他人的命令或者请求而行动，也无法得到完美的或理想中的反馈。以性爱机器人、社交机器人为代表的具有社会职能的服务型机器人的出现，满足了人类通过编码情感以拥有理想化的或者定制化的情感体验的需求。目前，社交机器人在语音交互、图像识别、动作交互、情绪表达等方面已经完成商业化，这意味着社交机器人的社会交互性和拟人情绪性已经达到了较高的程度[15]。而无论当前机器人与人的相似性发展到何种程度，人对机器人始终把握着绝对的控制力与权威性，顺从的类人机器人按照编码的程序听从并满足人的任何需求而不至于反抗，这为类人机器人成为部分人类心中最为理想的亲密情感对象提供了得天独厚的优势。在如今的日本社会中，大量年轻人避免性爱和亲密关系，而性爱机器人却大行其道。这预示着一个令人吃惊的趋势，即人们越来越偏爱没有缺点、不会背叛、沟通更顺畅的机器人而舍弃与不完美的人类建立情感和亲密关系。

随着人工智能技术的发展，满足特定情感需求的机器人，无论是补偿或替代人类成为亲密关系的对象，都将往真正的社会机器人发展。由于拥有类似于人类的学习能力，社会机器人可以通过模仿人类的符号语言和非符号语言与人类甚至其他机器人进行自主交流和情感互动[16]，他们不再是媒介机器，而是类人。这种兼备了工具理性和交往理性的机器人具备了哈贝马斯所说的有效交往的四个要素：真实、正当、真诚和意义[17]。社会机器人提供不再是程序式的服务，而是与人相仿的交互符号，满足了人们对更加真实而有意义的情感需求。社会机器人不仅在外观上具有近乎完美的类人特征，更在思维和表达方式方面拥有灵动、真实、自然的特性，削弱或掩盖了机器人自身所带的冰冷而不自然的异类感，成为类人机器人几百年发展历史中的极致状态，即逼近人性而模糊人与机器人的界限。社会机器人，不仅可以满足情感需求，还将提升人在亲密关系中的体验。类人性也为其带来类人的权力的争取与道德的赋权，比如，目前具有合法公民身份的机器人索非亚的出现③。社会机器人正在开始被赋予人的意义和权力。

三、机器类人化的可能性后果

基于效率和情感逻辑，机器的发展和社会应用都越来越广泛，在工作和生活中，人的行为都不可避免地受到技术的制约，人的行为逻辑越来越趋向于技术的计算逻辑。但无论机器人如何发展，它在认知的程度上还远远低于人类，它们无法为自己的行为负责。通过对认知进行划分：神经认知、心理认知、语言认知、思维认知和文化认知，人工智能在这5个层级上都还无法与人类相提并论[18]。因此，我们可以看出，机器人发展的越高级，并不能说明他们就如同人类一样具有智识，他们仍然还是工具，他们发挥什么样的作用还是取决于使用他们的人类。

1、理性化背景下可能“消失的”生产关系

基于效率机制的机器人化，他们的行事逻辑都必须建立在精准的计算上，就像泰罗制的发展导致了工业流水线的发展，机器人的行为逻辑是更加精准的泰罗制，因此不可避免地会走向去人性化，也就是加剧韦伯所担心的理性的牢笼程度。

在著名的小说家阿西莫夫的小说中，机器人营救溺水者是基于他们获救可能性的计算，因此它放弃了获救程度低的小姑娘，转而营救了一位青年。这就是机器人在现实生活中的逻辑。在基于计算的逻辑支配下，不仅仅是理性化的加剧，更是将马克思所担心的物化的人际关系表现的淋漓尽致。

马克思认为在资本主义的生产体制中，人与人之间的关系是物品交换支配下的关系[19]，而在机器人参与的社会生产中，更多工具性关系被纳入其中，如在工业生产中，工厂以能够使用自动化程度更高的生产线为目标，期望减少人工，因为与机器相比，人工不仅成本更高，而且更难控制。实体工业企业的首要目标是用更少的人工产生更高的价值，而不再将为人们提供更多的工作机会作为企业目标之一。减少企业人员，不仅仅是技术密集型产业的期待，也成为劳动密集型产业的梦想。技术的进步将使得财富更加集中，分配更加不均等。

但是技术并不是导致贫富分化的实质原因，资本家要获得剩余价值，只有在生产过程中通过对劳动者的剥削才能达到，技术的进步只是对这一过程的放大器。技术的进步是一种全社会的进步，技术在社会上产生的效应是相对一致的，也就是技术带来的生产效率的提升，是全社会生产效率的提升，当生产商品的社会必要劳动时间相对一致的时候，技术也就不能永恒的提升商品价值，因此，在资本主义初期，资本家通常采用提高劳动强度、延迟劳动时间等方式去增加生产价值。但是在现代社会，机器对人工的替代，使得在生产关系中的剥削现象越来越模糊，甚至消失不见，当一个全自动化的生产线上只有一两个管理者在电脑前操作时，现实中生产时的关系就消失了，它们之间不再存在层级的管理，也不用相互配合，随之而来的就是对剥削性生产关系的掩盖，这种掩盖不再是布若威的“甘愿”机制的后果，而是一种由于机器对人的代替所产生的实质的消失。

生产关系的“消失”对现有的生产体制具有积极的维护作用，一部分劳动者又将进入“一无所有”的自由，只是这次的自由是不被资本需要的自由，只能由国家对他们进行一定的保障，但是资本主义生产体制并不会因此改变他们的剥削性质，反而利用技术的发展更好的掩盖了剥削。

2、家庭关系中的伦理困境

基于情感机制而发展的机器人，在医疗、生活领域都发挥了重要的作用，但它们是解决了问题还是掩盖了问题，是非常值得探讨的。

（1）如何看待机器人

不可否认的是，机器人是一种产品，是被厂家生产出来的并销售的商品，只不过是因为它们被赋予了人类、或者动物的特征，让与它们接触的人们对它们有着比物品更多的期待，比如情感的交流。但就机器人的本质来讲，由于它自身并不具备人类的情感，它还只能被当作物品看待，因此一些AI伦理学家就认为，AI本身并不具有道德，只有生产它的人和使用它的人的行为才具有道德的性质。

人们在情感建立中是具有双向或多向性的，如我们经常用到的词语：父子、母子、夫妇、情侣、同事、家人等，它们都指涉了不同的对象，在具体的场景中，这些对象之间又会具有特殊的情感互动，但在人与机器人的关系中，机器人对互动对象的情感并不具有情感意义上的特殊性，这与人际交往是截然不同的。

（2）基于人类再生产的家庭结构

在马克思的理论中，不仅包括人类生产的问题，也包括人类的再生产问题。人类再生产的基础就是一个由两性组建起来的家庭组织。马克思在讨论生产问题时认为，人类的生产其实是为了再生产服务的，如他认为，一个劳动者所拿到的报酬，不仅仅是要满足自己的衣食住行，而是要包括整个家庭的生产，不仅局限于基础的吃穿，还要包括孩子的医疗费用、教育费用等等[20]。可见，生产和再生产是紧密结合在一起的。

随着社会的发展和进步，一些无益于家庭再生产的同性恋、丁克等亚文化也逐渐被社会所接受，但是机器人对于家庭关系的介入对人类再生产是一个巨大的挑战，因为这首次涉及到了跨物种的家庭结合问题。尽管社交机器人和性爱机器人的出现都是基于社会需求，但它们所带来的问题却值得所有人警惕。

与同性恋、丁克等亚文化不同，对于将机器人纳入亲密关系，是一个可以学习的过程，在《群体性孤独》一书中，特克尔谈到现代社会人们对亲密关系的期待：“人们渴望陪伴，却不希望付出友谊……人们希望避免孤单，不愿意承担风险”[21]。因此，只要人们认为痛苦和死亡是无意义的，一个机器人伴侣似乎是一种理想状态，因为我们不必付出情感，也就不必承担风险。机器人伴侣是一剂药方，既可以治疗有社交障碍的人，又可能让正常人“上瘾”。如果说在现代社会，选择机器人作为伴侣的只是少部分的人，但随着机器人在社交方面作用的增强—如机器人作为儿童的玩伴、看护等，它将影响后代人对于传统亲密关系的看法，进而影响到传统的家庭关系结构。

如今，已有科学家提出了与机器人孕育孩子的研究，又在进一步的挑战人类的再生产领域，对于机器人在亲密关系中的介入，我们必然需要更加谨慎的态度，就如同上文所说，机器人的出现到底是解决了问题，还是掩盖了问题？

四、结论与讨论

基于以上的分析与讨论，我们明晰了一个基本的问题，机器人的发展脉络及所带来的社会性后果，是人和技术互动的结果，基于马克思主义的理论观点，人与技术相互建构的出发点和落脚点是人，作为技术活动主体的人可以为人类的生存与发展谋福利而拓展人的能力范围与认知层次，使得作为技术客体的机器人发展与完善，成为人类减弱、消除技术风险，走向更加自由与解放的动力与关键；但是，我们也必须明白，技术是人的本质属性，人既是机器人的设计者和建构者又是操纵者，机器人可以按照人的不同需求层次进行开发，使用，甚至赋予其同等人权地位，使其成为“社会人”，所面临的合理化中的非合理性后果如何规避，是人类共同面对的问题，本文仅呈现一些显性领域的可能性后果，从其背后需要思考如果极端发展，其根源是对人性扭曲的风险规避，因为当今人类面临机器人技术风险危机的部分原因就在于人类丧失理智与良知的畸形发展，所以必须促进人的合理需求。正如舒尔曼所说，“人类不应该制造他们所能制造的每一种技术产品而只应该制造那些或是对他们的同胞或是对他们自己必不可少的技术产品”[22]。所以，当人作为技术的开发主体，如何从设计上预先明确其价值正确、考虑其经济、伦理道德等各方面的影响；当人作为技术的推广主体，如何不片面追求自我盈利的需求，而不顾消费者利益及社会的良性价值观导向；当人作为技术的应用者，如何合理的与技术保持距离，不使自身的劳动与精神依赖于技术无法自拔，是人类更应该反思与警示的。而且最重要的是面对技术的发展，人们如何做到“注重新道德规范的提炼，又要提倡新的道德准则及时规范人们的技术行为。”[23]，真正达到人性与技术的平衡，是需要在机器人技术发展中不断探索的。

致谢

本文初稿系北京大学社会学系开设课程“技术应用与社会变迁”的作业，北京大学社会学系邱泽奇老师和选课同学参加了课堂报告的讨论，并对本文修改提出了建议，在此一并致谢。文责自负。

注释

① https://baike.baidu.com/tashuo/browse/content?id=a642e1fb59d84a392c6f81b3&lemmaId=&fromLemmaModule=pcBottom.

② https://baike.baidu.com/item/RI-MAN机器人/4470990.

③ 2017年10月26日，沙特阿拉伯授予美国汉森机器人公司生产的机器人索菲亚公民身份.