伴侣机器人伦理缺陷分析

王玉雯

(苏州科技大学 马克思主义学院，江苏 苏州215009)

一、伴侣机器人的现状

人工智能(英语为Artificial Intelligence，缩写为AI)亦称智械、机器智能，指由人制造出来的机器所表现出来的智能。通常它是一种通过普通计算机程序来呈现人类智能的技术。人工智能于一般教材中的定义是“智能主体(intelligent agent)的研究与设计”，智能主体指一个可以观察周遭环境并作出行动以达致目标的系统。简单来说，人工智能就是由人制造的拥有观察、学习、判断并且根据判断实施行动以达到目的的智能系统。美国电影《复仇者联盟2：奥创纪元》中的奥创(英文Ultron)就是目前阶段对人工智能所能期望的最大值：即一个综合能力完善的强人工智能。

目前从运输计算到企业人事工作，运用人工智能的行业越来越多。人工智能以其智能、高效、高速的优势，势必会取代一部分人类去完成工作。目前被运用于运算和筛选等工作的人工智能被称为弱人工智能或是中等人工智能，这两类人工智能能力较为单一，还未拥有自主行动的能力。而在浩浩荡荡的科技热潮的推动之下，人工智能的开发和研究逐渐进入一个全新的阶段——在现有的设定相应程序、智能体执行的模式中，进一步在人工智能系统中加入情感反射系统，使其成为可以独立思考和判断的个体，即强人工智能。强人工智能是AI技术质的进步，彼时人工智能不再只是单一工作的从事者，而是拥有综合能力的智能体，强人工智能也将摆脱传统电线电池供能，取而代之的是太阳能供能，因此强人工智能的自主性将会大大增强，对人的依赖性则有较大减弱。更有将这种人工智能技术与外表类人度极高的普通玩偶或机器人结合在一起，成为一个可以与人互动的智能机器人。这种伴侣机器人目前已然在研究和优化阶段，甚至已经开始投入试用。

伴侣机器人想法的提出和实施者Abyss Creations公司，拥有来自世界各地的庞大消费者群体。近年来公司创始人马特·麦克马伦提出想法并开始将人工智能融合到玩偶中。目前第一阶段的伴侣机器人已经能够实现与人对话互动，也能够做到包括眨眼在内的所有面部肌肉活动。麦克马伦第二阶段的目标将是实现机器人全身的自主运动。第一阶段的伴侣机器人是没有“自主感情”的，他们的情绪和性格是通过预先的性格设定完成的。而第二阶段的机器人则在智能系统中加入“情感系统”，即通过程序的植入，使机器人对观察到的事物进行输入，然后系统进行判断输出对应的情绪反馈，产生一种“类情感”。与此同时，第一个加入了人工智能系统的伴侣机器人——哈莫尼，已经进入少部分用户的测试使用中，并且预计在两年内投入生产和上市。①

二、 伴侣机器人的伦理争议

伴侣机器人的出现，以及伴侣机器人“类情感”系统的研究和开发，使人工智能不再停留于机械工作和工业生产领域，而是成为与人类直接发生联系的人类社会和家庭中的成员。这种前所未有的状况必然会对传统的社会结构和伦理观念产生极大的冲击，于是，对于人工智能尤其是伴侣机器人的各方争议日益激烈。

以麦克马伦以及其产品受众人群为代表的赞成派认为，伴侣机器人的出现，无疑是运用人类的技术给需要陪伴的人群提供他们所需要的情感依赖。在Abyss Creations公司的用户采访中，超过90%的人期待伴侣机器人的生产，并且表示之后想要拥有自己的“哈莫尼”(Harmony)。占比重最大的理由是他们在长时间的与人社交的过程当中受到伤害或者无法找到适合自己的伴侣，但是有了娃娃的陪伴，削弱了他们的孤独感。创始人麦克马伦也非常支持这一观点，他认为人会在养宠物的过程当中与宠物建立情感关系，有情感上的依赖。那么伴侣机器人作为更加接近于人的存在，人更容易对于伴侣机器人有真实的情感依赖，能够真正地爱上伴侣机器人。①

另一部分赞成的人则表示，在现实生活中，有人因为无法找到一个理想型的伴侣造成心理缺陷，但伴侣机器人能让这部分人弥补这种缺陷。无论是外表还是性格，都能通过自己的设定和调整让伴侣机器人成为自己所喜欢的样子，得到百分之百的理想伴侣。他们还表示，跟伴侣机器人建立恋爱关系要比和人类建立恋爱关系更加安定稳定，更加能给他们带来安全感。值得注意的是，还有极少一部分人在调查中表示，自己有特殊的性癖或者会有虐待倾向。有了伴侣机器人之后可以将这一部分危险的行为在机器人身上实施，从而减少对真正的女性的伤害。这一理由也使得很多人对伴侣机器人的生产表示赞成，认为这样能够减少对于女性的犯罪。

机器人与人工智能伦理学教授——凯瑟琳·理查森则反对这些观点。她是伴侣机器人的坚定反对者之一。凯瑟琳提出，伴侣机器人最为直接的问题在于物化女性身体，将女性的身体作为消费对象，这是一种非常错误的鼓励。她并不认为针对伴侣机器人的暴力会使得针对女性的暴力减少，相反，可能会由于这种间接的鼓励方式而带来更多的性暴力行为。

此外，最为重要的反对原因是，人与人之间的交往是社会生活中最为重要的部分，人们相互之间的社交是相互学习和交换经验的过程，因此人与人的互动是伴侣机器人所不能替代的，伴侣机器人无论如何智能，其本身是个“被输入体”，其认知和经验来自于人的前期设定和交流中对信息的采集。也就是说，伴侣机器人是没有自己的社会经验的。那么人在与伴侣机器人的相处和交流当中，就无法实现信息和经验交换，久而久之，个人便成为一个缺乏与社会联系的封闭的交流圈。凯瑟琳提到：“人一旦陷入自己的封闭世界，不与真的人进行交流，而只是消费产品，只和产品发生关系，那么资本主义会更快地吞噬人类”。这时候的人便不可避免地成为单向度的人。

这些争论的本质问题在于人工智能机器人，尤其是要融入人类家庭社会关系中的伴侣机器人，在与人的交互过程当中，以怎样的社会地位存在，人与伴侣机器人要构建怎样的关系。这些问题都有其伦理的特殊性。再者，人工智能的发展是存在着风险的。人工智能技术的发展不同于寻常的科学技术。它与人发生直接的联系，甚至人工智能会成为人类社会的成员，彻底改变现有的社会结构。这样一项技术的每一项风险都需要提前预知和规避，尤其是伦理层面的风险，更需要在风险转化为事实危机之前，对人工智能技术进行反思，在伴侣机器人成为普遍事实之前，为其研发和使用提供更加谨慎的态度和更加理性的讨论环境。

三、伴侣机器人的伦理缺陷

除了凯瑟琳之外，也有众多学者对人工智能向伴侣型机器人发展的趋势提出技术上或者是伦理上的质疑。伴侣机器人比起其他人工智能的特殊之处在于要与人类在身体和心灵上产生关系，甚至是进入人类社会的家庭之中，成为家庭组成的一部分。这样一来，就不可避免地对人类传统的社会结构和伦理观念带来巨大的冲击。而冲击的始源，就是使伴侣机器人拥有独立的“情感系统”。

迄今为止情感系统，都被认为是动物的特有属性，其中又在人类身上尤为突出。情感是人对客观事物是否满足自己的需要而产生的态度体验。它与态度中的内向感受、意向具有协调一致性，是态度在生理上一种较复杂而又稳定的生理评价和体验。情感包括道德感和价值感，具体表现为爱情、幸福、仇恨、厌恶、美感等等。那么，对人工智能植入情感系统，虽然不能使人工智能拥有人类的情感，但是这会使其拥有观察、判断、反射组成的情感反应系统，从而拥有一种“类情感”。“类情感”的产生通过对周遭事物的观察并且传输到中心系统，再由中心系统中的情感系统进行分析，最后输出相应的情绪反馈。可以看出人工智能“类情感”的产生过程其实与人类的情感在大脑中的产生过程极为相似。而两者的区别在于，人类情感产生的源头是自身内在的生理和心理的冲动，而机器人的情感源头则是人类的技术。拥有情感系统的伴侣机器人是目前设想中最为理想的模型，也是用户群体最为期待的，能够满足他们的情感需求。

伴侣机器人的“类情感”的产生过程和反馈过程与人类情感过程是极为相似的。那么在人机交互的过程当中，首要的一步便是为伴侣机器人寻找到合适的道德地位。伴侣机器人的道德地位，决定了人类采取怎样的态度去对待伴侣机器人。伴侣机器人与以往的人工智能和人造物的不同，为伴侣机器人寻找道德地位，无法从以往的案例中寻找较为可靠的依据。因此只能从现有的具体问题入手，逐一针对事实和社会中所持有的不同态度进行分析。

第一个问题就是当人对伴侣机器人产生情感依赖是因为这个伴侣机器人满足了他某一方面或者多方面的需求。人们可以根据自己的需要随意选择伴侣机器人外表功能或者性格。当机器人的外表不再满足人的变化的审美的时候，就更换它的外表，亦或在性格上不再满足个人的需求，就选择重新植入想要的性格程序。这样看起来貌似人与机器能维持一段理想而完美的关系，使人对于伴侣的期待能够得到最大程度的满足。

但是，在这样的关系中，人机双方真的是基于情感而产生的伴侣关系吗？笔者认为不然，这种情感依赖的基础在于人工智能满足了人的需求，同样的，上文中用户提到的“安全感”或是“舒适感”的来源，亦是如此。在这样的关系中，伴侣机器人所扮演的角色并不是伴侣，而是工具。首先伴侣机器人作为人造物的本质，能否到达与人类自然进化而来的生理情感相同且是个疑问。再者这种“满足”与“被满足”的单向关系，不是也不能够成为人类社会所鼓励的伴侣关系。

哲学家汉斯·约纳斯曾针对科学技术对于人类和自然的改造，提出责任伦理学思想。他认为人类生存的威胁大多来自于人为的灾难，如战争、环境污染、由于生活方式造成的疾病、现代高科技带来的灾难、思想观念上的危险等，而大多数灾难都与科学技术有关。“现代技术——它以对自然日益深化的渗透为特征，并受到市场与政治力量的推动——已经把人的力量凌驾于一切已知或可以想象的东西之上。”[3]203约纳斯的这一观点，与如今人类所面临的局势如出一辙。伴侣机器人既是人造物，但又绝不同于以往的人造物。在这个问题上人类首次站在了一个类似于造物主的位置。这种造物主的优越感和对科学技术的狂热，淡化了原本的忧患意识。有意无意的侥幸，也使得我们在面对新事物的时候，更加愿意着眼于积极有利的部分，而刻意避开缺陷。这样一来，科技成了带领人类走向灾难的开端。当技术达到最为骇人听闻的高度时，就是人类任意创造地球上的物种，完成对自然的最终征服，把人变成了技术的对象。通过技术复刻和模拟人类生理和心理结构制造伴侣机器人的行为，就属于其中的一种情况。[1]203

当人类沉浸在使用机器人优于人类的体能、速度、精确度等生理能力之后，又进一步想要通过伴侣机器人来满足人类自身的情感依赖。这些狂热的目标都是人类想要“把自己的进化掌握在自己手里”的思想的反映。这样的行为迫切需要伦理学的反思和质疑——人类有资格扮演造物主的角色吗？人类的自然净化过程是一个缓慢而耐心的过程。从四肢行走到直立行走，从茹毛饮血的原始时期再到辉煌的文明时代，每一个时期的经历远远不是在书本当中的一小段文字，每一次质的改变都是千万年甚至亿万年量的积累所得来的。因此自然净化的过程绝不是简单的社会和技术的进步，更重要的是在漫长的优胜劣汰的过程当中，人类的生理经历过无数次与自然的磨合。人类的意识，也逐渐成为这个过程当中文化积淀和背景的综合体。最重要的是，人类的道德和伦理体系是在这个缓慢的过程当中形成并且传承的，这样一种道德体系，很难通过技术的整合，输入将要成为人类伴侣的机器人。[1]205

随着现代技术的进步，经历几十年，人类就能利用技术制造出高度模拟人类外观和行为的伴侣机器人，而且这个时间会随着技术的进步而逐渐缩短。现代技术的“进化”使得进化过程大为缩短，对于科技的狂热和对这个宏大的事业的期待，使得人类不再容忍耐心和缓慢，压缩了进化的许多细碎步子。[2]所有研究者都争先恐后地想要得到质的进步，使用者和消费者渴望看到人类创造的最高级的智能体，科技兴奋和对突破人类自身限制的渴望，让我们有了对伴侣机器人的盲目期待。

四、结语

在笔者写下这篇文章之时，人工智能的时代其实已然来领。这其实并不全然是一件坏事，笔者的这篇文章也绝不是想要反对这一趋势。如前文所提到的，人工智能确实在体能、速度、运算、记忆等很多方面突破了人类自身的局限，人工智能的加入也使得人类社会的发展有了全新的可能。但是这些可能当中，不包括伴侣机器人。伴侣机器人的特殊性，使其不能与其它单一能力的工作机器人一概而论。

伴侣机器人在一段亲密社交关系中取代了真人的位置，本身作为被输入体的它，阻隔了人与人之间的经验互换；其次因为伴侣机器人高度类人的特点，在人与其相处的过程当中，模糊了人机的边界，与人类交往时的习惯会带到人机交往当中，而和机器人的相处模式也必然会影响与真实人类的相处；再次，就目前而言，人类对于伴侣的渴望和依赖出发点是满足自我某一方面需求，如此就决定了在这样一段关系中，人机是处于不平等地位的，绝对的满足与被满足的关系使得伴侣机器人并没有获得“伴侣”的地位，而实质上只是工具。[3]

这样的一种不平等、不健康的相处模式和伴侣关系是现代文明所不应当鼓励的；最后，人类经过亿万年的进化至今，依然未能克服很多人性上的缺陷，那么人类又何以成为“造物主”去创造一个类似于人的新“物种”来加入人类社会呢？道德认识决定了道德观念，道德观念总要转化为道德行为实践，而道德行为则需要道德知识。[4]这其中的任何一个环节出现问题，都可能造成道德的崩塌。人类几乎不可能让伴侣机器人拥有人类的道德，也不能使其在交往过程当中做出符合人类社会的道德判断。在这样的情况之下就贸然让伴侣机器人成为人类社会甚至是人类家庭中的一份子，与人类亲密接触，无疑是一个巨大的冒险。

综上，伴侣机器人无论是开发和研究，还是在与人交际，被人使用的过程当中，其本身都是存在伦理缺陷的。在全力以赴取得技术突破之前，解决这些伦理上的缺陷恐怕才是当务之急。否则也许真的如霍金所言：“成功制造出人工智能机器人将可能成为我们历史上最后一个里程碑”[5]。

注释：

①资料系笔者根据腾讯出品的新闻采访节目纪录片《明天之前》第一集整理而得。《明天之前》纪录片的网址为：http://v.qq.com/detail/d/d08f9goqdsj398h.html.