机器人怎么可能拥有权利

甘绍平

机器人怎么可能拥有权利

甘绍平

本文从机器人拥有权利的技术障碍和道德难关两个层面，批驳了那些声称机器人拥有道德权利的所有理据，论证了机器人不是人，人对机器人不存在道德问题，机器人自己也不会制造道德问题，机器人也无法做出道德判断。本文旨在于借助机器人有无道德权利问题，为阐述道德的功能、权利的享有所需具备的前提条件，道德权利的契约论基础、人同机器人关系中所体现出的主人与工具之固有地位的不可错位、人的私密的心灵花园的不可触碰等伦理学里的一些重要话题，提供一个新的机会与样本。

机器人；道德权利；道德判断；契约论；心灵花园

人工智能的飞速发展，不仅极大地改善了人类的生产与生活方式，增强了人类的智慧与感知世界的能力，而且也激发并推出了机器人的道德地位这样一个伦理学的新课题。不少自然科学家及社会科学家均声称，机器人虽是机器，不是人，但鉴于机器人所拥有的超强的智能以及一定的情感水平，人类应赋予它以某种道德权利，将机器人当作人来看待；反之，如果滥用和虐待它，则呈现出人类的残忍与非人道。有关论者甚至借用甘地的名言——从一个国家对待动物的态度可以判断这个国家及其道德是否伟大与崇高，推出所谓从一个国家与个人对待机器人的态度，可以判断这个国家与个人及其道德是否伟大与崇高，并且声言所谓尊重机器人，就是尊重人类自己。把机器与道德关联在一起，把机器推置到一种令人生畏的道德高度，展现出当代伦理学界的一道从未有过的奇观。本文直截质疑这场机器人权利运动，主要目的还并不是批驳那些论证机器人拥有道德权利的所有理据，而是在于借助机器人有无道德权利问题，为阐述道德的功能、道德权利的契约论基础、人同机器人关系中所体现出的主人与工具之固有地位的不可错位、人的私密的心灵花园的不可触碰等伦理学里的一些重要话题，为之提供一个新的机会与样本。

一、机器人拥有权利的技术障碍

机器人虽然拥有智能，但这种人工智能与人类智能相差极大。人的大脑分左脑与右脑，左脑负责记忆、运算、简单的推理；右脑则承担发散性思维、超强的想像力与艺术审美。而人工智能只是在模仿人的左脑功能，机器人装备着由人类为它编制好的程序，以概率论为形式化的运算框架，搜集海量数据并在记忆中加以储存，然后对新的信息识别辨认，将之与储存库的数据进行匹配对比，最后得出结论或做出相应的决断。因而机器人可以算术、记忆、弈棋、诊疗、翻译和判案；在某些能力方面（如计算、记忆）完全可以超越人类的极限，成为我们良好的辅助工具。但是，机器人的智能所体现的仅仅是一种演绎智慧，它只能够对符号进行一种形式化的加工，只能够对数据进行无理性、无情感的枯燥处理，不论它有多强的感知能力、深度学习能力以及一定的自主生成行为的能力，它也不过是对人类的某些认知行为的模拟并以软件方式使之得以实现。能够对符号进行加工的机器人并不能理解符号的语义本身，无法领悟自己动作的意义与后果，不可能对环境进行识别并与外在世界产生互动。作为人类智能的物化，机器人的智能与人类的智能之间存在着一道无可逾越的鸿沟。

人类既拥有左脑也拥有右脑，正是凭借一些特殊的认知模块使得我们能够进行复杂的语言呈现、长远地规划、抽象地思考，从而具备高水平的创新思维、高度的情感介入和敏锐的解决问题的能力。具体而言，首先，人类具有将声、像、味等信号上升为认知，将共性的现象提炼为规律的抽象概括能力、想像力。智能的本质并不在于知识，而是在于想像。知识总是有限的，情形无法排除例外的产生，机器人只能应对类似的情形而无法处理例外带来的冲击，而人类则有能力从相对少量的数据中获取更具深度的抽象，从少数经验里赢得有用的结论。依凭想像力人们就可以概括世界一切事物。几岁的儿童，大人给他指一指什么是猫，下次他就能够识别。其次，人类拥有将丰富的阅历凝练成常识的能力，这种常识使得我们不会认为存在着骆驼可以从针眼里穿过的可能性。但机器人并没有这种常识。同时，经过长期深邃的思考，人们还有可能产生顿悟发现，这种复杂的神经活动积累而成的体验，对于机器人是不可想象的。再次，在人的抽象能力、常识能力的共同作用下，人类还形成了极高的信息整合能力。凭借大脑中各种功能模块的紧密联系与交互作用，人类拥有将世界各种事物间无数错综复杂的关系纳入到高度整合的单一系统中的能力。对于同一个犯罪嫌疑人的图像，机器人可以清晰把握其颜色、边缘、纹理以及面部特征的细节，而人除此之外还可以抓住图像中各个因素之间的复杂联系，其相互之间是否协调与合乎情理，并通过对面部特征的观察瞬间推断或识别出其年龄、性别、种族、表情及心理状态。人类的观察与机器人的观察不同，后者的信息结构化、单一化，并且封闭和有限，而前者则有能力在复杂的信号环境中分辨出有用的信息，运用各种感官捕捉感觉信号，调动大脑中以往积累的知识和记忆的经验，整合成一幅紧凑连贯的外界图景。这一图景不仅是对外界客观对象的一种直接反映，而且还渗透着观察主体的主观意欲、情感直觉及至理性思维等因素的复杂交织。人类的思考与机器人的思考不同，后者仅仅体现为一种简单的逻辑运算，而前者则得到人的内在因果性机制与意向性因素的驱动。当问道蜂蜜水与白开水哪个好喝的问题，我们会立即综合运用嗅、视、味、触觉能力，对两者在香气、色彩、味道、质感等方面进行虚拟比较，依据我们自己的主观好恶来作答。

由此可见，在机器人智能与人类智慧之间，横亘着一道无可逾越的鸿沟。机器人只能处理记忆和复制人脑中可以客观化的信息，而人类意识、内心活动、爱恨情仇、是非观念、审美体验、宗教信仰等灵性活动，不仅形式上似是而非、极不稳定，且内容上只可意会无可言传，是不能通过文字、符号得以表达的。正可谓我们所知道的（所指）要比能够说出来的（能指）丰富万倍。这就导致了机器人的智能永远也无法超越和取代人类的智慧。机器人无法识别双关语，无法理解人的语言及动作的暗示效应，不具备复杂环境下随机应变的能力，对彼此矛盾或含混不清的信息束手无策，在视觉、动态和直觉等方面难以实现突破，完全缺乏常识、创造力、想像力、预测力以及抽象概念与知识的提取能力，因而不可能应对复杂变量和动态条件下在无穷选项中做出选择的课题，更谈不上运用自由意志以及装备的道德知识在道德两难中做出正确的抉择。于是，从技术的可能性角度来看，机器人的智能与人类的智慧完全不可同日而语，就此而言奢谈机器人的权利完全是无谓之举。

二、机器人拥有权利的道德难关

以上我们从技术条件的限制上论证了机器人的智能与人类智慧完全不可等量齐观，机器人永远无法获得人类所拥有的地位，因而议论所谓机器人的权利纯属无稽之谈。下面我们再从伦理学的角度探讨一下机器人不能得到权利的道德理据，我们会发现，机器人要想获得权利，面临着三道无可逾越的伦理难关。

第一，机器人不可能与人类签订契约从而相互赋予权利。我们知道，道德是人际交往的行为规范，尽管这些规范有时也涉及到人类之外的生存物，但道德的适用范围从根本上讲被锁定在人与人之间，因为道德规范只有在人类大家庭内部才能得到发现、建构、理解、交流和遵守。而人之所以需要有道德，则完全是出于对人类福祉本身的维持与呵护。与道德的这种对人类利益的保护之功能相类似，权利也是人际之间建构而成并相互赋予的，人们建构权利的目的在于使自己基本的利益得以切实的保障。所谓权利，是行为主体针对某项利益的一种有效性的要求。这一定义包含着两个要素：首先，行为主体不仅对这相关利益拥有要求，而且还必须能够提出该项要求。假如该行为主体尚未成熟，那他（她）长大之后也必定能够提出。如果某个行为主体因疾病之故永远失去了心智成熟的机会，则由于当事者属于人类大家庭中的一员，故其他人仍然可以作为监护者和委托人，替其提出此项要求。其次，这项针对某种利益的要求是有效的，这种有效性意味着他人或者相关主管承担着对此要求必须认可、不得拒绝并且使之获得满足的义务。权利把权利载体置于一种与权利应答者的应当行为的关联之中，权利应答者有义务使权利载体的要求得以实现。一旦权利要求得不到满足，则当事人就可以提出控告，从而使权利的实现获得保证。由此，从权利本身的本质界定来看，权利的建构与相互赋予，只有可能发生在人与人之间。因为只有人才拥有感受性和自我意识的能力——人能够自我辨识，将自我从世界以及其他个体区分开来，洞悉自身的行为与思想，通过自传体记忆而把自身理解为是随着时间推移的不间断的存在，是一种历史延续的单独个体；只有人才具备自主性，即他可以自主地自我维持、拥有自己独特的目标，不受他者的外在设定、确定与支配；只有人才拥有意向性，他可以在行善与作恶之间做出自主的选择，并为此而承担应有的责任。这些能力造就了权利对于人类的专属性，即只有人才可能运用这些能力签订有关权利的契约并且相互赋予权利，最后采取措施使权利要求得以保障。如果说连某些具有高度意识能力的动物都无法享受权利，那么只能进行逻辑推演、没有最简单的欲望和情感反应能力的机器人的所谓权利，就更是无从谈起了。

第二，机器人作为人类工具这一原初地位无法改变。有人会讲，目前机器人的确不具备人类这样的智慧，因而无法与人类签订有关权利的契约，但科技的发展或许并不排除有朝一日机器人获得与人类缔约的能力，如果机器人哪一天真的可以走进与人类的契约，并且认同人类的权利同时承担满足对人类需求的相应义务，那么我们人类是否应当赋予其某种权利呢？我们的回答明确而又坚定：不能。所谓赋予某一对象以权利，就意味着必须满足其要求。这一要求是一种自在目的，独立于它之外的其他行为主体。换言之，认可机器人有权利，就等同于承认机器人是自在目的，而这就触动了人与物之间的根本区别。人与物之间的根本区别在于人是自在目的，而物则是人实现其目的的手段与工具。人作为自在目的，同时也就意味着人可以将人之外的其他存在物，包括动物、植物、无机物作为实现自身目的的工具与手段。对于一些高级动物，出于同情与不忍我们可以体会其生存的需要而避免其遭受残忍的对待和无谓的痛苦，但是动物无论有多高级也无法逾越人与动物的界线而获得与人类同等的自在目的之地位。这就解释了我们可以尽力减少高级动物的医学试验，但很难做到绝对的禁止。我们认可动物的感受性、动物的福利以及某种意义的自我目的性，但这种认可不是绝对意义上的，从绝对意义上讲，动物处于人类的工具的地位，在遇到极端两难之时，牺牲动物保护人类体现了一种重要的道德要求。总之，只有人与人之间方可建构共同的游戏规则，这也表明人类智慧与权利具有唯一性和排他性。自启蒙运动以来，人们树立起了大写的人的独特地位，确定了人是唯一的主体，也是唯一的目的。这样也就从一定意义上标示了现代与中世纪之间的本质界线。依此，人类之外者，本质上皆属于人类的工具。这一划界难以撼动、不可逾越。在作为人的工具的地位这一问题上，具有一定自我意识的动物姑且如此，更不用说人类自己制造生产出的机器人了。机器人是人类创生的无机体，与有机体维持生存、繁殖后代的本能与目的性不同，机器人没有自身的目的。因为机器人的被设计是依照“如果—那么”单一逻辑，而不是“如果—也许”多值模式。它的所有行为均源于其背后人类编写的程序和发布的指令，它的能力取决于人类事先设置的逻辑理路。这样，无论机器人的智能如何追赶人类的智慧，它的某些运算能力如何远超人类的心算，也改变不了它是我们人类设计制造出来、为我们所用、是我们的工具这一原初的地位。如果有人硬是主张赋予机器人以权利，从而使之因具有自身需求而成为自在目的，进而改变作为人的仆从的地位，甚至达到与人类处于平等的关系，这种将工具作为自在目的来保护甚至有可能导致人是机器人的手段的本末倒置的做法，无疑是极其非理性和荒谬的。这导致了最为严重的异化现象而与人类的根本利益背道而驰，也违背了道德的功能在于保护人类的利益这一基本宗旨，因而是反道德的、反人类的。有人在论证机器人应当拥有权利时，声称目前大部分拒绝赋予机器人权利的做法，会随着时代的发展而出现变化。理由是人类历史上经常有某个种族或某些人群被排除在权利保护之外，而经过努力这些人群最终还是争取到了他们的权利。这种论证完全抹煞了人与物之间的本质区别，其结果并不能提高物的价值，而是实实在在降低了人的地位，损害了人的尊严。即便是有朝一日机器人有可能具备与人类签订契约的能力，我们也要阻止这种事态的发生，让机器人永远成为人的手段与工具，从而维护人类的根本利益。

第三，机器人并不拥有不容破解的内心秘密。如前所述，机器人想要获得人类那样的权利，就必须具备人所拥有的全部智能作为资格。这不仅包括逻辑演算，而且也涵盖情感情绪、顿悟冥想、灵感涌动、道德判断、思维的跳跃、心灵的自发自主等这些与机械思维相异质的精神功能。对于机器人而言，要做到这一点不仅几乎没有可能性，而且还会遭遇到如下两种逻辑困境。首先，如果机器人可以具备道德意识，则我们不可能设置它可以择恶，因为让它可以伤害我们人类，这当然是荒唐的。但如果我们设置它只能择善，那么它就是一种被决定、被操控的东西，没有自身的自由意志，从而沦落为人的工具的地位，这样它也就没有资格要求获得权利。其次，更为重要的是，如果机器人要获得人那样的权利，就必须具备人类所有的精神特质，包括像人那样拥有内心中不容触撞的精神秘密。随着神经生物学以及微观探测技术的发展，人们在研究脑区与人的行为关联、大脑中精神活动的物质表达方式方面，在探讨精神在大脑中的相关神经学特征方面，取得了长足的进步。如人们发现大脑中的前额叶与高级智力活动相关，前额叶发达者拥有较高的智商和较强的自制力，而损伤者则会丧失道德感甚至发展成痴呆患者。前扣带回在处理认知冲突时发挥重要作用，若活跃度低，则易酗酒和犯罪。利用磁振造影（MRZ）来判断一个人的真实感受，在科学上也不是不可能。然而，人类最核心也是最崇高的区域是其心智。即便是人类的意识、情感活动可以转换成物理的、神经的、粒子的等可探测的物质表达，但人的心灵中最隐秘的部分仍然是难以破解。不仅是难以破解，而且更是不允许破解。因为通过解析和操纵神经元来阅读人的心理活动，是对人的隐私与尊严的挑战。与机器人的逻辑运算不同，人的算计与思考是客观逻辑加上主观直觉融合而成的结果，充满着理性与情感的复杂交织。这取决于人的精神与意志的自发性，这种自发性是每一个人区别于其他人的基底，与每一个人独特的历史经历、成长记忆、价值观念、兴趣偏好密切相关，从而造就了此人的特异性、唯一性、不可复制性、不可替代性、独一无二性。正是基于这种自发性，人们对同样一个事物就会有完全各异的观察结果。这种自发性是私密性的，许多内容都具有无法言传、难以意会的特征，因而无法共享与交流。建立在人的自发性基础上的人的最内在的心灵活动，包括本源性的初始冲动、无拘无束的内心体验、最深沉的审美感悟、至高无上的精神境界等等，构成了每一个人自己的内心小花园，这一私密的心灵花园任由自己单独看护和管理，不向任何人敞开，不容任何人触摸。从外在看，它呈示了此人不同于他人的特殊标识。从内在看，它构成了当事人获得幸福的重要源泉，正可谓幸福的秘密就是这种自由。我们以前经常说，人的尊严在于精神的不可侮辱性，在这里，我们还可以说，人的尊严恰在于心灵活动的隐私性与不可触摸和不可操控性。这样就很好理解，任何形式的读心术，只要其旨在透视人的内心秘密、揭开心灵花园的所有隐私，都是绝对需要被禁止的。原因就在于一切能够洞悉人的内心隐秘的技术应用，都意味着对人的尊严的贬损。因而我们可以通过立法来防止人类受到这种探测技术的侵扰。

然而对于机器人，我们则会遇到一种两难困境。如果机器人要获得人类那样的权利，那就要求我们将机器人当成人来看待。如果说人拥有秘密的心灵花园，所以才能具备自由意志施展的空间，从而才能做出道德抉择，那么机器人也得保有和维护其自身秘密的心灵花园，才能获得与人同等的道德地位，这就意味着我们人类作为机器人的制造者，不得发展读心术破解机器人的内心，不得透视其心灵内在的秘密，从而保护其自在的尊严。但是如果我们真的这样来对待我们自己制造的产品，对我们的造物不允许解析，不可以透视，禁止探究其内在“秘密”，那就是极其荒谬和不可理喻的了。从技术上这也无疑是一种天方夜谭式的幻想。因为机器人是被人所造的，其储存计算是形式化实现的，信息与指令的获取是外在性的，信息的处理过程是被设计的、可复制的，任何内容逻辑上都是开放性的、可共享的。同所有人造产品一样，机器人本身的一切都是可理解、可揭示、可透视的，没有任何秘密可言，更不存在什么不可触摸的神圣领域。从机器人不可能拥有隐秘的心灵花园、一切都被人类所洞悉和把握这一点来看，机器人就无法配享根植于人的心灵活动的自发性、隐私性和不可掌控性之基础上的人类尊严，因而也就不可能享有只有人类才能拥有的权利。

三、结束语

机器人是机器，不是人，因而无法享有人所拥有的权利。人与机器也无法形成道德关系。故人如何对待机器人，严格说来都不存在任何伦理问题。机器人是机器，不是人，没有自由意志，不可能做出自主的道德抉择，它可以形式地执行人的蕴含道德要求的指令，但它自己并不懂得任何道德意义。由于机器人不是道德行为主体，故机器人本身也不会生成任何道德问题。所谓让机器人道德化，不过是人的道德意志与要求借助于物而得到实现而已，作为物的机器人并不明白什么是伦理问题。有人说飞机上用于确保安全或安保的自动警报装置，便是一种暗含伦理考量的机器，这不过是一种拟人化的形容性说法，该装置只是机械地完成设计者的设置指令，它自己根本不懂得保护人命的道德原理。同样道理也适用于机器人，许多人热衷于让机器人识别伦理，将道德规范转换成逻辑演算，依照伦理规则系统对不同利益进行计算权衡，从而提供每一种选择不同结果的概率。即便是技术上的障碍能够全部克服，这也并不意味着机器人可以“懂得”伦理，它不过是机械地执行人的预制性的指令，如只歼灭战斗人员和摧毁军事设施，避开平民百姓等，这里根本就谈不上所谓机器人本身的伦理敏感性。而让机器人“自主地”运用道德规则来对应复杂的应用情境，即将伦理系统嵌套进机器人的大脑中，使之可以依据伦理原则在具体场域中进行抉择，更是一种天真的幻想。道德判断是一种极为复杂的心智活动，其驱动力不仅在于理性的反思权衡，而且也在于直觉的情感体验，因而道德判断深受个体化的人格特质与精神状态的影响。特别是遇到道德两难、伦理冲突的情形，即便是在人与人之间也是判断不同、答案各异，很难形成共识性的结论。假如人都无法做出清晰的正确抉择，怎么能够苛求机器人通过我们编写的道德程序，自行给出一个正确的答案呢？当人遇到极为复杂的两难困境时，究竟应当遵循此种道德立场，还是应当听从彼种伦理规范，究竟是应当恪守法律规定，还是应当绝对保障人命的安全，这些都有待于当事人通过对具体环境、利益轻重、行为可能、选择后果等各种各类因素的精细评估和整体考量，做出一种合宜的决断。而这种复杂的道德权衡与伦理抉择，是机器人所根本无法承担的。总之，机器人不是人，人对机器人不存在道德问题。机器人不是人，它自己也不会制造道德问题。机器人不是行为主体，它也无法做出道德判断。

我们越是研究机器人，便越能感受到人类智慧的珍贵、神妙和值得敬畏，而不是通过对机器人赋予权利来贬损人的地位。权利的享有需要具备前提条件，在不拥有相应能力的情况下赋予动物、机器人以权利，便是权利的泛化与对权利的滥用，这种做法只能给人类利益造成无法承受的损害。同理，机器人的智能只是借助于人类智慧得到开发并获得装备的，即便是机器人可以进行一定程度的自我进化，这也并不意味着人对这种进化的方向与速度失去可控性。假如机器人可以进化到成为拥有生命意识、自我生存欲求和发展目标能力的新型物种，我们就必须及时阻绝这种事态，绝对禁止这种可能提出权利要求的失控物对人类利益造成威胁与损害，这是我们触及与机器人相关的伦理道德问题时的核心关切之所在。

甘绍平，中国社会科学院哲学所研究员，中国特色社会主义道德文化协同创新中心首席专家。