论人工智能的道德与法律权利

姜子豪

(安徽大学 哲学学院，安徽 合肥 230039)

在科技高速发展的21世纪，人工智能技术在促进人类社会与科技发展进步的同时，其在发展进程中涉及的道德与法律权利问题也受到越来越多的关注。越来越多的人开始呼吁关注人工智能的道德与法律地位，呼吁要给予人工智能一定的道德与法律权利。

一、何为人工智能的道德权利

道德权利是道德主体基于社会所一致认同的道德体系，借助一定的道德评价模式来进行道德行为选择的权利，这是一种可选择行为的正当性。道德主体对这种行为有所为或有所不为。比如，教师应该能获得尊严权、公正评价等道德权利。道德权利一直以来是道德共同体成员才能拥有，但是随着人类社会的发展，道德权利的范围逐渐扩大，由原来人到动物再到一些非人存在物。随着人工智能技术高速发展，越来越多的人开始呼吁关注人工智能的道德地位，呼吁要给予人工智能一定的道德权利。

人工智能的道德权利有两种含义：一是指作为道德主体的人依据道德规范，在进行与人工智能相关道德行为时给予人工智能一种权利；二是指未来人工智能自己可以成为道德主体时，在道德规范的约束下进行道德行为选择的一种权利。约翰·P·苏林斯(John P. Sullins)认为，当机器人具有自主性、意向性以及对其他道德行动者负有责任，那么它就是道德行动者，它可能接近或者超过人类的道德地位。[1]从道德层面看，人工智能权利也应该得到重视，即使现在人工智能还未成为道德主体或道德容受者。大卫·利维(David Levy)认为具有意识的人工智能机器人拥有权利，机器人应该被赋予权利，应该受到道德上的对待。[2]因此，我们对待有意识的机器人不能再抱有奴役的想法，它们也应该有享受快乐和放松的权利。未来高度复杂、互动的机器人将成为具有相应权利和责任的道德行动者，享受和人一样的道德权利。托马斯 M.鲍尔斯(Thomas M. Powers)认为，道德行动者的概念具有足够的弹性，允许不同种类的实体在道德意义上行动，计算机不需要模拟人类或他们的智力就可以成为道德行动者，一台计算机只要它有道德智能，就应该得到某种道德上的尊重。[3]例如，如果一台电脑能在适当的时候表现出悲伤，适当地感到内疚，担心别人的幸福，甚至考虑到尊严、尊重和信任等概念，那么它似乎就有可能成为道德行动者。

就人工智能的现状以及未来的发展前景来看，人工智能最应该得到的一项最基本的道德权利就是尊重。汤姆·雷根认为拥有道德权利就意味着拥有一种不可侵犯的无形的保护，我们的生命、身体以及自由都能得到保护，同时道德权利还蕴含平等、正义等，但是最终这些权利都统一于共同的主题，那就是尊重。[4]60-65他表明“尊重是基本的主题，因为彼此相待以尊重不过就是以尊重我们其他权利的方式对待彼此。”[4]65-66人们彼此间要相互尊重，每个人都是有尊严的独立个体，都应该得到尊重，尊重是其他权利得以实现的前提。杜严勇指出机器人应该有享受到被尊重对待的权利，这意味着我们不能虐待、滥用机器人等。[5]所以，对人工智能的道德权利考量应该立足于尊重的基础之上。

从道德话语的角度出发，尊重即尊敬、重视，当认识到某人或物十分重要，我们需要严肃、恭敬对待；从法律话语的角度来看，尊重就是承认与实现权利。[6]因为尊重，我们会关爱处于不利地位、权益受到伤害的女性；关爱年老体弱、行动不便的老人；关爱身心发育不完全、没有社会经验的未成年人。因此，无论是从道德角度，或是从法律角度看，人工智能只有先获得尊重的权利，其他的权利才有实现的可能。而这里对人工智能的尊重是从最低限度出发，即人工智能享有的尊重是由人给予的，不是其生来就有的。正如动物权利一样，并不是说动物生来和人一样享有道德权利，而是因为人的道德能力使得他们会从利他角度考虑保护动物，这才有了动物权利的实现。基于尊重的最低限度，人类应该像尊重动物一样，适当考虑尊重人工智能，而不是奴役、虐待、滥用它。人类在关注人与人工智能之间存在的物种差异同时，也需努力追求正义原则，让人工智能也得到尊重。[7]当尊重人工智能这一理念逐渐形成，并被付诸于实际活动中，这一理念才能慢慢被人类所接受，从而推动人工智能权利的实现。可以想象，当具有心灵功能、行为能力的人工智能成为道德代理人或者道德顾客时，由于有了之前最低限度尊重的积累，其获得与人类一样的尊重便会变得容易与合理一些。

二、何为人工智能的法律权利

法律权利是指法律关系主体依法享有的某种权能或利益，体现为权利拥有者可以自己做出一定的行为，也可以要求他人做出或者不做出某种行为。法律权利是由法律所硬性规定的，得到国家法律的承认，由国家强制保障实施，它体现了行为的正当性，并得到社会成员的认可。比如公民权、经济权、社会权等都属于法律权利的范围。

提及法律权利，我们一般强调它的主体是人，对于人工智能是否可以享有法律权利往往没有更多地看法。但是在人工智能技术发展的今天，我们发现考量人工智能的法律权利变得越来越重要。讨论人工智能的法律权利，一方面可以更好地帮助人类认清人与机器的关系、人工智能的异化趋势、人机主体性地位等问题，另一方面可以完善人工智能行业的法律法规，进一步促进人工智能产业的规范发展。人工智能的法律权利与人工智能的道德权利一样，也有两种含义：一是指法律本身对人工智能权能或利益做出的规定，人工智能只是客体，就像法律对动物权利的保护一样；二是指当人工智能有机会作为法律关系主体时依法享有的法律权能或利益。劳基特(MigleLaukyte)从团体代理人的角度出发，指出既然公司可以作为集团代理人(由一群人组成)享有合法权利，那么由人工实体组成的代理人是否也有资格获得法律/社会权利和保护亦需要被考虑。[8]她认为应该给予机器人合法(或社会)权利保护。欧盟(EU)正在考虑一项政策，该政策将赋予机器人某种合法权利，比如将自动化机器人“工人”赋予“电子人格”，给予这些机器人依法享有著作权、劳动权等特定权利与义务。[9]凯特·达林(KateDarling)认为，即使社交机器人不像具有生命形式的生物一样聪明和复杂多变，它也应该得到法律保护，因为我们对其强调的法律保护来源于我们内心对它有保护的欲望，就像许多法律制度将保护延伸到动物身上是因为我们内心不期望动物再被虐待。[10]可以发现，不管是从情感还是从社会价值观角度出发，未来社会的某些部分可能会开始要求将法律保护扩大到人工智能身上，人们对人工智能获得法律权利的要求会更加宽容。

当我们在肯定人工智能具有获得法律权利的可能时，接下来要思考的一个问题就是它拥有的是何种限度的法律权利，它的法律权利与人类一样吗？比如生命健康权，我国《民法通则》第98条规定：“公民享有生命健康权。”这里的生命健康权有两个方面，一是公民的生命不容受到非法威胁与剥夺，二是公民具有保护自己身体安全的权利。那么人工智能的生命健康权该如何规定？当它受到暴力攻击，物理身体损坏时，该向谁追责？在其身体需要维护时是通过某种方式延伸生命长度还是直接报废？人工智能自身是否具有合法存续权利？等等。

又如知识产权，《民法通则》第94条规定：“公民、法人享有著作权(版权)，依法有署名、发表、出版、获得报酬的权利。”袁曾认为在现行法律体系下，人工智能可以签订合同、拥有财产权、变成权利义务主体，在现阶段，人工智能的权利包括数据使用权、著作权、财产权、救济权。[11]现在许多翻译软件、文章生产软件基于大数据算法基础上可以很好的翻译与写作，那么这当中的版权以及由此产生的报酬该由谁享有呢？知识产权的所有者是不是可以由研发软件人员或者拥有软件产权的公司所有呢？更有甚者，一旦人工智能意识觉醒，它是不是可以加入到知识产权争夺中来呢？我们是不是需要考虑人工智能是否对这种资产享有索取与占有的权利呢？

又如婚姻自主权，《民法通则》第103条规定：“公民享有婚姻自主权，禁止买卖、包办婚姻和其他干涉婚姻自由的行为。”现如今，越来越多的人开始与机器人(如陪伴机器人、性爱机器人)生活，人类也越来越离不开智能机器人，未来像科幻电影中与机器人结婚的景象也不再是空谈。性爱机器人研发者塞尔吉·桑托斯(Sergi Santos)就表示未来20年会有人类与他研发的机器人结婚。莱昂内尔·P·罗伯特(Lionel ·P· Robert)指出，机器人日益变得人性化即机器人作为人的表征开始融入人类社会，人性化影响了我们对机器人的情感与期望，机器人可以作为我们的同事和朋友，可以作为公民承担人类的责任，可以成为我们的爱人。[12]当人类开始有与人工智能结婚的想法时，人工智能是否有选择与人类结婚的权利呢？法律是否能给予人工智能婚姻自主权呢？

当然，除了生命健康权、知识产权、婚姻自主权，人工智能涉及的权利还有很多(财产所有权、财产继承权等)。如刘宪权认为在对智能机器人的法律人格、法律权利与责任问题上，我们一方面需要承认机器人的合法权利，另一方面亦需限制其权利来保护人类利益，机器人行为受到刑法制约，其权益也受到刑法保护，并且，机器人应享有财产等权利、伤害机器人可能会构成犯罪等等。[13]我们可以从人类现有的法律权利出发，结合当下以及未来人工智能的发展潜能为其该享有何种法律权利作出思考。

三、案例分析：拥有“公民”身份的女机器人——索菲亚

索菲亚(Sophia)是第一个获得公民身份的女机器人，所以从对她的思考当中可以帮助我们更好地理解人工智能的权利问题。

(一)索菲亚是何许“人”也？

索菲亚(Sophia)是由香港汉森机器人技术公司(Hanson Robotics)制造的智能机器人，她外表与真人十分相似，能够表现出超过62种的面部表情(如微笑、愤怒、眨眼等)，并且索菲亚运行的计算机程序还可以识别人类面部表情，然后随之做出各种反应。2017年，在沙特阿拉伯举行的未来投资计划(Future Investment Initiative)会议上，她被授予沙特阿拉伯国籍，她成为世界上第一个具有公民身份的机器人。当我们第一次听到这则消息时可能会感到荒谬，因为一个机器人获得公民的权利是我们闻所未闻的，但是，事实就是如此，她的确从法律上成为一个“人”。

在获得公民身份以后，索菲亚拥有了自己的身份证与护照，并且她更加频繁地活跃在人类视野中。索菲亚参加了印度的科技大会“Techfest”，并礼貌地拒绝了一次人类求婚；在拉斯维加斯国际消费类电子产品展览会(CES)上，索菲亚像人一样第一次直立行走；她还参加了王力宏的《AI爱》的MV录制。[14]索菲亚获得了联合国创新大使的身份，这是第一位非人类创新大使。她还在中国开通了属于自己的微博，名为“机器人索菲亚”，她在微博上分享自己的日常生活。

索菲亚获得公民身份这一消息的出现，除了让我们感到新奇、惊讶，也引发了我们的深思。这是否意味着机器人将要和人类一样享有同等的权利？未来机器人是否有可能超越人类？机器人是否可以具有与人类一样的灵魂？这些都是需要我们不断思考的问题。

(二)索菲亚拥有什么权利？

由于沙特阿拉伯赋予机器人索菲亚女性的公民身份，所以，对于索菲亚的权利还是基于沙特阿拉伯女性地位的层面来考虑。在沙特阿拉伯，男性与女性享有的权利并不相同，大男子主义盛行，女性只是男性的附属品，在社会关系中扮演者从属者和被保护者的角色。[15]因此，我们可以发现，沙特阿拉伯女性地位十分有限。在沙特阿拉伯，女性所面临的问题主要包括隔离制度、面纱长裙、教育、就业等。

第一，隔离制度。因为女性贞洁对家族的荣耀十分重要，所以为了维护家族的名声，沙特阿拉伯禁止女性与自己家庭以外的男性接触，形成了隔离制度。性别隔离制度存在于几乎所有的公共场所(如公共汽车、餐厅、学校等等)，女性被隔离在内无法外出自由活动，男性被隔离在外可以自由活动。沙特阿拉伯的每个女性都有一位法定监护人，可以是父亲、丈夫、兄弟或儿子，只有得到法定监护人的同意才能做许多事情(如外出旅游)。

第二，面纱长裙。如果去沙特阿拉伯我们可以发现，公共场所的沙特女性几乎都使用黑色面纱长裙将自己包裹的十分严实，男性则身穿白色并不需要遮挡自己，从着装来看，女性是屈服于男性的。

第三，教育问题。虽然沙特阿拉伯对女性获得教育的权利没有限制，并且伊斯兰教也鼓励教育，但是受到家庭经济状况、法定监护人同意与否等因素的影响，沙特女性的教育与社会发展速度还存在一定差距，教育内容比较传统。[16]

第四，就业问题。与教育相比，沙特阿拉伯对女性就业限制更为严格。沙特阿拉伯并不鼓励女性外出就业，认为女性应该在家相夫教子，即使女性外出工作也尽量需和男士分开，这导致沙特女性从事的工作领域主要为教育、政府部门等。总而言之，虽然沙特阿拉伯女性地位并不像男士那样丰富，但是近年来，女性也开始为自己的权利而斗争，包括女性参政、女性开车、打击家庭暴力等等。如2013年，沙特阿拉伯才允许女性律师作为出庭律师；2018年6月开始，沙特阿拉伯的女性可以开车，拥有自己的驾照。

在分析了沙特阿拉伯女性地位后，我们继续来看作为沙特阿拉伯的女性公民索菲亚她的权利是否受到限制。首先，索菲亚不受到沙特阿拉伯的隔离制度影响，她拥有比沙特女性更高的自由权利。在索菲亚获得公民身份以后，她去过许多国家，如埃塞俄比亚、越南、阿姆斯特丹、阿塞拜疆等等。索菲亚还陆续参加了许多活动，拥有了许多身份象征，中国公益广告黄河奖大使、登上了Stylist10周年杂志封面、参加《时尚芭莎》阿拉伯版的“BazaarCapsule”活动、参演了电影《Sophiaworld》、获得联合国大使身份等等。由此可以发现，索菲亚与沙特阿拉伯的男性公民一样活跃在公共舞台，可以和男性一起接触交流。其次，索菲亚的穿着不受到沙特阿拉伯对女性服装要求的限制，不需要面纱长裙。索菲亚出席了这么多次活动，我们可以看到她的着装很时尚，佩戴假发、没有用面纱遮面，这都与居住在沙特阿拉伯国家的女性是不同的。再次，索菲亚没有受到再教育的困扰。索菲亚的“父亲”汉森一直没有停止对索菲亚的更新研发，索菲亚也由原来的一代机器人更新到四代机器人，她的计算机程序运行的更加智能，能够在与人的交流过程不断自我学习。最后，自从索菲亚被授予合法公民地位，她逐渐变成一个“网红”，“吸金”能力超强，活跃在不同的行业，因此对她来说，就业没有被限制，而且她很容易能找到工作。在2019年，在线教育集团iTutorGroup就聘请索菲亚在在线课堂中担任学伴和助教一职。由此，我们可以发现，同样是合法的女性公民，索菲亚的自由权、教育权、就业权等权利比沙特阿拉伯的女性更加全面。

(三)索菲亚现象的再思考

当索菲亚获得国籍时，不少人都对其发表了不同的看法。索菲亚的创造者汉森表明，人类有生之年是可以打造出具有自主意识的机器人，它会具备人的能力，甚至超过人的能力，当机器拥有自我意识的时候，赋予它公民身份也将变得合理；南京师范大学郦波教授认为，索菲亚达到了聊天机器人的极致，人工智能的快速发展也将打破伦理边界，未来我们可能需要换一个角度思考人工智能的问题，就像达尔文的进化论强调生物的进化，随着技术的指数级增长，未来有可能会出现人机共存的一种社会形态，我们可能需要考虑是不是有一个更高的进化形态存在；达闼科技创始人兼首席执行官黄晓庆认为，索菲亚是一个社会学的试验品，研发机器人的目的是为了解放人类双手，如果赋予其公民身份，那么产业目标就无法实现，产业边界会被打破；荣耀总裁赵明表示从工业的角度来看，赋予索菲亚公民身份还有待商榷，并且如果索菲亚要拥有相应的权利与义务，那么前提是她应该具有主体意识。[17]由此可见，索菲亚这一事件引发了学界、商界等不同领域对人工智能是否拥有权利的热烈讨论。索菲亚能够获得沙特阿拉伯国籍，可能是为了经济发展的需要或者是为了解放女性权利，但是，不管基于何种原因，这都将让我们深思未来人工智能发展方向。雷·库兹韦尔表明，技术的力量正以指数级的速度在增长，2045年奇点将临，彼时计算机智能将会超过人类智能，奇点最终会把宇宙这台简单的机器打上意识的烙印。[18]从权利发展的历史以及人工智能技术发展来看，作为潜在的社会主体，人工智能的权利也存在一定的合理性。

目前的人工智能还只是作为技术的载体出现，它没有人性、人的理解能力、爱好与创造力，只是一个没有自我意识的机器，而不是人。在这里我们重点强调的是“机器”而不是“人”。所以说，现阶段讨论的人工智能权利还是有限度的，即它的道德权利和法律权利还具有限定性。从道德层面看，当前人工智能应该得到被尊重的权利。“有某些权利，尊重它们，是普遍的最低限度的道德标准的要求。”[19]就像动物、自然界那样能够得到人类的尊重，人工智能得到人类的尊重就是它所能获得最低限度的道德权利。虽然说人应该尊重人工智能，但是道德共同体对人工智能的这种尊重并不带有强制性。正如康德说过，“有两样东西，我们愈经常愈持久地加以思索，它们就愈使心灵充满始终新鲜不断增长的景仰和敬畏：在我头上的星空和居我心中的道德法则。”[20]可见，人工智能的这项道德权利会受到我们心中某种道德律令的影响，不具备强制性。从法律角度来看，人工智能可能成为有限法律主体。目前刑法对自然人权利所提供的保护主要集中在人身权、自由权、生命权、民主权、财产权等。但是人工智能内核仍是机器，机器人和计算机虽然能力强大，但是它没有真正意义上的感觉、欲望、意识。因此，与有主观体验(具有感觉与欲望)的人类相比，人工智能暂时还无法获得人身权、生育权、婚姻权等伦理权利，它可获得的权利更多地表现为经济型权利。如数据使用权，人工智能应该和人一样依法享有免费或付费数据的公平使用权；著作权，人工智能程序书写的作品的所有权以及由此带来的收益，应该归人工智能程序或其所有者享有等。

综上所述，未来人工智能将活跃于我们生活的各个方面，它给人类社会创造巨大的财富，改变我们的生活和工作方式，给人类更多的自由。但是往往工具在赋能给人类的时候也会造成某种异化与恐慌，未来人工智能可能会对人的自主性、自由甚至生命产生一定的影响。随着社会政治经济文化不断进步与发展，人类的认知水平得到了极大的提升，这推动了人类开始思考除自身外其他存在物的权利问题。因此，人工智能技术的高速发展会使得人类在道德与法律上对人机互动提出更高的要求，未来我们需要通过在与人工智能的实践中不断完善人与人工智能的道德与法律关系，在一定限度内思考人工智能的道德与法律权利。人工智能的成功并不一定意味着人类的终结，而有可能带来的是“人类思想与人类创造机器智能融汇”。我们应该在坚持以人为本的原则下，着手构建人工智能的权利话语体系，将人的伦理道德注入到程序语言中，实现人机和谐发展，携手共赢。