张志坚
摘要:人工智能的自主性、交互性和深度学习能力,决定了其既不是物,也不是人,而是介于人与物之间的客观存在,其本质不在于工具性,而在于财产性。对于人工智能致害、获益及其生成物归属难题,将责任、收益以及权利完全归于任一单方主体的方式并不合理,通过保险将风险全部社会化亦有失公平。考虑到人工智能具有财产方面的意思能力和责任能力,但不具有人身性人格,其自主行为背后体现的也是多方主体的意志,以财产性人格的进路将其拟制为电子法人,既是可行的,也是必要的,未來的民法典应该对此有所回应。人工智能在特定领域可自为意思表示、自负行为后果,因其“擅自”行为背后是多方主体混合意志的体现,须按相应比例在多方主体之间分摊权责,从而实现法人之责任有限与权责分摊的目的,且不危及人类自身安全和主体支配地位。
关键词:人工智能;主体资格;财产性人格;电子法人
中图分类号:DF51
文献标志码:A
DOI:l0.3969/j.issn.1001-2397.2019.05.06
开放科学(资源服务)标识码(OSID):
能否赋予人工智能(ArtficialIntelligence,简称AI)主体资格,使其以民事主体身份参与社会经济生活?这是民事主体法律制度面对人工智能的飞速发展亟待回应的重要问题。一般认为,人的主体性与物的客体性的区分和对立是近现代民法体系构造的基础和前提,但当科幻小说中的机器人、生化人进人我们的生活,其智能程度已经复杂到可以在一定程度自主地和人类亲密互动时,民法应将其置于什么位置一物动物还是半自由人[2]?这值得探讨。
一、人工智能拟为电子法人的法理基础
谈及人工智能的起源,公认是1956年的达特茅斯会议[3]。有研究者认为,人工智能是以研究、开发用于模拟延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的科学技术[41。有的研究者认为,人工智能是人机环境系统交互的产物5。2017年12月12日,在美国通过的《人工智能未来法案》(FutureofArtificialIntelligenceActof2017),对人工智能重新进行了定义,认为人工智能系像人类一样思考、认知规划、学习、交流或采取行动的智能系统,或尝试达成认知任务的一系列技术,或能够理性行动的智能软件代理和类人化机器人。一般认为,自主行为和深度学习是人工智能的两个核心特征。随着人工智能的发展,其自主性和学习能力会越来越强,甚至有可能进化出自我意识2。虽然人工智能最终能否获得自我意识未有定论,但法律在人工智能领域应该要有超前性,为未来社会的发展提前预留空间。反观当前对人工智能民事法律地位的讨论,要么过于保守,固守传统的人、物与主体、客体相对应理论,以及人工智能的民法属性是物、本质是工具等观念;要么过于超前,在强人工智能③甚至是超人工智能阶段进行臆想。殊不知,强人工智能阶段的法律至少要在人类与人工智能的共同参与下制定,而在超人工智能阶段④,人类是否继续存在都是问题。因此,我们应该秉持一种务实的态度,将讨论的范围限定在人工智能从弱到强的过渡期内,再来探寻其法律地位的法理基础。
具体来讲,可将从弱人工智能到强人工智能的过渡期再细分为初级、中级和高级人工智能阶段。初级人工智能与弱人工智能的区别在于:弱人工智能是辅助人类完成任务,而初级人工智能则能自主地完成任务,通过深度学习能自行生成新的算法,不再是简单地辅助人类完成工作,而是可以在某一领域完全替代人类。比如无人驾驶汽车⑤,其可以替代人类充当“驾驶员”。不过,初级人工智能只是在某一特定领域能完全自主行为并远超人类,系在单一领域超越人类的“专才”。当它在财富管理方面也超越人类时,比如将智能投顾的功能注人无人驾驶汽车,则它可以实现行动自如和财产打理。在此基础上,它可以通过与人类交流、交互之后进行创作,初步具有类似人类进化的关键要素(直立行走和使用语言)。也就是说,当人工智能兼有驾驶、财富管理和创作等功能后,则进人中级阶段,系在多个领域超越人类的“多才”。当人工智能在通用领域均超越人类时,则为进人高级阶段的“通才”。此后,若其能获得自我意识具有真正的情感和理解力,则为强人工智能。然而,强人工智能时代虽然满载人类的憧憬,但其曙光并未出现,包含道德、自由和自我意识的强人工智能设想存在根本性错误,这也说明我们期待的强人工智能或许是一一个伪命题!6]。有鉴于此,笔者认为当下所讨论的“人工智能”应限于过渡期内的初级、中级和高级人工智能。
(一)人工智能是介于人与物之间的客观存在
人工智能不是人。与具有生命的碳基体——民法上的自然人不同,人工智能是硅基体,其不具有人的生物质,机器人就其生成机理来说不可能产生生命和生命权[7],无论其进化到哪个阶段,也不可能成为人。不过,人工智能具有理性能力。比如无人驾驶汽车不会“醉驾”“怒驾”,其理性更强和反应更快等优势将使交通事故概率大为降低。正因为无人驾驶汽车的系统在控制驾驶行为时比人类更理性,所以才让它高度自主,无需人类驾驶员适时接管而完成所有驾驶行为,此为其一。其二,人工智能还具有交互性和唯一性。无人驾驶汽车作为初级人工智能,可以感知周围环境并适时调整其驾驶行为,其交互对象主要是环境物体,与人类主体之间的交互性不强。然而,随着人工智能的优化升级,在进人中级阶段后,则可以自如地与人类交流,通过交互而呈现差异,每个人工智能都会因“成长”环境的不同而作出不同的“后天”行为,具有唯一性。
人工智能也不是物。人工智能是由系统软件和硬件设备构成,其功能作用的发挥主要依靠系统。而民法上的物一般是指有形物或自然力,但系统却是无形的,在不断地变化与升级,特别是到了高级阶段,系统的运行将变得像人脑一样捉摸不定。同时,人工智能是人类以自己为标准创造出来的,是一种兼具智慧与超强能力的存在形式,也不属于自然力。因此,人工智能并不属于民法上的物。因机器人具有交互性、自主性和适应性,机器人不是产品或物品,而应被视为动物[8]。笔者认为,处于低级阶段的人工智能相当于电子奴隶,会听人类的话,但并非完全置于人的控制下,因为行为是由它自己作出的。而到了更高的阶段,人工智能的自主性增强,类似于野生动物,人类对其控制力越来越弱,但人类在总体上拥有决定性的控制权,世界仍应是人类主导下的社会结构,法律也仍应是一种以人为本的体系建构。
由上可见,人工智能既非人,亦非物,而是一种类似于动物的客观存在。有学者认为,民法对市民社会的所有物质构成,就区分为人和物两种表现,在市民社会的构成中,要么是人,要么是物,舍此并无其他物质表现形式[9]。然而,现实中存在既非人,亦非物的物质表现形式,如体外胚胎。因为体外胚胎有可能变成人,但如果认定其为物,而物又是不可能变成人的,故其不能被认定为民法上的物。当然,由于它尚未发育成独立的人,也就不属于民法上的人。有学者认为,体外胚胎是生命的種子,不是物,也不是人,与人有关,与物无关,应受到比物更高的道德尊重[10]。因此,随着科技的进步,民法上传统的人、物两分理论受到严峻挑战,不仅体外胚胎是一种非人非物的物质存在形式,而且动物亦如此。早在1990年,德国就针对动物的民法属性问题,在其民法典中做了修订,修改后的第90a条规定:“动物不是物。根据特别法对动物予以保护。只要没有别的其他规定,有关物的规定适用于动物。”也就是说,动物虽然不是物,但具有“近物性”,一般情况下仍适用物之规定。
人工智能不仅行为自主,而且具有超强的学习能力和理性能力,相对于动物而言,它更具有“近人性”①,是一种比动物更高级的存在形式。不过,人工智能毕竟不是人,无体外胚胎所拥有的人身性利益,这也是人工智能所不应触及的底线与边界。进一步而言,人工智能是一种介于动物与体外胚胎之间的客观存在。既然动物和体外胚胎都不是民法上的物,也就没有理由将人工智能视为民法上的物。因此,我们不应简单地将人工智能看成是民法上的物,进而认定其为客体③。退一步讲,即便可以将人工智能视为民法上的物,也不表明它就是民事客体,人、物与主体、客体之间并不存在必然的对应关系。尽管现代私法的基础建立在罗马法人物二分的状态下,主体性也是在物我两分的状况下建立的“”,然而,主客体之间这种不可逾越的鸿沟现在正发生动摇[12]。同时,“主体一客体”的两分法并不等同于“人一物”的两分法,不构成法律主体的事物并非必然落人物的窠白”[13]。反之,民法上的物也并不必然成为民事客体。随着时代的进步,法律关于法人、胚胎和动物权利的讨论,扩大了法律人格的适用范围,因此出现了“没有脸庞”的权利主体4。因此,在基因工程、纳米材料以及人工智能等科学技术高度发达的今天,仍严格固守传统民法上的人、物与主体、客体相对应的理论以及人工智能的民法属性是物的观念,就显得有点不合时宜了。
(二)人工智能的本质是财产而非工具
关于人工智能是否为工具,肯定说认为,人工智能本质上受自身算法决定“[15],没有自身的目的[16],仍然是一种工具,只不过它比其他工具先进而己[17];否定说则认为,智能机器人执行复杂的认知任务,在自主决策状态下,机器人不仅仅是工具[18],其拥有自我意识和规划生活的能力[19],权利意识将觉醒于机器人体内[20]。笔者认为,人工智能并非完全受人类控制的工具。工业革命解放了人的体力,人工智能将解放人的脑力。人类掌握对人工智能的终极控制,比如开关键、切断电源等,但对于人工智能的运行过程及结果并不完全掌控。因为人工智能具备自主学习能力,比如阿尔法狗可以自动生成算法,下一步棋该如何走,完全由其自主决定。换言之,人工智能的智慧远超人类,正是因为人类给了人工智能充分的自主权,从而造成其运行过程及结果可能无法预测②。而人工智能的自主性越强,给人类带来的便捷程度也就越高。
有学者认为,“为了能够使人工智能更好地作为服务社会的工具”,应赋予人工智能“工具性人格”③,笔者认为此类观点值得商榷。尽管人工智能最终是为人类服务的,具有工具性的一面,但基于人工智能类似于动物,我们不应简单地将其视为工具。一方面,由于人工智能具备智力上的学习能力,因此它改变了过去使用者和工具之间形成的单向服务关系,也改变了人工智能只能作为工具的单纯身份[21]。申言之,人类与人工智能之间互为对象,人类的智慧、情感等成了人工智能分析和学习的对象。另一方面,工具最大的特点在于辅助人类完成任务,然而初级阶段的人工智能在任务执行中是起主导作用,人类反而是起辅助作用。因此,如同不能把动物看成工具一样,也不应将人工智能的本质定性为工具。
人工智能的本质是财产。人工智能与动物最为接近,动物也拥有自主行为具有一定的学习能力,比如模仿人类的动作。虽然动物也会被人类当作工具利用,但动物在民法中主要是被看成一种财产,而非人类可以任意驱使的工具。财产不仅包括物,还包括行为(债)和权利,是物的上位概念。因此,虽然人工智能不是物,但有可能被纳人财产范围。在强人工智能阶段之前,由于人工智能不具有自己设定目标和真正理解自己行为的能力,尚不能意识到自己的存在,故其无关人身关系,但关乎财产关系。因为人工智能可以被买卖、处分,是一种会说话会思考、会自主行为的财产。
当然,从某种意义上说,仅有自然人才是目的,被拟制为主体的法人也是实现目的的一种手段,即工具。笔者并不否认法人具有工具的一面,但是法人还有更重要的一面,那就是财产。归根结底,法人不过是财产的集合体,所处理的也仅为财产方面的法律关系。然而,与工具不同的是,财产含有“近人性”的一面,比如野生动物作为一种财产,它们至少具有生存的目的。又如,古代的奴隶也被看成是财产,他们的目的就不仅仅是生存的欲望了。而工具则侧重于“近物性”的一面。由于人工智能的自主性,与人类的交互性以及理性思考能力,表明其具有“近人性”。因此,将人工智能的本质认定为工具其实只看到了其“近物性”的一面,而忽视了其“近人性”的一面。
二、人工智能可以获得民事主体资格
民事主体与人格密切相关。“人”是指民事权利主体,“格”是指成为这种主体的资格,所谓人格者,民事权利主体资格之称谓也[22]。一般认为,意思能力和责任能力是获得民事主体资格的实质要件,而获得法律承认则是成为民事主体的形式要件[23]。人工智能是硅基体,与碳基体的人类不同,不具有人的生物质。然而,法人作为被拟制的主体,同样不具有人的生物质,所以人工智能是否具有生物质并不影响其能否成为民事主体。从“人可非人”到“非人可人”的发展史来看,民事主体只是社会需要的法律形式,法律对民事主体的承认是基于现实需要,根基在于以人的利益为中心的功利主义,生命和伦理并非成为民事主体的必然要求②。也就是说,人工智能只需具备意思能力和责任能力,即可获得成为民事主体的资格。
由上可见,赋予人工智能独立的财产是必要的,也是可行的。因为上述多方主体与人工智能致害或获益具有相关性,通过他们出资、设立赔偿基金以及人工智能自身获取收益等多个渠道,可以保障人工智能的收入来源。
三、人工智能成为电子法人的可行性
从我国《民法总则》第2条“民法调整平等主体的自然人、法人和非法人组织之间的人身关系和财产关系”的规定来看,与人格相关的,无外乎人身利益和财产利益。因此,可以将人格分为人身性人格和财产性人格。所谓财产性人格,是指该主体的意思能力和责任能力仅限于财产方面,而不能及于人身。从“人可非人”到“非人可人”的发展史来看,人身性人格可被剥离,具有财产性人格即可获得成为民事主体的资格。一般而言,除自然人具有人身性人格外,其他民事主体仅有财产性人格。也许有人认为,法人也有名称权之类的人身性人格。但笔者认为,法人所拥有的名称权、作品署名权等,本质上也是财产性人格,因为法人的名称权可以进行转让,而人身性的事物一般是不能进行交易的。其实,给法人设定名称,是为了便于识别,更主要是因为该名称会产生财产利益,而不会有人身利益。否则,侵害法人名称权就要承担精神损害赔偿责任,这显然是荒谬的,而自然人的姓名则不同,其一开始便具有人身利益。另外,法人也不可能承担人身性的义务和责任,当法人的作品侵害他人著作权时,要求法人承担赔礼道歉等人身性的责任,没有意义。因此,只有自然人主体才有人身性人格,法人的本质是人为拟制的为实现一定目的的工具,法律不应在人身方面赋予其人格。2016年5月,欧盟议会法律事务委员会提交了一项动议,建议至少考虑将最先进的自主性机器人定位为“电子人”(ElectronicPersons),赋予它们“特定的权利与义务”。笔者认为,人工智能的本质是财产,具有财产性人格,但无人身性人格,其意思能力和责任能力仅限于财产,而不能及于人身,所以应归人法人范畴,可以成为新型法人型民事主体一电子法人,而要成为自然人型主体——电子人,是行不通的。
人工智能的本质是财产,而财产特定化、拟人化或将财产作为民事主体,立法上早有先例,这不仅体现在罗马法早就将国库、寺院视为权利主体[22]3-9,而且大陆法系国家的慈善组织、基金会大都是由财产构成的一种财团法人,而我国《继承法》中的遗产,尤其是遗产的限定继承,就存在被视为“权利义务主体”的空间@。法人并非仅是社团法人的“人的意志的集合体”,亦可以是“财产自身的集合体”③。既然法律可以赋予不能说话、没有意识的国家、公司婴儿、无民事行为能力人、自治城市和大学等以法律资格,可以设定它们的保护人或代理人,为什么法律不能赋予自然物体以法律资格[27]事实上,立法早有将船舶拟人化的实践④,并认为船舶是准法人⑤。因此,在现有法人制度体系下,增设一种特别法人——电子法人,是可行的。基于《民法总则》已有“特别法人”的规定,笔者认为,这也不会对现有民事主体制度造成冲击和损害。因人工智能自身具有可为一定意思表示等特殊性,所以可参照“是一种经济上的主体,还具有一定的政治性”[28]的特别法人一农村集体经济组织法人,将作为电子法人的人工智能归为“特别法人”。当然,电子法人与财团法人、社团法人都拥有独立的责任财产,三者的责任能力相同,但因意思能力不同,与之对应的运行方式也就不同。
首先,社团法人财团法人对外的意思表示均由自然人代为,而人工智能可以在特定领域自为。例如,被设计成可以独立签订合同和在市场上进行小额度买卖的交易型人工智能,其与他人订立合同或进行交易的行为是自己作出并生效的,善意相对人无需征得其法定代表人的确认或追认。也就是说,基于人工智能与其他主体的利益[29],需赋予其法律人格,以使通过该系统订立的合同具备强制执行的正当性基础[30]。然而,在该特定领域之外的意思表示,则需由其法定代表人代为。可问题是,由谁担任其法定代表人比较合适?笔者认为应根据人工智能所处的不同阶段适当调整其法定代表人。形象地说,初级、中级、高级阶段的人工智能有点类似于野生、驯养、灵长(濒危)动物。初级人工智能的自主性强,但交互性不强,其行为主要还是“先天的”,此时最密切的利益相关人是开发制造者,由其担任法定代表人比较合适。随着深度学习能力的提高,中级人工智能的交互性增强,能与人类交流并受周围环境和人类行为的影响,其行为受“后天”影响比较大,故由直接管理它的主人(一般情况下是它的购买者)担任法定代表人比较合适。而到了高级阶段,人工智能在大多数领域都远超人类智能,自己可以作法定代表人。但是基于安全考虑,人工智能及其核心平台是不宜落人任何个人或私企手里的31,故高级人工智能应由国家掌控。当然,国家可以委托具体的人或组织对其进行监管。
其次,人工智能背后的人的意志是一种混合意志,既不同于财团法人之设立人的单独意志,也不同于社团法人之社员的共同意志。人工智能的拟制路径是电子法人,电子法人是法人的一种。而法人是一个团体,任何一个团体必须包含两个要素:人和财产[22]7。即便是财团法人,其背后也有人的意志。财团法人无成员可言,但离不开处分和管理这些财产的人的意思和行为[22]9。同样,人工智能背后也是人的意志,而且至少包括开发制造者购买者以及国家三方。以无人驾驶汽车为例,数据、平台、路况监测等一般是由国家掌控,国家主要是从公共利益的角度,比如在安全和秩序方面注人自己的意志,而开发制造者的意志是为了获取收益,购买者则是为了享受更好的服务。另外,人工智能可以自己生成算法,根据该算法对外作出的行为完全有可能独立于以上多方主体的意志。因此,人工智能的背后混合了人类主体之有目的性的意志和人工智能自身无目的性的意思。虽然人工智能可独立对外为意思表示,但其自主作出的行为实际上是受这种混合意志所间接左右的。
由此可,见,人工智能作为电子法人,与社团法人和财团法人在意思能力方面存在较大差异,具体详见下表。
再次,人工智能作为电子法人,有其独特的运行方式。人工智能既可能致害,也能获取收益。且电子法人并非财团法人,其兼具营利和公益目的。因此,对内应按营利性社团法人的模式运作。开发制造者、购买者以及国家等主体应以股东名义出资,以出资为限承担责任,并按出资比例分配收益。而且,法律应规定人工智能法定代表人的出资比例要占绝对优势,比如超过50%的股份,以使其更好地履行最大限度维护电子法人利益的职责,为人工智能谋求最大利益。至于其他股东的股份占比,可以协议确定。国家(比如無人驾驶汽车中的交管部门)、购买者、开发制造者应该是法定的股东,参与分红并分担责任,并履行监督管理以及出资等职责。对外的运作模式比较复杂,需根据人工智能自身情况的不同而作出不同规定,但至少应明确以下两点:一是对人工智能自己可为意思表示的领域范围进行公示并登记;二是要实时向社会公开其责任财产的具体数额。由此,人工智能以电子法人身份对外发生财产关系时,既可能是它自己为意思表示,也可能是由它的法定代表人代为意思表示。另外,电子法人具有一定的公益性质,对外并非完全以营利为目的。
需要强调的是,由于人工智能致害或获益至少关涉三方主体,由任何一方完全承担或独享均不合理,而应分摊。又由于人工智能的擅自行为是技术进步的结果,科以任何一方无限责任亦无依据。当然,责任有限并不表示受害人不能获得充分救济,更不表示责任人可以借此逃避责任。因为设立电子法人时,相关责任人应按其利益相关度进行相应比例的出资,出资数额应超过估算的足额赔付范围。另外,国家还应设立赔偿基金,电子法人也应以自己的名义购买保险以分散风险。所以,将人工智能拟制为电子法人,归根结底,其实是为了实现法人之责任有限和权责分摊的目的。
此外,将人工智能拟制为电子法人也是出于维护人类自身安全,确保人类在人工智能领域具有控制和支配地位的理性选择。民事主体可分为支配性主体(自然人)和工具性主体(法人、非法人组织),法人非法人组织主要是基于现实需要,比如为了实现责任有限的目的等而人为拟制的一种工具。自然人则不同,自然人作民事主体主要是建立在人类中心主义的基础之上,是出于对人类尊严的保护,这就是仅需要具有生物质这一个要件就可以成为民事主体的原因所在,目的就是为了确保人对万物的支配地位。然而,人工智能并不完全为人类所支配,亦非完全为工具,而是一种财产性主体,它的本质属性是财产,而非工具。这种财产性主体其实是介于支配性主体与工具性主体之间的。笔者将其拟制为电子法人,倾向于法人等工具性主体,而不建议将其拟制为限制民事行为能力人或其他自然人这种支配性主体,其实是出于维护人类安全的考虑,令其只能是为实现人类目的的一种工具,与之有关的所有权利、义务和责任都限定在财产方面,而不能给予其一丁点的人身方面的自由。否则,它从这些人身性权利义务的交互中获得意识和觉醒,那后果就不堪设想了。因为人工智能与野生动物一样并不完全受人类的控制,而且从事的是本该由人类主体做的事,比如驾驶汽车、創作作品以及管理财富等。申言之,人工智能与动物主要是提供物质性价值(比如供人类吃穿等)不同,它为人类提供的主要是一种精神性的价值,人类设计人工智能并不是为了要消费它,而是利用它的智能为人类完成一定的行为和工作,它的智能思维过程以及理性行为等才更有价值。所以,在赋予人工智能主体地位时,我们必须要慎重,不能将本来就在往人类精神方面逼近的人工智能拟制为类似于自然人的支配型主体,否则将危及人类自身。
四、人工智能成为电子法人的必要性
将人工智能拟制为电子法人,主要基于以下两点考虑:一是人工智能的发展带来现有法律制度框架难以解决的问题,比如无人驾驶汽车侵权责任的承担、人工智能创作的收益归属、人工智能交易行为的效力等问题。二是将人工智能拟制为电子法人可以解决与人工智能利益相关的多方主体责任有限问题,实现多方主体对人工智能自主行为产生的权利、义务和责任按相应比例的合理分摊,即权责分摊。以无人驾驶汽车侵权责任承担问题为例,学界主流观点认为现行交通事故侵权责任制度难以继续适用,不少学者认为应主要适用产品责任或物的责任追责。也有学者认为,为了更合理、有效地对智能机器人造成的损害分配法律责任,严格责任、差别化责任、强制保险和赔偿基金、赋予智能机器人法律人格等都是潜在的法律方案;但立法者或者法院最终选择何种方案,需要进行全方位地论证,以便实现法律的利益平衡目的[32]。笔者认为后一种观点更为中肯,权衡之下,赋予人工智能电子法人地位是最佳方案,理由如下:
首先,将驾驶系统定性为产品并不合理。无人驾驶汽车发生交通事故是由系统操控,驾驶系统并不是民法上的物,而是一种具有“近人性”的客观存在,既非人,亦非物。所谓产品,主要是无人驾驶汽车有形的设备及零部件,当这些产品有缺陷、瑕疵时,应适用产品责任追责。可是,驾驶系统并非产品,而造成交通事故主要是因驾驶系统的行为导致。而且,驾驶系统具有自主性,也只有高度的自主才能实现无人驾驶,由此极大降低交通事故的概率,并给人类生活带来巨大的便利,所以这种自主性是符合国家技术标准的。若非人工智能自主行为所生损害,比如人类的过错(比如操作失误)、产品本身的缺陷或瑕疵受害者自己原因、第三人侵权(比如黑客攻击)等,则由负有责任者承担相应责任,传统侵权理论足可解决。问题是,真正发生交通事故的主要原因并不在此,而是因驾驶系统自主操作而发生,是其自主性的当然表现。对于无人驾驶汽车自主行为所生损害,开发制造者可依“技术中立”原则而主张免责。因此,将驾驶系统视为产品一物,进而主张由开发制造者对系统因自主行为导致的损害承担产品责任,既不合事实,也有悖法理。
其次,适用产品责任并不能解决责任难题。一是证明产品存在缺陷以及缺陷与损害之间的因果关系既困难又昂贵②,这是技术高度发达所带来的结果,特别是当无人驾驶汽车的自主行为致损时,更不能苛求完全由生产者一方负责,因为无人驾驶汽车的自主行为与多方主体存在利益相关性。二是运用法理或其他辅助办法,亦无法从根本上解决适用产品责任所带来的困境③。笔者认为,适用产品责任追责,在法理上根本就不是一种合理的解释路径,而且会导致开发制造者承担的责任过重,导致不公平,或者受害人不能获得充分救济等新问题。归根结底,最为根本的原因还在于将驾驶系统定位为产品,漠视了其“近人性”的一面。
再次,不赋予人工智能民事主体资格,适用严格责任等其他方案亦无法解决责任难题。采用严格责任、差别化责任、强制保险和赔偿基金等,注意到了人工智能侵权的特殊性,但均无法从根本上解决其责任问题。严格责任即无过错责任,对于人工智能自主行为造成的损害,无需证明存在过错亦可科责,这是对的。然而,由谁来承担无过错责任呢?由于人工智能自主行为的背后是多方主体意志的反映,难以苛求完全由任何一方主体担责。那么,是不是由各利益相关方平均分担就可以解决呢?笔者认为,由于各方主体与人工智能利益的关联程度存在差别,无人驾驶汽车作为初级人工智能,与其关联度最高的应是开发制造者,其分担的比重应最高,这就是应该对责任进行差别化,按相应比例分担的法理依据。另外,有学者认为,人工智能的风险不一定与产品缺陷有直接关系,反而与智能自主性有关,在法律技术上寻找产品缺陷和追踪过错发生之时空点都不太容易,将人工智能的风险社会化,通过强制保险或设立赔偿基金制度更利于问题的解决33。从这里可以看出,国家和社会应通过设立赔偿基金和强制保险的方式分担风险,但是,国家和社会没有义务将风险全部自担,无人驾驶汽车致害风险社会化不能作为唯一的选择。因为,对于无人驾驶汽车带来的便利和好处,国家并不是最大受益人,最大的受益方是开发制造者。根据报偿理论,即“谁享受利益谁承担风险”的法理,理应由各利益相关方按其利益大小分担责任。所以,严格责任等其他方案在不赋予人工智能民事主体资格的情况下,是无法.真正解决现有责任难题的。
最后,将人工智能拟制为电子法人是最佳选择。通过以上分析可以发现,现有法律制度框架无法解决责任难题的根源在于:一是人工智能具有自主性和交互性,其先天行为和后天行为与多方主体相关,不是任何单独一方主体所能完全决定的,这就要求各相关主体按相应比例分担责任;二是人工智能致害主要是其“擅自”行为所致,多方主体与其并无直接关联,而是他们混合意志间接作用的结果,这就有必要将多方主体责任与人工智能责任进行区隔,并实现责任有限。另一方面,无人驾驶汽车不但可能致害,也有可能带来收益,比如用于出租或共享而获取收益的商用无人驾驶汽车,这笔收益是否能由购买者独享呢?如果致害了,仅追究开发制造者的产品责任,而产生收益了,却完全由购买者独享,此举岂能公平公正?而且,无人驾驶汽车的投保主体是谁?被保险人是谁?遵守道路交通法规的人又应该是谁?同理,有如责任承担难题,人工智能创作作品的权利归属难题、人工智能交易员自主交易行为的效力难题等亦是如此。所有问题归根结底,实质就在于适格主体的缺位,只有将人工智能拟制为电子法人,将利益相关的多方主体意志糅合到一起,实现责任有限、权责相称并按比例分摊,才能从根本上解决责任承担、权利归属以及行为效力等难题。
五、结语
人工智能作为一种特殊的客观存在,在财产方面具有意思能力和责任能力,赋予其法人人格(即财产性人格)在理论上并无障碍,但因其不具有人身性人格,故将其拟制为自然人型的“电子人”并不可行。另一方面,人工智能的飞速发展带来了现有法律制度框架无法解决的人工智能侵权责任承担人工智能创作作品权利归属以及人工智能自主交易行为效力等难题。产生这些难题的根本原因是人工智能的自主性、交互性和深度学习的结果,其“擅自”行为的背后是多方主体混合意志的体现,所产生的权利、义务和责任不能完全由任何一方主体单独享受与负担,而应按相应比例进行权责分摊并使其责任有限,而要实现这一点,就有必要将人工智能拟制为法人型的民事主体,自然人没有这种功能。由此,将人工智能拟制为“电子法人”既是可行的,也是必要的。从而对于人工智能远超人类智能之特定领域,可由人工智能自为,其所产生的权利、义务和责任实际上是由吸收了多方主体意志的电子法人转承;在其他领域,比如诉讼或将人工智能作为财产进行处分时,则可由电子法人的法定代表人代为。总之,应以财产性人格的进路将人工智能拟制为电子法人,其根本理由在于人工智能的自主性要求其自负行为后果、自为意思表示,使交易高效便捷;更在于人工智能“擅自”行为的背后不可归责于任一单方主体,需要多方主体分摊权责,从而平衡各方利益,实现公平公正,促进人工智能产业的发展,迎合时代需要。
时下在民法典编撰正如火如茶进行的大背景下,有学者提出,由于自动驾驶系统的引人,在缺陷与因果关系认定方面面临着特殊困难,应考虑责任机制创新可能的方向和路径[25]128。然而,在人工智能创作作品的权利归属、人工智能自主交易行为的效力等方面,同样面临特殊困难,所有因人工智能的发展而带来的冲击是不是都要去创新机制?笔者认为,这将会带来很大的立法成本和法律之间的协调问题,也会使法律变得愈加复杂。相反,在现有法律框架下,在法人组织中增设一种电子法人,让人工智能以电子法人的身份参与社会经济生活,也许是一种解决问题的更好思路,不失为将复杂问题简单化的一种方法。因为人工智能作为电子法人只需进行角色替换,充当无人驾驶领域的司机、投保人或创作作品领域的作者等,即可落人既有的侵权责任、知识产权等法律框架内,不会损害当前的民事主体制度,法律只需有针对性地进行部分调整,就可将人工智能已经或将要带来的新问题进行妥善处理。另外,鉴于非自然人主体本质上只涉及财产关系的民法调整,笔者建议制定民法典时,一方面将《民法总则》第2条修改为:“民法调整平等主体的自然人之间的人身关系和财产关系,自然人、法人和非法人组织之间的财产關系。”2另一方面在《民法总则》第三章“法人”之第四节“特别法人”中增设“电子法人”内容,并在电子法人制度设计时采用分段拟制的方法,使其既能实现人工智能自主性和学习能力的充分发挥,又能促进交易秩序的安全稳定与高效便捷,更能保护好电子法人、受害人以及善意相对人等民事主体的合法权益。
参考文献:
[1]汪志刚.民法视野下的人体法益构造——以人体物性的科技利用为背景[J].法学研究,2014(2):93.
[2]苏永钦.民事财产法在新世纪面临的挑战[J].人大法律评论,2001(1):193.
[3]尼克.人工智能简史[M].北京:人民邮电出版社,2017:1.
[4]腾讯研究院,中国信通院互联网法律研究中心.人工智能[M].北京:中国人民大学出版社,2017:23.
[5]刘伟.关于人工智能若干重要问题的思考[J].人民论坛·学术前沿,2016(4):7.
[6]房绍坤,林广会.人工智能民事主体适格性之辨思[J].苏州大学学报(哲学社会科学版),2018(5):67.
[7]赵万一.机器人的法律主体地位辨析——兼谈对机器人进行法律规制的基本要求[J].贵州民族大学学报(哲学社会科学版),2018(3):147.
[8]LucianoFloridi,J.W.Sanders.OntheMoralityofArtificialAgents[J].Minds&Machines,2004(3):349-379.
[9]杨立新.人工类人格:智能机器人的民法地位——兼论智能机器人致人损害的民事责任[J].求是学刊,2018(4):91.
[10]刘士国.中国胚胎诉讼第——案评析及立法建议[J].当代法学,2016(2):4-10.
[11]VisaKurki.Animals,Slaves,andCorporations:AnalyzingLegalThinghood[J].GermanLawJournal,2017,18(5):1069-1088.
[12]梁慧星.從近代民法到现代民法[J].中外法学,1997(2):19-30.
[13]马丁.体外胚胎在我国民法上的应然属性及其价值考量——基于国情和社会发展趋势的分析[J].东方法学,2017(4):70.
[14]颜厥安.没有脸庞的权利主体——由法理学检讨生物科技与人工生殖技术[J].月旦法学杂志,1995(2):9-17.
[15]王利明.人工智能时代对民法学的新挑战[J].东方法学,2018(3):5.
[16]吴汉东.人工智能时代的制度安排与法律规制[J].法律科学(西北政法大学学报),2017(5):131.
[17]郝铁川.不可幻想和高估人工智能对法治的影响[N].法制日报,2018-01-03(10).
[18]ElviaAdriano,QuintanaArcelia.NaturalPersons,JuridicalPersonsandLegalPersonhood[J].MexicanLawReview,2015(8):101-118.
[19]F.PatrickHubbard.“DoAndroidsDeam?”:PersonhoodandIntelligentArtifacts[J].TempleLawReview,2011,83(2):419.
[20]HilaryPutnam.Robots:MachinesorArtificialCreatedLife?[J].TheJournalofPhilosophy,1964,61(21):668-691.
[21]陈景辉.人工智能的法律挑战:应该从哪里开始?[J].比较法研究,2018(5):144.
[22]江平.法人制度论[M].北京:中国政法大学出版社,1994:1.
[23]彭诚信.论民事主体[J].法制与社会发展,1997(3):17.
[24]冯洁.人工智能体法律主体地位的法理反思[J].东方法学,2019(4):43-54.
[25]冯珏.自动驾驶汽车致损的民事侵权责任[J].中国法学,2018(6):116.
[26]许明月,谭玲.论人工智能创作物的邻接权保护一理论证成与制度安排[J].比较法研究,2018(6):51.
[27]江山.法律革命:从传统到超现代——兼谈环境资源法的法理问题[J].比较法研究,2000(1):31.
[28]陈魁.民法总则评注(上册)[M].北京:法律出版社2017:701.
[29]JessicaBerg.Article:OfElephantsandEmbryos:AProposedFrameworkforLegalPersonhood[J].HastingsL.J,2007,59:387.
[30]UgoPagallo.Thelawsofrobots:crimes,contracts,andtorts[M].Springer,2013:154.
[31]冯象.我是阿尔法:论法和人工智能[M].北京:中国政法大学出版社,2018:209.
[32]司晓,曹建峰.论人工智能的民事责任:以自动驾驶汽车和智能机器人为切入点[J].法律科学(西北政法大学学报),2017(5):166.
[33]梅夏英.民事主体的抽象度问题及其对私法体系的影响[J].经贸法律评论,2019(1):99.
On the Status of Electronic Corporation in Artificial Intelligence
ZHANG Zhi-jian
( School of Law, Jiangxi University of Finance And Economics,Nanchang 330032, China)
Abstract : The autonomy,interaction and deep learning ability of artificial intelligence determine thatit is neither a thing nor a person, but an objective existence between people and things. Its essence is nottool, but property. For the problem of attribution of harm, benefit and product caused by artificial intelligence, it is not reasonable to completely attribute responsibility, benefit and right to any one party,and it is unfair to socialize all risks through insurance. Considering that artificial intelligence has the expression ability and responsibility of property, but does not have personal personality, and its autonomous behavior reflects the will of multiple subjects, it is feasible and necessary to draft it as an electronic corporation with the approach of property personality, and the future Civil Code should respond to this. Artificial intelligence can express itself and conceited behavior consequences in a specific field,because of the“unauthorized”behavior is a reflection of various main mixed will and must share the responsibilities between the various main, according to a certain proportion to achieve the purpose of legalperson of limited liability and responsibility allocation, and can ensure the dominance of human body and does not endanger mankind itself.
①有学者认为智能机器人可以作为刑事责任主体,应针对其特点设立特殊的刑罚处罚方式。(参见:刘宪权.人工智能时代下的刑事责任演变:昨天、今天、明天[J].法学,2019(1):79;刘宪权,涉人工智能犯罪刑法规制的路径[J].现代法学,2019(1):75.)
②拥有拟制人格的人工智能可以自己承担责任,从而可以减少人工智能的制造者和使用者的财产和法律责任。(参见:WendellWallach,ColinAllen.MoralMachines:TeachingRobotsRightfromWrong[M].Oxford:OxfordUniversityPress,2009:198.)
③正是这种通过使财产独立化而产生的限制责任效果,构成了设立法人的本质动机。(参见:迪特尔·梅迪库斯.德国民法总论[M].邵建东,译.北京:法律出版社,2000:815.)
④笔者认为无人驾驶汽车交通事故的潜在责任方,至少包括以下主体:软件开发商、汽车制造商.零部件供应商、汽车修理厂、使用者、车辆管理方、道路基础设施管理部门、交管部门、安全部门等,通信网络运营商、IT服务提供商、-级供应商、电子地图公司等,行业组织与机构等。
①鉴于人工智能具有自动决策的能力,法律应当赋予其法律人格,将其视为独立的法律主体;对于人工智能引发的事故,理应由人工智能本身来承担责任,而非消费者和制造商。(参见:JohnFrankWeaver.RobotsArePeopleToo:HowSiri,GoogleCar,and Artificial intelligence WillForceUstoChangeOurLaws[M].Praeger,AnlmprintofABC-CLIO,LLC,2014:25-27.)
②真正有价值的作品是人工智能与人类交互作用的结晶。因为人工智能具有深度学习能力,它可以通过学习人类的优点而不断生成新的算法,从而具有交互性,即人类的行为会影响到人工智能的“后天行为”,而这种后天行为与人类行为是交互影响、交互作用的。
①参见: Michael Nunez. Robots in Europe Could Become “Electronic Persons"[EB/OL]. (2016 -06 -21)[2019 - 05 -22 ]. https://www. gizmodo. com. au/2016/06/ robots - in - europe - could - become - electronic - persons/.
②被继承人死后,继承人尚未确定时的遗产,本身就可以享受权利和承担义务,例如遗产是房屋时,即使未有新的所有人,房屋仍然可以收取房租或支付房屋修缮费用。因此,遗产在待继承期间的法律地位就是财产构成的团体。(参见:江平.法人制度论[M].北京:中国政法大学出版社,1994:9.)
③对于法人本质的探讨,除“拟制说”与“实在说”外,学界还有一种中性的表述,该表述视法人为一种财产权归属载体,也有学者称之为法人“特别财产说”。(参见:迪特尔·梅迪库斯.德国民法总论[M].邵建东,译.北京:法律出版社,2000:823.)
④在特定情况下,船长及船员的行为被法律拟制为“船舶”行为,由船舶造成的侵权债务、违约债务以及其他海事债务可由船舶本体偿还,与责任人的其他财产无关。( 参见: Matthew P. Harrington. Rethinking in Rem: The Supreme Courts New ( and Misguided) Approach to CivilForeture[J]. Yale Law& Policy Review , 1994,12(2) :281 -354. )
⑤准法人是指船舶属 于法律上人的范畴,但不完全构成法人的资格,具有限制性法人的特征。一方面船舶具有人的法律地位;另-方面,船舶的权利能力和行为能力要受到法定限制。只有在法律规定的范围内和船舶所有人授权时,船舶才具有法人的权利和行为能力。(参见:饶中享.建立船舶主体法律制度探究[J].中国海商法年刊,1994,5:187.)
①参见:冯洁语.人工智能技术与责任法的变迁——以自动驾驶技术为考察[J].比较法研究,2018(2):143;郑志峰.自动驾驶汽车的交通事故侵权责任[J].法学,2018(4):16;冯珏.自动驾驶汽车致损的民事侵权责任[J].中国法学,2018(6):109;杨立新.民事责任在人工智能发展风险管控中的作用[J].法学杂志,2019(2):25.
②由于自动驾驶汽车的学习能力与自主决策能力,使得人们事后探究自动驾驶汽车导致事故发生的决策逻辑和决策过程变得异常困难。不仅事故的受害人很难证明事故发生的确切原因,而且即使是自动驾驶系统的设计者或制造商,有时也很难解释事故究竟是如何发生的。即使自动驾驶汽车上配备有记录数据的“黑匣子”,也解决不了其逻辑决策的黑箱。(参见:冯珏.自动驾驶汽车致损的民事侵权责任[J].中國法学,2018(6):127-128.)
③无论是消费者的合理期待标准或“事物自道其缘”法理在产品责任中的应用,还是从监管层面确立自动驾驶汽车的安全和性能标准,都只能在--定程度上缓和受害人难以依产品责任获得充分救济的困境,却不能从根本上解决这一问题。(参见:冯珏.自动驾驶汽车致损的民事侵权责任[J].中国法学,2018(6):130.)
①德国学者罗尔夫·克尼佩尔则从财产的角度指出,法人的本质是对财产的法律调整,丝毫不涉及个人身体体格的调整。(参见:李永军.民法上的人及其理性基础[J].法学研究,2005(5):23-24.)
②理由主要在于:首先,非自然人主体对于自然人而言,本来就是一种财产,不然人类怎么能对其进行交易和处分?其次,由于非自然人主体权利义务范围的上限是财产,故其与自然人之间只发生财产关系,不会发生人身关系。再次,将非自然人主体权利义务范围阻断在人身关系之外,是将自然人地位的一种抬高,更能体现以人为本。