电子商务中人工智能体的民事责任研究——以“电子代理人”为例

张沁芊

(苏州大学 王健法学院，江苏 苏州 215006)

二十一世纪以来，计算机技术和通信技术的结合与发展引发了商业运行模式的深刻变革，电子商务飞速崛起。与此同时，随着深度学习技术的发展和大数据的应用，人工智能得到了极大程度的发展。基于商事交易的电子化发展趋势，以电子代理人为代表的人工智能体逐渐应用于电子商务领域。一些商家开始使用电子代理人开展商事活动，这种智能化的交易系统能够独立完成特定任务，自动处理数据电文，订立甚至履行合同。[1]人工智能体能够减少人力投入，降低交易成本，提升交易效率，推动电子商务的发展，但也引发了一系列民事法律后果归属问题。由于电子商务有着异于传统商务的特性，人工智能的发展更是具有极大的不确定性，传统民法制度有时会左支右绌。一旦人工智能发展至强人工智能阶段，现行民法体系可能会面临不可小视的理论冲击。对于电子商务中人工智能体带来的民法挑战，应在合理着眼未来的基础上注重责任归属的理论设计。

一、人工智能与电子商务的融合发展

人工智能是一门新技术科学，其目的是模拟、延伸和扩展人的智能，以实现某些脑力劳动的自动化。人工智能自上个世纪五十年代诞生以来经历了两次繁荣和两次低谷，进入低谷的原因主要是由于计算机硬件的落后。[2]目前我们正处于第三个繁荣时期，计算机的性能已经足以支撑更大程度、更多领域的人工智能的发展，而且由于网络的高速和便捷，“大数据”变得易于获取，分布式系统也逐渐普及。人工智能将逐渐与互联网相结合，不局限于单一领域和单一主机，采用分布式计算的人工智能和互联网领域的人工智能将逐渐成为其发展方向。

人工智能主要包括为完成某项特定功能而设计的弱人工智能和具有类似人类思想的强人工智能，前者的例子有苹果私人助手Siri、淘宝等交易平台的机器人客服以及前不久在围棋上战胜人类的AlphaGo等等。弱人工智能普遍具有局限性，不具有自我意识并且应用领域较为单一，但随着技术的进步，其呈现出一种融合发展的态势，未来的弱人工智能将是多领域人工智能的结合，可以更加自然地与人交互并能够处理多领域实务。强人工智能则具有比较鲜明的自我意识，具有主动性并且不受某个领域的约束，具有一定的不可控性。目前计算机行业中还没有公开普及型的强人工智能产品，但IBM、微软、谷歌等行业巨头都投入了巨大的人力物力，完成强人工智能的研发只是时间问题，当这种具有情感的“机器”应用于具体行业时，势必会引起新的法律变革。

上世纪九十年代，计算机网络技术发展迅速，人们开始使用电子通信手段进行交易，电子商务这一新兴交易模式开始起步。[3]随着技术的革新和互联网的应用，电子商务在二十一世纪飞速发展。对于电子商务的概念，理论界目前没有普遍接受的确切定义，可从广义和狭义两个层面理解。广义的电子商务是指一切以电子技术手段进行的、一切与商业有关的活动。其中的“电子技术”包括但不限于电子通信与电子计算技术，其中的“商务”包括不论是契约型或非契约型的一切商务性质的关系所引起的种种事项。[4]狭义的电子商务是指以互联网为运行平台的交易活动，其将“电子”限定为计算机网络技术，将“商务”限定为需要订立合同或契约的交易活动，而非单纯的信息传递。

随着电子商务的持续发展，商业模式不断创新，其应用范围和市场规模不断扩展，人们开始寻求各种自动化的商事工具，来应对持续增长的商事规模。由此，人工智能逐渐应用于电子商务领域，这些人工智能体能够有效地降低商事成本，增加交易方便度，极大地推动了电子商务的发展。但由于电子商务和人工智能所依托的网络环境的自由化和计算机技术的复杂化，人工智能体的应用引发了一系列民事责任的承担问题，并可能在人工智能快速发展的同时愈演愈烈。

二、人工智能体的民法挑战：以“电子代理人”为例

人工智能体在电子商务活动中的功能主要包括智能消费客服、推荐与个性化预测、营销效果预测等等。其中，作为人工智能体之一的电子代理人，是人工智能在电子商务中最具代表性的应用，基本涵盖了电子商务中人工智能体的共性功能与特征，从电子代理人入手能够更加全面地剖析人工智能体潜在的民事责任归属问题。

1.电子代理人的应用现状与发展前景。“电子代理人”(Electronic Agent)一词最初源于美国法学会发布的《统一计算机信息交易法》(UCITA，1999)，该法第102条将电子代理人定义为：“电子代理人是一种计算机程序、电子化手段或其他自动化手段，其能独立地做出行为、对电子信息和履行做出回应，在此过程中无需人工介入。”之后，美国《统一电子交易法》(UETA，1999)在该条款的基础上稍加改动，对其定义为：“电子代理人是指一种计算机程序、电子化手段或其他自动化手段，其能独立地做出行为、全部或部分地对电子记录和履行做出回应，无需人工检查或操作。”此后的美国《全球和全国商务电子签名法》(E-SIGN，2000)和《统一商法典》(UCC)买卖篇(2003年修改)都沿用了《统一电子交易法》的定义。此外，加拿大《统一电子商务法》(UECA，1999)对电子代理人作出的定义为：“电子代理人是一种计算机程序，或任何电子化手段，其被用来做出行为、全部或部分地对电子文件和履行做出回应，在此过程中不需要自然人的检查。”联合国贸法会在其发布的《电子签名统一规则(草案)》(DURES,1999)中提出了“电子代理人”(Electronic Agent)一词，从而在世界范围内确定了此概念。

由此可见，电子代理人在电子商务中得到了广泛的应用和认可，在理论界已被逐渐推广为通用的术语，虽然各国法律对电子代理人概念的表述不尽相同，但这些定义的实质相同。通过这些定义可发现，电子代理人是一种能够独立回应、处理电子数据的自动化工具，具有智能性、交互性等特征。[5]智能性是指电子代理人能够主动做出某些行为，或对接收到的电子数据做出判断和回应。在实际应用中，根据不同的预设程序，低智能的电子代理人可为“被代理人”提供选择性建议，高智能的电子代理人可为“被代理人”直接做出决定。交互性是指电子代理人在运作过程中能依特定语言与不同对象进行通信，完成既定任务，其交互对象主要包括自然人和其他电子代理人。

目前，电子商务中的人工智能体仍然停留在弱人工智能的初级阶段。以电子代理人为例，它们虽然能够在运作过程中做出主动性表达和被动性回应，代替人工管理交易、解决问题，并在一定程度上学习现有规律，但仍需要设计者预设程序，需要使用者的不断指示，不能完全独立地应对新情况。电子代理人没有独立的意思表达能力，只能在被代理人提前设定的意思范围内做出表达，在很多非程序化的具体交易过程中，电子代理人尚无法替代人类的高度智能进行综合性判断。

在人工智能深入研究的趋势下，强人工智能是人工智能发展的最终目标，电子商务终将迈入认知商务时代，人工智能体在电子商务领域中的应用将有进一步的突破。[6]在大数据时代，人工智能体将接触和处理更多数据，一个强人工智能电子代理人将具有类似人的情感，具有主动性和相当强大的推理能力。基于强大的实时洞察和认知能力，强人工智能电子代理人能够预测未来，实时同步地开展行动，甚至完全不需要人工参与。

与目前的电子代理人相比，强人工智能电子代理人将更加智能化、个性化与精确化。首先，强人工智能电子代理人可以开展分析，帮助商家进行客户分析和商品销售规划，优化营销、销售和价值链服务。其次，强人工智能电子代理人可以提前为客户着想，了解他们的需求，以人性化方式与客户深入互动。再次，强人工智能电子代理人可以精确推断出交易双方的需求和能力，结合习惯喜好等因素自主选择交易目标，从交易的预测到交易的开始，再到交易的结束，强人工智能电子代理人可通过人工智能选取最高效的、最令交易双方满意的解决方案，实现效益的最大化。最后，强人工智能电子代理人交易的安全性和及时性也可通过其人工智能得到保障，强人工智能电子代理人通过对海量数据的分析和学习，将学习规避风险和注重实效，而不再是被动应对。

2.电子代理人的民事责任归属问题。电子商务中的人工智能体以计算机网络为依托，开展大量的商事活动，以电子代理人为代表的人工智能体作为电子商务活动中的重要角色，其运行涉及多方主体，包括设计者、服务提供商和使用者，这些主体对电子代理人均拥有不同程度的控制权。在一般情况下，电子代理人的行为效力归属较为明晰，但由于网络的虚拟化和自由化程度较高，且人工智能技术正处于急速发展的状态，在特殊情况下，电子代理人行为后果的责任承担相对复杂，下面予以分述。

(1)正常情况下的民事责任归属。对于正常情况下电子代理人活动的效力归属，在目前涉及电子代理人的法律中，已作出了较为明确的规定。如我国《电子商务法》第48条第1款规定，电子商务当事人使用自动信息系统订立或者履行合同的行为对使用该系统的当事人具有法律效力；联合国贸法会《电子商务示范法》第13条第2款指出，对于数据电文的归属，就发端方与接收方之间而言，数据电文由发端方的自动信息系统发送时，视为发端方的数据电文；美国《统一计算机信息交易法》第107条第4款规定，任何人如使用其选择的电子代理人进行签章、履行或订立协议，包括意为同意的表示，应受该电子代理人操作的约束，即使个人对电子代理人的操作或操作的结果不知道或没有审查。

电子代理人是按照一定范式运作的自动化交易系统，电子代理人在其编程技术结构的范围内接受使用者的授权，按照设计者预设的运行模式，从事网上交易行为。一般情况下，电子代理人通常按部就班地进行缔约、履约等日常工作，不出现任何差错，不会超过预定范围自主作出意思表示。在传统代理制度中，代理人在代理权限内所做行为的后果归属于被代理人。电子代理人正常运行时，可以正确执行使用者的真实意志，属于在代理权限范围内做出“代理行为”，因而此类活动的行为效力应归属于使用者。[7]

(2)异常情况下的民事责任归属。电子代理人的运作涉及多方主体，各方主体对电子代理人的活动均有一定的影响力，一旦电子代理人活动异常，其法律后果归属往往难以确定，现行民法对此尚无具体详尽的规定。

一方面，电子代理人可能会导致交易行为错误。电子代理人是一个虚拟程序，交易主体无法采用传统的当面交流方式，而需使用电子产品的终端进行交流。由于电子环境具有较强的不可控性，电子代理人的活动极易受影响。因此，电子代理人时常出现错误的交易行为，主要包括两种情况。第一，电子代理人会出现缔约错误，原因可能来自使用者、程序设计者或黑客。例如，在委托授权阶段，若使用者对交易的对象、数量、质量等产生了认识错误，或在键入交易数据时出现了输入错误，则会对电子代理人进行错误授权，做出不真实的意思表示，导致电子代理人缔约错误。在此种情形下，对于使用者的认识错误，可按照传统合同法的相关规则解决。而对于输入性错误，使用者是否能够主张变更或撤销合同，考虑到电子商务的便捷性和举证的困难性，学界对此并无通说。若合同被判定为不成立、无效或被变更、撤销，对于交易相对人的信赖利益的损失，使用者理应承担缔约过失责任。但若使用者的过失是由于电子代理人未设置合理的提醒程序，那么使用者能否提出抗辩，并要求由程序设计者来承担交易相对人的损失，法律并未作出规定，此时缔约错误的责任归属难以确定。第二，电子代理人会出现履约错误，原因可能是其自身存在程序漏洞或遭到黑客入侵。在电子代理人自身存在程序漏洞的情况下，根据合同相对性原理，电子代理人引起的违约责任应由其使用者承担，再由使用者向设计者追责。但在电子代理人遭到黑客入侵的情况下，由于黑客具有极强的隐蔽性，难以追责，是否应将黑客入侵视为不可抗力而对使用者部分或全部免责，此时不同的理论选择会使电子代理人违约责任的最终承担者有所差异。

另一方面，电子代理人在运行异常的情况下，除了会因交易错误损害交易主体的财产权等权利外，还存在其他侵权可能性。电子代理人承载着相当庞大的信息数据，这些信息数据可能涉及交易主体的人身权和财产权。而电子代理人的系统安全漏洞、数据加密程度、病毒或黑客入侵等因素都可能导致这些信息丢失，或被篡改、破坏，从而产生侵权后果。由于电子代理人涉及的主体较多，对于此类侵权后果的责任归属问题，应该如何确定责任主体，如何适用归责原则，传统的归责原则能否同样适用于电子代理人，学者的观点多有不同，各国法律对此也未作出明确规定。

三、电子商务中人工智能体的民事责任承担

根据前文关于电子代理人民事责任归属问题的论述可知，目前人工智能体在电子商务中的应用带来了大量的民事责任承担问题，对于此类民事责任应如何归责，现行民法尚无具体规定，随着人工智能技术的发展，这些问题会进一步凸显。除了在计算机领域进行技术完善外，现行民法也必须正视和解决此类问题，明确不同情况下的民事责任承担。如前所述，人工智能体依据其是否拥有思维而被分为弱人工智能体与强人工智能体，对于不同类型的人工智能体导致的法律后果，应分别规定不同的民事责任承担方式。

1.弱人工智能体应用中的民事责任。弱人工智能体的智能化程度具有局限性，只能在设计者的编程范围内以及使用者的指令范围内开展活动，其活动能力是基于计算机程序或自动化手段的本质而存在的，并没有独立的意思表达能力，本质上只是一种交易工具。对于弱人工智能体正常的缔约、履约等行为，应将其效力归属于弱人工智能体的使用者，对于弱人工智能体运行异常时的错误交易行为和侵权行为，其责任归属情况较为复杂，现有法律并未作出具体规定。由于弱人工智能体活动异常的成因较多，不同成因必然导致不同的法律后果和法律救济，本文拟从异常原因角度进行责任归属的理论设计。

(1)使用者行为错误。使用者的行为错误主要表现为输入性错误，对弱人工智能体做出了不正确的授权，致使弱人工智能体错误缔约，由此订立的合同存在意思表示瑕疵。对此情形下的责任归属判定，应更深入地分析使用者出现行为错误的原因，考虑使用者做出该错误行为时弱人工智能体是否给出了提醒程序。若弱人工智能体提供了醒目的提醒界面，使用者完全是由于自身的失误致使行为出错，则缔约错误的责任应归属于使用者；[8]若弱人工智能体未设置提醒程序，或提醒程序设置不合理，无法对使用者作出醒目提示以使其避免或更改错误，此时该缔约错误可能涉及程序设计者的过错，属于程序技术缺陷的讨论范畴。

(2)程序技术缺陷。弱人工智能体若自身存在程序缺陷，极易使其承载的信息数据在存储或传输的过程中丢失或出错，这不仅会导致上文提到的缔约错误，还会导致履约错误以及信息数据的泄露，影响电子交易和信息安全，引发缔约过失责任、违约责任和侵权责任的承担问题。

对于弱人工智能体因自身技术缺陷产生的缔约过失责任，应由使用者承担。缔约过失责任是指在合同订立过程中，一方因违背其依据诚实信用原则所产生的义务，而致另一方的信赖利益的损失，对此应承担损害赔偿责任。[9]在弱人工智能体存在程序缺陷的情况下(如缺少合理的提醒程序)，若使用者也存在一定过错，在操作系统时未尽注意义务，做出了错误的意思表示，导致合同不成立、无效、被撤销等等而损害交易相对人的信赖利益，使用者应承担缔约过失责任。由于弱人工智能体存在程序缺陷，未合理规避使用者可能出现的操作错误，使用者对其自身的损失，可向负责弱人工智能体程序技术的第三人追责。

对于弱人工智能体因自身技术缺陷产生的违约责任，按照合同相对性规则，使用者需承担直接责任。但此时使用者的违约是由弱人工智能体的程序技术缺陷引起的，因此，使用者可向第三人追责。需要说明的是，此处的第三人在理论上包括人工智能体的程序设计者和程序运营商，但在实际情况中，运营商通常自行研发人工智能体，设计者与运营商合二为一，且即使运营商选择弱人工智能体外包，其技术更新与日常维护也是由外包的程序设计者负责。因此本文只将设计者作为责任归属的讨论对象，若二者出现分离，具体的追责方式可根据产品质量的相关规定解决。

对于弱人工智能体因自身技术缺陷产生的侵权责任，应推定弱人工智能体的程序设计者存在过错，若设计者无法证明自己没有过错，应当承担侵权责任。此处选择适用过错推定原则来确定责任承担者的理由是，弱人工智能体的活动具有自动性且涉及较多技术问题，被侵权人难以证明设计者在程序设计中存在的过错，容易出现无人担责的情况，而过错推定原则在一定程度上可以保障被侵权人的权利救济。[10]此外，若设计者能够证明被侵权人对损害的发生也有过错，例如被侵权人未及时下载安装弱人工智能体的更新补丁，未尽必要注意义务，存在一定过错，则可减轻设计者的责任。

(3)黑客恶意入侵。弱人工智能体活动异常的另一可能原因是黑客入侵，黑客会恶意攻击或利用病毒侵害弱人工智能体，破坏信息数据的完整性和正确性，使弱人工智能体出现系统运行混乱、信息数据被篡改等情况，对交易秩序和信息安全造成重大破坏，导致缔约过失责任、违约责任和侵权责任的产生。

对于弱人工智能体因黑客入侵而产生的缔约过失责任，应由使用者承担责任。在黑客入侵的情况下，若由于使用者未及时更新弱人工智能体的安全补丁，导致弱人工智能体无法抵御黑客入侵，则使用者存在过错，需要对由此产生的交易相对人的信赖利益损失承担赔偿责任。使用者对其自身的损失，可按照侵权责任规则向黑客追责。

对于弱人工智能体因黑客入侵而产生的违约责任，按照合同相对性原则，使用者需承担直接责任。但使用者是因黑客的入侵而违约，对于自身的损失，其可按照相关规则向黑客追责。但若该黑客的攻击活动属于无法预见、无法避免、无法克服的客观情况，则使用者应按照传统合同法的规定，根据不可抗力的影响，部分或全部地免除责任。

对于弱人工智能体因遭到黑客入侵而产生的侵权责任，由于黑客具有极强的隐蔽性，应根据黑客的追踪情况考虑不同的责任归属。在成功追踪黑客并确定其身份的情况下，应按照过错责任原则判定其承担侵权责任。同时，就弱人工智能体的设计者而言，若其知晓黑客的入侵活动却无合理举措的，应承担相应的民事责任；若其在接到被侵权人通知后未及时采取必要措施的，应对损失的扩大部分与黑客承担连带责任。[11]在黑客难以追踪、无法确定身份的情况下，被侵权人的权利得不到救济，此时应推定弱人工智能体的程序存在安全漏洞，推定其设计者存在过错。若设计者无法证明自己没有过错，就应承担侵权责任；若设计者证明自己已履行防范义务，该黑客的入侵活动属于无法预见、无法避免、无法克服的情况，则其不承担责任，此时可考虑按照公平责任原则由双方分担损失。

2.强人工智能体应用中的民事责任。强人工智能体的智能化程度较高，一旦人工智能体发展到强人工智能的阶段，其信息搜集能力和交易快捷度将会有质的提升，具有主动性和一定的不可控性。一方面，强人工智能体能够在预设的程序范围内进行活动，此时的民事责任承担与弱人工智能体的民事责任承担方式无异。另一方面，强人工智能体能够在预设程序范围外根据自我分析作出即时自动决策，此时强人工智能体具备独立的意思表示，不宜将其引发的责任归结于使用者、设计者等相关主体，应考虑由强人工智能体自身承担相应的民事责任。

强人工智能体具有强大的判断分析能力，能够积极主动地进行认知和预测，自行处理委托事务，强人工智能体的行为具有独立性，应承担自己行为引发的法律后果。部分学者提出将其认定为有行为能力但无权利能力的主体，[12]这实际上仍然是工具论的延伸，并没有解决强人工智能体的责任承担问题。一方面，强人工智能体可以根据自我判断为使用者衡量利弊，可独立做出意思表示，进行商事活动，该行为本质与自然人一致。另一方面，当强人工智能体并不按照设计者预设的程序进行活动时，其在运行过程中的行为是使用者和设计者都无法预测的。若仍适用现有理论否认法律主体资格，认为强人工智能体是没有权利能力和行为能力的交易工具，那么相关主体可能会承担过多不可测的风险，不利于纠纷的解决和强人工智能体的应用。因此，应考虑法律拟制赋予其法律主体资格，将其视为一般自然人，则其从事的民事行为，就能够适用民事制度的相关规定，在行为的方式、效力、后果归属上都将有完备的理论解释。强人工智能体在具备法律主体资格的情况下，若由于缺少财产而无法担责，将不利于纠纷的解决。此时可以考虑设立强人工智能体注册机构，由设计者或运营商向注册机构交付一定财产，使强人工智能体拥有一定的独立财产以承担相应的民事责任，强人工智能体日后运行所获的利润也可相应纳入其独立资本中。

此外，人工智能体的应用审查机制也应得到严格规范。在认知商务时代，强人工智能体具有极高的数据搜集分析能力，自由化程度高，如果不对其研发加以控制，极可能有被恶意利用的强人工智能体，出现由于强人工智能体因其行为的独立性而需自行承担相关后果，其设计者或操控者可能会以此逃避法律责任。因此，必须建立人工智能体的程序审查机制，加强对人工智能体研发环节、验收试用环节、市场运营环节的监督与管理工作，防止存在安全性问题的人工智能体投入应用于电子商务领域。与此同时，还应设定合理的人工智能体智能化程度划分标准，用以判定某具体人工智能体是否能够成为法律关系主体，从而适用不同的民事责任承担方式。

四、结 语

我国电子商务领域目前应用的人工智能体为弱人工智能体，虽然尚不足以对民事法律带来颠覆性的挑战，但相较于传统交易活动，已经出现了许多难以解决的民事纠纷。随着人工智能技术的进一步发展，人工智能体的智能化程度必将进一步提高，虽然强人工智能体目前尚未问世，但面对日新月异的科学技术，我们必须着眼于可能出现的民事法律问题，思考相应的制度规范。由于电子商务领域是人工智能技术应用的典型领域，本文只对人工智能体在电子商务领域可能引发的民事责任归属问题进行探讨。但人工智能体的应用范围极其广泛，人工智能体在其他领域内的应用所产生的民事责任应如何归结，仍有待进一步研究。