关于人工智能潜在风险引发的法理思考

马中英

(山西省政法管理干部学院,山西 太原 030012)

一、人工智能的潜在风险

近年来,人工智能得到了飞速发展,并为人类创造出可观的经济效益和社会效益。人工智能似乎无所不能,它可以做大量人类不想做、不能做的工作,而且机器人的精准度高,犯错误的概率低,能够持续不断地工作,大大地提升了工作效率,节约了成本。但人工智能的发展也是一把双刃剑，它在给人类带来许多好处的同时,也会带来许多问题和风险。英国著名物理学家史蒂芬·霍金表示,人工智能的崛起可能是“我们文明史上最糟糕的事件”,除非人类社会能够找到控制它发展的方法,否则后果不堪设想。确实,人工智能的潜在风险正在形成。

(一)人工智能可能引发大量工人失业,给社会带来不稳定因素

创新工场董事长李开复在2016WISE大会上表示,未来十年,世界上50%的工作都会被人工智能所取代。准确的数据可能无法预测,但人工智能必然会使很多职业消失,可能导致就业率下降失业率上升,给社会带来新的不稳定因素。

(二)人工智能可能存在算法歧视,造成新的不平等

开发者可能存在种族偏见、性别歧视、特定疾病歧视,基于此而开发出来的人工智能就可能存在算法歧视,从而造成新的不平等。而且,由于人工智能导致的就业停滞和生产力提升,可能造成财富更加向少数人集中,从而引发新的资本不平等。

(三)人工智能可能导致责任空白,使受损者无法得到应有赔偿

对于人工智能产生的损害,如何承担分配责任还远未达成共识,开发者、生产者是否应当承担瑕疵担保责任,能否确立人工智能的法律人格地位还不得而知。当开发者、生产者由于破产等因素无法担责时,受损者可能无法得到赔偿。

(四)人工智能可能击败人类智慧,让人类成为机器人的奴隶

2017年3月15日,备受世界瞩目的人机大战,最终以人类失败告终。这场比赛,激起了各种“机器超越人类,科幻小说将成真”的讨论,这让大家意识到,人工智能给人类带来了危机,人类将来会不会被机器人所代替,成为机器人的奴隶?

(五)人工智能可能失控,成为后人类的敌人

开发者与使用者可能基于不正当目的开发使用人工智能,从而可能给人类带来毁灭性灾难,例如一些极端恐怖组织可能滥开发、滥利用人工智能。而且,人工智能已经具有了深度学习能力,会不断演化进步。霍金警告说：“由于受到缓慢的生物演化的限制,人类不能与人工智能竞争,最终将会被代替。”

“智能时代,未来已来”。人们在为人工智能的强大能力感到惊叹的同时,也激发了对人工智能安全问题的普遍忧虑,人工智能是否成为人类“最后的发明”，我们应该如何看待人工智能的潜在风险，值得深入思考与积极应对。

二、人工智能的法律挑战

人工智能的飞速发展,对传统法律带来了前所未有的巨大挑战。目前最突出也是最紧迫的主要有两个方面:

(一)对《劳动法》的挑战

人工智能技术发展的基本面向,是对人机关系的改变。智能机器人的大规模应用,一方面推动了社会生产力的发展,大大提高了生产效率;另一方面也带来了社会结构的变化,使得人与机器人的关系成为社会生活的重要方面。以保护劳动者利益为宗旨的《劳动法》,面临着前所未有的两个难题:一是传统《劳动法》的调整功能消减。据牛津大学的调研报告显示,未来将有1000万非技术工种被机器人取代,其中包括文秘、工人、中介、司机等一大批岗位。报告还特别指出,目前软件工程师的工作将会被智能机器人所代替,即创造者被其创造的技术产品所代替。这些都会对现有劳动者的权利带来冲击，大批劳动者离开传统岗位,其权益救济更多是寻求社会保障,那么《劳动法》是否面临消亡的命运?二是未来《劳动法》将面临新的调整对象。机器人抢掉人类的饭碗,人工智能“工人群体”正在形成。对机器人权利保护或者禁止对机器人滥用,在当下尚是一个社会伦理问题,而在未来就成为劳动立法问题。

(二)对《交通法》的挑战

人工智能在交通领域的重要应用是网联自动驾驶。智能驾驶通过导航系统、传感器系统、智能感知算法、车辆控制系统等智能技术,实现了“人工智能+无人驾驶”,颠覆了以往的人车关系、车车关系。无人驾驶汽车可能带来的法律问题主要有:一是法律规制对象的转变。无人驾驶意味着交通领域的准入资格,不再是驾驶人的驾驶技术,而是无人驾驶汽车的智能化水平。换言之,随着无人驾驶中驾驶人概念的消失,法律规制的对象不再是车辆的驾驶人员,而将是智能驾驶系统的开发者、制造者。二是法律责任体系的重构。以过错责任为基础而建立的“风险分配”责任体系,在未来的交通法规中将不复存在。对于道路交通事故的认定,其归责事由只有结果的“对与错”,而无主观上的“故意”或“过失”。三是交通监管重心的变化。以交通安全为目标,以往交通管理部门监管的重点是汽车装置的安全性能和驾驶人安全驾驶技能，而在智能驾驶中,避险保障和精确驾驶的软硬件体系,是道路交通检测、准入的重点。

三、人工智能的法律规制

法律制度总是滞后的,但关于法律问题思考应该是前瞻的。面向智能革命时代,我们应在认识和分析现行法律困境的基础上,探索与科学文明相伴而生的制度文明,创制出有利于人工智能健康、有序发展的社会规范体系。

(一)规制人工智能就是要规制人的智能

人是人工智能的总开关,所以规制人工智能首先需要规制人的智能,需要对人工智能的开发者进行规制。开发者在设计人工智能时,应当以人为本,以有利于社会福利最大化而非利润最大化为理念,遵守基本的社会伦理道德,消除各种歧视观念,遵守平等原则。禁止基于不正当目的开发人工智能。开发者应当审慎设计相关代码程序,如果某项人工智能所促进的社会公共利益,与其所造成的损害明显不成比例,违反比例原则,或者可能失控,就应当及时放弃。

(二)应当对人工智能的销售者与使用者进行规制

销售者应当建立并执行人工智能产品进货检查验收制度,验明人工智能产品合格证明和其他标志,禁止销售不合格的人工智能产品。使用者应当合理利用人工智能,不得损害国家、社会及他人合法权益,法律应当合理设定相应的使用条件与标准。

(三)明确人工智能致损的责任分担机制

如果开发者在设计时存在故意或重大过失,导致损害发生,则应由开发者承担责任。如果由于开发者当时的认知局限,没有预见到未来发生的状况,导致损害发生,开发者也应当承担责任,即瑕疵担保责任,因为开发者有所获益,就应当承担相应的风险,而且如此更能促使开发者审慎地设计相应的代码程序。在索赔方式上,使用者、受害者可以直接找开发者索赔,也可以找销售者索赔。如果销售者与使用者存在过错,则应承担相应的责任。此外,应当逐步建立完善的人工智能产品保险制度。

(四)尽快出台人工智能法律法规

科技需要在法律的轨道上发展,技术中立并不表明技术可以脱离法治。尽管存在隐忧,但只要法律规制适当,具有诸多优势的人工智能必定会给人类社会带来无穷大的正能量。因此,应当对人工智能进行适度有效的规制,及时制定相关法律制度。国务院在《新一代人工智能发展规划》中提出：“建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力”。在规制人工智能时,政府应当处理好科技创新与法律规制的关系,按照“鼓励创新、包容审慎”的原则,确立事前备案、事后惩处的机制,使法律既能保障公民权利,又能促进科技创新。

四、人工智能的制度设计

面向未来时代的制度构成,应以人工智能的技术发展与规制为主题,形成包含法律规则、政策规定和伦理规范的社会治理体系。

(一)以安全为核心,确立多元价值目标

安全是人工智能时代的核心价值。安全价值是对整个社会秩序稳定的维护。对此,法哲学家雷加森斯·西克斯言道:“如果法律秩序不代表一种安全的秩序,那么就不是一种法律”。安全价值是许多法律部门共同追求的目标,且通过不同的制度或调整方法来实现。例如《刑法》通过刑事责任方式来实现社会秩序安全,《民法》通过侵权法来保护交易安全和财产秩序。人工智能作为未来时代技术尚在深入发展之中,但在当下已引发人们对其安全问题的普遍担忧。关于风险规制的安全规范,包括人工智能产品的伦理规范、人工智能技术的应用规范、人工智能安全的监测规范等,都是相关法律制度设计和安排需要考量的问题。

(二)以伦理为先导,建立社会规范调控体系

人工智能时代的文明,需要相应的行为规范作为社会关系的调整器。对于人工智能社会关系的调整,伦理规范具有一种先导性的作用,及时制定《机器人伦理章程》,以此作为人工智能研发、应用的道德基础。这是因为法律规范基于现实生活而生成,且立法过程繁琐,因而总是处于滞后境地。而伦理规范可以先行和预设,对已变化或可能变化的社会关系作出反映。伦理规范的调整功能非常独到且为重要,例如:对智能机器人预设道德准则,为人工智能产品本身进行伦理指引;规定人工智能技术研发及应用的道德标准,对科研人员进行伦理约束。上述伦理规范,可为后续法治建设提供重要法源,即在一定时候,伦理规范亦可转化为法律规范,实现道德的法律化。

(三)以法律为主导,构建风险控制机制

法律控制是风险治理机制的重要手段。适时进行机器人专门立法,以此作为人工智能法律的基本规范。立法者必须重视控制风险功能的法治化，例如《专利法》具有激励科技创新的制度功能,其授权客体的扩充及其权益保护,即是激励人工智能发展机制的法律表现。与此同时,《专利法》也要注重权利客体的排除领域、禁止权利滥用、限制权利行使等制度规则的适用,从而排除人工智能的潜在危害。此外,还应辅之于相关科技法律法规,对人工智能的研发使用和传播,建立限制机制、禁止机制以及惩戒机制。

中国正在走向人工智能时代。世界新一轮科学革命、产业变革与我国转变经济发展方式形成历史性交汇。对人工智能的发展和规制进行制度安排,是时代新潮流,也是国际大趋势,更是本土创新发展的内在要求。我们有理由相信,科学技术的智慧之光与法律制度的理性之光,将在人工智能时代交相辉映。