人工智能技术的风险问题及应对措施

孙世龙

摘 要： 人工智能是人类社会发展到一定阶段的产物，于人类发展而言，其产生、应用及发展意义重大。随着大数据、5G通信、物联网等基础科技的发展，人工智能已经在深刻地改变着人们的生产生活。然而，人工智能在给人们带来福利的同时也增加了风险，我们应该持续关注人工智能发展给社会带来的变化，并做好应对变化的准备。法律风险的防控更是重中之重。本文就人工智能技术的风险问题及应对措施展开探讨。

关键词： 人工智能技术;风险;应对措施

【中图分类号】 TU745.1      【文献标识码】A     【文章编号】1674-3733（2020）14-0251-01

引言

虽然人工智能的产生对人类社会发展具有巨大的促进作用，但我们仍要以一种谨慎的态度来看待人工智能的地位和作用，要正确认识其存在的风险问题，有效降低风险、控制风险、应对风险，这样才能充分发挥人工智能技术的优势和作用。

1 人工智能概念

从人工智能的概念来看，这种技术以了解智能本质，生产能够与人类智能相似的职能及其为重要目标。人工智能也可以分为“人工”与“智能”两个部分，其中，“人工”指的是人工智能是人类研发和制造的产物，也是科学工程的产物，当然，由于基因工程所具有的科学基础和人工智能存在明显差异，因此，人工智能中的“人工”与生物工程中的“人工”并不相同;“智能”则指的是人类的或者与人类相似的认知能力、记忆能力、思考能力乃至想象能力等，也表现为环境适应能力、学习能力以及反应能力等。综上，人工智能是一种以计算机技术形态为存在形式、能够对人类思维进行模拟的技术。

2 人工智能技术的风险问题

2.1 管理风险

人工智能的深度发展，极大地改变了传统生产方式和生活方式，社会秩序也出现了变化，程序和算法成为新的规制方法，网络世界的权力正在向外界扩张，从而引发了政府管理的风险。程序员在设计智能系统都是不公开的，用户无法知晓其中的规则，有不同意见也无法向相关部门反映提出，却不得不接受不尽如意的结果。基于此，一旦设计者在程序中隐藏了不公平的算法，侵害社会大众的利益，将会加大政府管理的成本，加剧管理的难度。例如，携程网基于用户的消费水平不同，给不同消费者的同样产品推荐却存在价格差;滴滴打车根据不同用户的消费数据也规划了不同的路线，或者提高了收费标准，这无疑侵害了消费者利益。而法律法规缺少对大数据杀熟的管理规定，使政府监管部门面临监管失控的风险。

2.2 人工智能伦理评估标准模糊

目前，人工智能伦理评估标准还很模糊，若没有伦理规范的约束，后期将产生更多的风险。当前，人工智能道德伦理标准的嵌入主要有两种不同的进路，即自上而下和自下而上。“自上而下”是指对已经确定了的伦理原则进行复杂编码，随后在人工智能系統内植入编码的过程。而“自下而上”是指无须将任何道德规则或哲学嵌入智能机器，仅需要通过观察及分析实际情景中大量的人类行为数据，便可做出道德决策。但从现实来讲，目前，每种道德规则在人工智能中的嵌入均存在不足，这种不足主要源于人类自身道德哲学内在的矛盾与冲突，而这种不足，必将进一步加剧人工智能伦理评估的模糊性，从而引发更大的风险。

2.3 人工智能应用带来的安全风险

人工智能作为新技术，在应用过程中会给不同的领域造成影响和冲击，产生安全风险，包括政治安全、军事安全、经济与就业安全、隐私与数据安全、伦理与道德安全等方面的风险。这一方面是在其特点决定其在使用过程中对不同的应用领域产生的改变，一方面是其技术扩散和滥用的风险。

3 应对人工智能技术风险的措施

3.1 增强技术源头的风险防控

第一，从开发设计源头加大控制力度，如元程序设计。设计是按照一定价值取向从不完美实现完美的一个过程。在人工智能程序设计过程中，首先要解决的问题是如何选定价值标准，要求在实现技术完美的同时，做到不以破坏和牺牲人类既有权益为代价，就如同我国的可持续发展战略，要严格遵循人类的道德法律，不得凌驾于法律之上。第二，做好传统计算机监管程序的升级，即通过人工智能进行人工智能监管。人工智能是一个极为复杂的巨系统，具备自身学习能力。在传统计算机管理系统内，即便是最优秀的管理程序，也不能对其进行完全掌控。基于此，在人工智能风险防控中，可通过升级传统计算机管理程序，让其变得更加智能化，从而实现监管人工智能。例如：IBM公司对人工智能技术风险防控的尝试。

3.2 建立多元调控的风险防范框架

第一是完善法律制度。人工智能会给我们带来巨大的好处，也有可能带来巨大破坏，如果我们可以接受这些技术所带来的福利，并且做好应对风险的准备，这需要政府和社会仔细地考虑并建立完善的法律体系框架。目前，西方各个国家已经开始从政策鼓励逐渐转变成制度应对，如美国《人工智能管控法案》、德国《个人信息保护法》、英国《大数据保护法案》。我国也颁布了《新一代人工智能发展规划》，但是该文件的法律效力不够，利用法律法规对未来风险进行管控是重中之重。第二是伦理制约。科学技术的发展要遵守人类伦理，也要遵守科技发展的伦理，二者如果存在交集，那就是人工智能发展不能危害人类安全。

3.3 增加技术全过程伦理嵌入

本文提出增强技术全过程的伦理道德嵌入，即将伦理道德嵌入技术设计、发展和应用的各个环节。从可操作性来讲，人工智能全过程伦理道德嵌入是可以实现的，即便是在弱人工智能阶段也是具有可行性的。从本质上看，人工智能属于一种求解能力的计算机算法，可按照特定的伦理依据，以一种约束求解能力的计算法则将人类道德完全嵌入，并将其作为人工智能的行为准则，这样人工智能机器所作出的价值判断便能与人类道德相符。此外，作为一种计算法则的道德指令输入，在具体问题分析与判断中，人工智能机器往往更具客观性和理性，能够主动过滤掉人类主观思想上存在的干扰因素，进而提高人工智能的安全性。

结语

总之，人工智能将成为继工业革命之后人类社会的再一次巨大科技革命，技术的发展为法学研究带来了新问题，有机遇更有风险，需要我们能够更加理性地面对这些机遇和挑战。在重新定义人类与机器的亦敌亦友的关系中用好法律工具，使智慧社会法治化，为人工智能发展提供更好的法治秩序。

参考文献

[1] 李子青.计算机人工智能技术的应用与未来发展分析[J].科技经济市场，2019（10）：9-11.

[2] 王嫄.论人工智能技术应用研究现状和发展前景[J].科技与创新，2019（20）：18-21.

[3] 胡永祥.人工智能技术发展现状及未来[J].中外企业家，2018（28）：147-148.