人工智能安全问题及其解决方向

◆但少华

人工智能安全问题及其解决方向

◆但少华

（湖北省赤壁市人民检察院 湖北 437300）

人工智能的出现无疑开启了人类历史的新时代，它在给国家和社会带来进步和发展的同时，也带来了巨大的安全威胁。如何解决新时代下人工智能的安全问题成为网络信息领域的当务之急。本文笔者首先对人工智能及其发展进行介绍，然后从伦理、社会秩序、隐私以及系统整体性四个层面分析人工智能的信息安全威胁，最后提出人工智能安全问题的规避策略。

人工智能；安全问题；解决策略

0 引言

近年来，人工智能已经成为了一个炙手可热的名词，围棋天才柯洁大战阿尔法狗和第一个拥有人类身份证的机器人索菲亚等这一系列现象的出现让人们在感叹人工智能给世界带来巨大变化的同时也引起了人们对于信息安全的担忧。一项新技术的出现，如果能够有效利用，将会引领时代的进步和发展，但是忽略了其潜在威胁，就会适得其反。人工智能技术的出现，也意味着一场革命，在市场竞争如此激烈的时代浪潮裹挟下，我国的人工智能是否能够引领时代发展，关键在于如何解决人工智能的信息安全问题。

1 人工智能及其发展

从根本上说，人工智能就是一项信息处理系统，它主要通过输入图像或者文字信息，进行感知、分析和学习，进而采取恰当的行动解决问题。由于人工智能天生具备的信息属性决定了其信息安全问题会全程贯穿在其应用中。世界范围内的各领域各行业都感受到了人工智能带来的巨大变化，政府部门在制度设计上出台了各种政策促进人工智能的发展，技术人员也试图抢占技术的高点。我国的《新一代人工智能发展规划》和十三五规划都对人工智能的发展进行了详细的战略部署。中国具有天然的市场优势，目前人工智能的发展态势十分乐观，人们日常获取信息、网购和出行等都离不开人工智能技术的支持。2017年，麻省理工科技评论公布的全球十大突破技术之中，深度学习、刷脸支付以及自动驾驶位列其中，而这些技术的研究者中科大讯飞、阿里巴巴、百度等都是中国企业。除此之外，我国的人工智能还被引入了政务领域，有效地提升了工作效率，促进了政府服务的创新。

2. 人工智能信息安全威胁分析

2.1 伦理安全

随着人工智能的发展，越来越多智能化、自动化的设备进入了我们的日常生活，同时它们也面临着现有法律、社会规范以及伦理道德的挑战。比如世界围棋大师李世石与人工智能机器人阿尔法狗的对决，人们会担心未来人工智能会取代人类，索菲亚成为第一个拥有人类身份的机器人，人们会担心如果她对人造成伤害怎么办，这些现象都不符合我们的传统认知。除此之外，人工智能技术的进步，逐渐取代了那些重复性的工作，导致相关从业人员出现极大的心理恐慌。

2.2 影响社会秩序

传统的信息系统依赖于人的操作和控制，但是人工智能技术有一个自己的“大脑”，在一定程度上可以自我控制。人工智能控制的机器人、无人驾驶汽车、无人机等设备都具备一些自主行为，一旦受到安全威胁，就会带来极大的破坏，例如无人驾驶汽车失控后对交通系统造成的影响，而且人工智能系统设备的行为还会给同一系统的人员带来诸多的干扰和麻烦，导致现有秩序的混乱。

2.3 隐私安全

人工智能催生了大数据时代，人、事、物可以实现综合的管理，没有人是一座孤岛，不可避免地会与周围的人事物产生联系，在大数据的作用下，个人的家庭信息、联系方式、账号密码，甚至是出行轨迹、消费情况和健康状况等，都可以通过智能设备、互联网或者传感设备实现数据的获取，如果这些信息都被曝光，那么个人隐私安全就会受到极大的威胁。

2.4 系统整体性安全

人工智能系统中的大部分数据都被保存在云端，通过大数据分析向控制端发出指令，进而形成传输、智能处理。在此过程中，如果该人工智能系统受到攻击或者设备故障，将会引发整个系统的危机，就算是局部的安全风险，也会在短时间内迅速扩散，形成更大的安全威胁。

3 人工智能安全问题的规避策略

3.1 树立科学的安全观念

建立起对人工智能安全问题的科学意识，消除恐慌和担忧的情绪，更好地利用技术促进社会的进步和发展，是规避人工智能安全问题的重点。将人工智能安全问题绝对化一定程度上是在将安全风险扩大化，相关行业人员应该树立起科学的观念，辩证看待人工智能的安全问题，立足发展，认真权衡利弊，别让安全问题阻断了发展的道路，应该运用规则的作用，以更先进的管理手段和技术措施应对人工智能所带来的负面影响。

3.2 完善法律法规，制定道德准则

政府应充分发挥主导作用，专家作为技术宣传的主体应该肩负起普及人工智能信息安全相关知识的责任，公众要积极参与其中，发挥整个社会的协同作用，针对人工智能的不同环节和应用场景，研究人工智能安全发展方略，明确各主体的权利和义务。同时，有关部门制定相关的法律法规，划定人工智能安全发展的边界，并鼓励公众参与到伦理道德准则的制定过程之中，在人工智能的科研团队中开展相关伦理道德的知识宣传工作，发挥伦理道德的柔性约束作用。

3.3 确立有效的发展策略

任何一项技术的出现都会经历一个相对漫长的发展过程，过去很多技术都是遵循先发展后治理的原则，但是当技术发展速度越快，产生的影响就会越大，滞留的问题就会越多。人工智能具备自主、智能和自适应的特征，因此要改变发展策略，将发展和治理放在同一高度来看待，欧美各国在人工智能的发展战略中将安全管控和风险治理都纳入了其中，防微杜渐，这是我们需要学习和借鉴的。在新一代人工智能的发展过程中，应该以科学的态度迎接安全挑战，做好相关的安全保障措施，才能更好地促进人工智能的发展。

3.4 创新加快科学普及，强化舆论引导

要构建一个健康的人工智能发展环境，就要加大科普宣传力度，发挥舆论的引导作用，传递正能量，让人们认识和了解人工智能的发展现状以及取得的成果。针对人工智能是否会取代人类等一系列疑问，相关专业人士应该进行科学宣传和引导，消除人们对人工智能的误解，帮助他们打消疑虑，营造和谐稳定的社会氛围，提升全社会的科技认知水平，让人工智能更好地为人类服务。

3.5 人工智能的安全评估与管理

当前人工智能正以飞快的速度向前发展，相关人士应对其可能产生的危害以及危害的程度进行科学的评估，人工智能产生的安全性已不容忽视。由于人工智能产生在出现问题之前没有任何预兆，因此人们会认为高科技所造成的后果是十分严重的，进而导致对相应安全问题严重性做出偏高的主观评价，这也体现了人工智能安全评估和管理的重要性。安全评估主要着眼于那些未发生但存在发生可能性的事件，并将其数据化，计算事故发生的概率、划分危险等级，并制定相应的安全标准和对策措施，从中选择最佳方案，以预防事故的发生。对人工智能进行安全评估，不仅能够让技术人员更加全面地认识到研发对象的特性，设计出更加全面且安全的系统，同时在工程技术当中，安全评估是安全管理的重要内容。

4 结语

综上所述，人工智能给人类社会带来的深刻变革是有目共睹的，纵观历史，每一个经济繁荣时代的到来都是由新技术引领的。随着人工智能技术的不断进步，人工智能在给人类带来更多技术上的变革和生活上的便捷的同时，也存在着一些安全隐患。在这个智能时代背景下，我们应该理性看待人工智能的影响，同时还要用发展的眼光看待人工智能的发展，因为它就好比是一把“双刃剑”。当然，更重要的是，我们不应将人工智能的安全问题丢给未来，人工智能安全问题不仅是网络安全领域面临的问题，更是全世界都需要解决的问题，只有真正解决了人工智能的安全问题，才能将人类引入更加光明和幸福的未来。

[1]杜严勇.人工智能安全问题及其解决进路[J].哲学动态,2016.

[2]史博伟,傅晓微. 美国的国家网络安全战略及其借鉴意义[J].南京邮电大学学报(社会科学版),2016.

[3]何哲.人工智能时代的政府适应与转型[J].行政管理改革,2016.

[4]郭华. 基于人工智能的网络安全技术[J].电子技术与软件工程,2017.

[5]邵江宁.基于人工智能后发制人的网络安全新对策[J]. 信息安全研究,2017.