人工智能的风险及其防范

杨丁+张登翔+蒋太平+冉闯闯+谢佳讯

摘 要： 高科技在社会生活中广泛应用时，带来了很多科技红利，但是也出现了一些风险。本文主要讨论最近发展势头很猛的人工智能。讨论人工智能在伦理、就业、安全等方面可能带来的风险，以及防范措施。

关键词：高科技；人工智能；伦理治理；系统安全；自反性；失业补偿；

1 引言

近年人工智能出现了第三次发展高潮，这次高潮因为当前的硬件实力、算法和数据等技术的原因，被认为是区别与以往的高潮。当前强大的硬件基础、海量数据和先进的算法为人工智能赋予了强大的动力。

强大的动力，使得人工智能渗透到很多的社会领域，我们在享受它带来的科技红利的同时，也必将受到一些负面影响。本文将会讨论人工智能可能带来的负面影响，以及对应的解决措施。

2人工智能

人工智能，也就是机器智能，一般指人为制造出来的机器所表现出来的智能。他的核心为机器学习。机器学习可以分为监督学习和无监督学习。当用标记好的数据进行模型训练时，为监督学习。当用未标记好的数据进行模型训练时，为无监督训练。监督学习的识别率一般都比较好，但是获取标记好的数据比较难，需要较高的代价才能获得。无监督学习可以不使用标记数据，但是学习效率低和识别率低。

目前最受关注的机器学习算法为，福岛教授提出来的卷积神经网络。该算法是监督学习下的机器学习。此外，深度学习的概念来源于人工神经网络，常见的深度学习算法包括：受 限波尔兹曼机，卷积网络，堆栈式自动编码器。

3 人工智能带来的问题以及解决措施

3.1人工智能系统的安全问题

人工智能系统包括了，智能硬件、移动应用端和云端。首先从技术层面来说，智能硬件的体型普片偏小，所带资源较少。出于功耗的考虑，智能硬件的加密手段变的比较死板单一。其次，智能硬件的固件难以升级，一旦固件上出现漏洞，就很难对其进行维修只能将设备进行更换，这在成本和安全上都很是不利。在移动应用端上，也存在这一些问题，移动端的防守能力普片偏弱，存在这很多的显露出来的或者隐藏这的漏洞。如果不法分子利用了这些漏洞，则可能给用户带来惨痛的后果。云端和应用端也有类似的问题，服务器上或多或少的存在一些漏洞。

3.1.1人工智能系统安全问题的解决方案

（1）面对智能硬件的安全问题，我们可以从生产厂层面上保障智能硬件的安全，比如可以在智能硬件中加入FPGA（现场可编程门阵列），在上面存入加密协议和固件。当加密协议被破解或固件出现漏洞时，实时的更新FPGA上的机密协议和固件就可以了。虽然这样子会增加成本但是安全有了更大的保障。

（2）建立人工智能系统的安全评估与认证制度。设定出比较统一化的安全等级评价标准，对不同的领域给予适合他不同的安全等级要求。对于直接影响生命安全的人工智能应用，给予比较高的安全等级要求，如智能驾驶。当然对于一些不太影响大众的人工智能应用，可以适当的放宽要求，以免抑制了技术创新。总体来说，随着人工智能领域的安全评估和认证制度的出现，人工智能系统的良品率将会上升。

（3） 建立安全威胁监察制度，让硬件生产商、相关从业者、使用者一起监察人工智能系统的安全漏洞，一旦发现安全漏洞就即时上报。确保人工智能系统在生命周期内的正常工作。

（4） 建立行业自制制度，促进行业内同行的信息共享。比如，建立白名单，凸显出高质量的供应商和制造商。也可以建立方案解决库，当出现了已经出现了的问题后，可以直接从方案解决库中，找到解决方法，快速的解决问题。

（5）建立响应机制，建立专门的技术团队，当出现问题时，以最快的速度解决问题。

（6）建立明确的责任制，我们可以将责任细化到产业链的每一个节点上。

3.2失业问题

人工智能的高速发展，会对未来的就业结构带来很大的影响。未来的社会生产活动可能只是由机器人、少数的从业者和人工智能来完成。这会让很多人失业，而这些失业者将会变成社会中动荡不安的因素。如何应对这些失业者，也是人工智能需要面对的问题。

3.2.1人工智能带来的失业问题的解决方案

人工智能带来的失业问题，可以由多个方法进行协同解决。第一个方法就是，提高高收入人群的征税比例，用以弥补和缓解高收入人群和低收入人群的差距。第二个方法就是，向人工智能和机器人进行征税，对其征收智能税。通过提高人工智能的使用成本来缓解机器人的使用速度，为人类带来一定的缓冲时间。

对于失业者而言，随着人工智能税和高收入群体征税比例的增高，相应的福利措施，将会保持他们的基本生活。如果失业者对此不满足，他们应该至少还有两个选择。选择一是，进行学习，努力提高和拓宽自己的知识面和知识能力，从而进入到人工智能相关的工作岗位。从而再次拿到工资。当然这对个人的要求很高，要有较好的毅力和智商。对于无法二次就业的人，可以让这些人员通过心灵的调适，追求更加纯粹的人的价值和心灵的安静。

3.3 人工智能的隐私问题

人工智能的智能化，往往需要海量的数据。这也就代表这人工智能应用必然隐藏这隐私侵犯风险。比如，随着各种数据采集器的出现，智能系统获取到了越来越多的人体信息和人体行为信息，人工智能变的比你自身还要更了解自己。除了采集人体信息外，人工智能也可能进行知识的抽取。例如，人工智能可以整合你这个人的网页浏览记录、购物记录、旅行记录。从中整合出你个人的行为轨迹和个人偏好和习惯，从而推测出你未来的行为。这些数据应用的合理合法会大幅度的提高人类的生活质量，但是如果用于非法的事情，这可能也会带来灾难性的后果。

3.3.1人工智能隐私问题的解决方案

对于人工智能的智能化带来的隐私问题，可以通过法律手段进行解决。开展立法研究，建立适应智能化时代的法律法规。也可以建立相关的行业标准，使行业变的更加规范和标准化。此外，也可以建立相关的监察机智，一旦发现违规操作就进行相应的处理。

4总结

随着人工智能时代的到来，科技红利随之而来，但是问题也随着而来。我们需要通过适当的方法，来处理随着而来的人工智能伦理问题、人工智能安全问题、人工智能泄露隐私的问题、人工智能带来的失业问题。我们需要未雨绸缪，提前想好这些问题的解决方案，这样子在问题出现后，才能使得问题的影响限制在一定程度内，使得社会更加稳定。当然，现阶段思考出来的方案也不见得完全适合未来，毕竟未来是充满了变数的，当问题出来后，各种方案需要随着当时的情况实时的进行更新。

参考文獻：

[1]吴沈括，罗瑾裕.人工智能安全的法律治理：围绕系统安全的检视[J/OL].新疆师范大学学报（哲学社会科学版），2018（04）：1-9[2018-01-10].

[2] 杜严勇.论人工智能的自反性伦理治理[J/OL].新疆师范大学学报（哲学社会科学版），2018（02）：1-9[2018-01-10].

[3] 柴艳萍. 当前中国伦理治理的研究现状与未来趋势--中国伦理学会第八次全国会员代表大会暨学术讨论会综述[J]. 中州学刊， 2013， 2013（11）：97-100.