人工智能产业发展的风险分析及对策研究

李博方

摘要：1956年，人工智能的概念正式诞生。几十年来，人类不断享受着这门科学的福荫。但风险暗藏其中。对于人工智能的未来，一方面是人类对行业前景抱有极大的希望，另一方面，是比尔盖茨和史蒂芬霍金等专家对人工智能未来风险的担忧。分析风险并研究对策显得极为重要，认识新世界的风险规律是为人工智能的风险提供保障的基础，采取有效措施预防风险是人工智能产业健康发展的关键。本文介绍了国内外人工智能产业发展的相关政策与行业现状.并对人工智能产业发展过程中可能带来的伦理风险、技术风险、军事风险以及异化风险深入分析，最后在传统风险管理原则的基础上对防范风险提出创新性建议，探索应对风险的有效措施，使其更好地造福人类。

关键词：人工智能；风险保障；风险分析；对策

2016年，弱人工智能程序Alpha Go战胜了围棋大师李世石一事在世界范围内产生了巨大反响，人工智能概念在全球范围内瞬即成为热点头条，人们开始关注并期待着人工智能可能带给世界及生活的贡献与改变。赞许之余，仍需指出，虽然从目前来看人工智能的发展对于威胁人类尚有很大距离，但随着大量资本投入到人工智能产业中，人工智能产业驶向了发展的快车道。加速进步的人工智能会对人类社会产生极大的不确定性，新技术的产生会使现有风险不断异化，产生新的风险规律，一些稳定的逻辑会逐渐被替代，整个世界的打开方式会变得大不一样。

新事物的产生伴随着旧事物的灭亡，如同阿里巴巴的出现引起了实体店的倒闭与转型，人工智能的发展将会取代人类更多的工作。当下，一方面不能因为人工智能的不稳定因素就对其放弃开发与使用，但另一方面则需对如下理念获得清醒认知，即：无法控制的人工智能定会给人类社会带来危害。为此，将需要展开系统研究，从而准确把握人工智能所带来的风险，创新风险管理模式，采取有效的风险防控措施，并将风险防范意识从研发创造的源头一直渗透到使用过程中，就需要世界各国与国际组织的大力扶持与人工智能专家们的不断努力。

1人工智能产业发展现状

据Venture Scanner的调查报告，截至2016年11月，全球范围内总计1 485家与人工智能技术有关公司的融资总额达到了89亿美元。与任何一个行业相比，89亿美元的融资量都显得微不足道，但同比2016年年初的48亿美元的融资总额，人工智能產业已然大获丰收。伴随着我国BAT等科技巨头积极规划的战略布局的成功推出，国内人工智能产业发展同样十分迅速，及时了解行业现状尤为重要。本小节将在如下要点方面针对国内外人工智能产业的发展现状给出综合阐释与分析。

1.1企业

根据《乌镇指数：全球人工智能发展报告（2016）》，全球人工智能企业集中在少数国家，其中美国、中国、英国企业数分别为2 905、709、366，总共占据全球企业的65.73%。

中国人工智能企业主要集中在北京、上海、广东等发达地区，发达地区的人工智能企业约占全国的85%左右。其中，北京市为人工智能企业集中创新地。

经济发达地区的信息化程度较高、互联网发展迅速、融资环境优良，适合各类高新产业的成长发展。上述数据也表明了人工智能企业在经济较为发达地区的发展要更为迅速。

1.2融资

全球人工智能企业的融资情况与企业分布的情况大致相同，美国人工智能企业在2016年融资总量约为180亿美元，中国企业为25.7亿美元，英国企业为8.16亿美元。

中国2015年人工智能行业获投金额约为100亿人民币，同比上升40%左右，略低于全球平均水平，其中机器人领域的投资比例则居于全领域首位。

1.3成果

全球专利数据库的数据表明，美国人工智能行业申请的专利总数约为2.7万件，中国为1.6万件，日本位列全球第三、约为1.5万件。将美国和中国的公司总数和融资金额分别与专利成果相对比，中国人工智能企业创造专利成果的效率要远远高于美国。2017年2月美国《大西洋月刊》中的刊文指出：中国的大学及公司在研发和使用人工智能方面已开始超越美国同行。

中国人工智能企业专利数量按地区分布明显，集中在北京、上海、江苏、广东和浙江五个地区，占总体60%左右。其中，机器人方向的专利占总体的38%左右。

1.4政策

近年来，世界各国和国际组织纷纷出台相关政策扶持人工智能产业。以美国、欧盟和中国为例，制定计划内容即如表1所示。

2人工智能产业发展的风险分析

科技创新必然将带来社会进步，但同时也必将面临新的问题侵扰及风险。现如今世界正处在第三次工业革命之中，在享受着快捷、便利与智能的同时，却也并行涌现了诸如失业、信息泄露等风险。但是当人工智能的收益远大于其风险的时候，就需要准确把握风险的类别及规律，采取合理的手段管控风险。随着人工智能产业的发展，技术会更加成熟，产业结构不断优化，风险的种类和性质也会逐渐变化，弱人工智能与强人工智能所带来的风险后果也将截然不同。在此，针对人工智能产业在发展过程中的各类可能新风险则可展开如下的研究论述。

2.1伦理风险

学界和业界有许多关于人工智能伦理问题的讨论，比如是否该赋予机器人人权？人工智能的伦理问题一直是舆论焦点，但始终也没有定论，多年来人工智能行业在伦理担忧中逐渐前进，诸如人工智能的使用过程中，偶尔难免会做出违背人道主义的事情，谩骂、殴打和虐待这些恶性事件就可能降临到机器人的头上，甚至当机器人变成发泄的工具、变态的玩具的时候，人类是否为这样的行为找到了正当理由？当人工智能接近人类智能时，是否能够守住人类的伦理与道德底线，给予其切实合理的伦理定位也仍是当下值得探索深思的开放性研究课题。

2.2技术风险

几十年来人工智能的发展已经深入到各个领域，涉及数学、计算机科学、心理学、神经学等众多门类，在机器人、识别系统、智能分析、智能设计等方面获得了广泛应用。历史上由技术故障导致的机器人“伤人”事件早在20世纪70年代即已见诸报端，而人工智能技术的发展并没有从根本上解决此类问题。2016年11月，第十八届中国国际高新成果交易会上由于工作人员的操作失误，使机器人撞向站台，划伤观众。由此可见，人工智能最为直接的现实挑战就是技术风险。除了威胁人类日常生活安全，人工智能的技术风险也可能造成信息泄露等一系列伴生问题。诸如此类的技术问题从源头上只能交给产品开发者来研究控制，如果不将“意外”的因素考虑进去，人工智能技术便不能进入真正的推广普及。

2.3军事风险

一个国家最先进的科技通常即会先行进入军事领域寻求拓展应用，早在20世纪60年代人工智能仅是处于定义推出阶段，世界各国便已开启了人工智能在军事领域的研究，无论从智能指挥系统等技术方面的应用还是替代士兵作战的功能，人工智能在军事领域的研究均已呈现向纵深及广域展开态势。未来的军备竞赛是兵器技术与人工智能的比拼，也是军事费用与研究水平的比拼。必须指出，战争风险仍然存在，但当机器人士兵大量出现时，战争消耗变成了纯粹的资本消耗，人身伤亡的减少会削弱道德与舆论的呼声，战争则可能会变得更加频繁与迅速。

2.4异化风险

国内外的诸多学者与专家都坚信，人工智能在未来会超越人类智能，人类正在创造一个比自身更加强大的物种。那么许多科幻电影的剧情便有可能真实上演，人工智能的异化与反抗便具备了发生可能。许多人工智能的专家也许仍持反面异议，因其会相信自己的技术水平而不是虚妄的预测。但是正如历史已然证明，就像原子弹与克隆技术一样，科学家们创造出来的成果往往并不能由本群体来决定是否投入使用。那么时下的当务之急就要合理把控这些风险，利用制度与立法规范人工智能的开发与使用，避免极端事件的发生。

3对策及建议

综上可得，现今已然无法阻挡也不会阻挡科技创新的步伐，但却必须在人工智能产生危机之前采取适当的预防性行动及相应的制度化措施来规避可能到来的危险。详情阐述可见如下。

3.1立法与监督

2017年1月，欧洲议会法律事务委员会呼吁制定有关人工智能与机器人的法案。法律是规范人工智能的研发与使用的最佳选择。许多可能会发生的风险，都可以由法律来提供约束化解，在研发方面，可以规定机器人“铁律”、量化机器人的智能等级、限制人工智能的应用范围等；在使用方面，可以限制公司对不同级别机器人的最大使用数量或占全体工作人员的比例并逐渐放宽该项措施，以降低失业潮所产生的不良影响。并且，有必要设立监管部门进行专项监督，从保障“人”的利益出发，规范市场行为，维护行业秩序，防止人工智能的肆意开发与过度使用。

3.2加强国际合作

人工智能所带来的风险是世界性的，世界各国和国际组织应该积极加强合作交流应对风险。各国应在联合国的通力协调下联合建立用于研究人工智能风险与安全问题的组织，解决人工智能所产生的国际问题。国际问题只能借由国际合作交流来一致探索设计策略与合理模式，世界各国应牢固树立人类命运共同体意识，在共同宗旨下推动世界在人工智能飞速发展的背景环境下实现平稳有序向前迈进。

3.3運用保险手段

随着科技的发展，保险业在金融业的地位逐渐提高，新型保险产品可以帮助人工智能企业与个人分散风险。现在并未推出与人工智能相关的保险产品，保险公司有待开发针对人工智能与机器人的企业责任保险、个人人身保险与财产保险，当人工智能出现技术问题造成被保险人人身伤亡与财产损失时，保险公司的赔付会在一定程度上减轻企业与个人的经济负担。

3.4征税与创新

针对机器人造成的失业现象，比尔盖茨曾表示：可以对机器人征收所得税，对因此产生的失业者进行培训，增强对失业人群高新产业技能的培养。在政策创新方面，可以在社会工作总量不变的情况下以减少个体工作量或者或减少社会工作日天数来增加就业人数。当一个新技术得到了广泛使用时，随之而来还有其衍生行业与衍生产品，未来人工智能技术对人类社会改变仍然难以做出准确描绘，这就要求人类积极创新，尽快适应新科技带给人类社会的改变。

4结束语

科技是为人类谋求福祉的一种手段，但高科技伴随高风险。人工智能的发展方兴未艾，人工智能技术是否能够呈现持续稳定的发展前景，将取决于人类对人工智能的掌控权。人工智能的风险研究会伴随着人工智能的发展则会日益突显其现实重要性，本文简要分析了人工智能产业发展可能存在的前瞻风险，但还远未足够。只有从研发人员到使用者真正重视并防范人工智能的风险，避免极端事件的发生，人工智能才能更好地服务并辅助人类生活与社会进步。