2018中国人工智能移动安全高峰论坛

时间：2018年7月10日下午

地点：国家会议中心

主题：AI时代智能终端的攻与防

论坛概况：

中国信息通信研究院、电信终端产业协会、移动安全联盟聚焦于AI技术与安全问题，于7月10日下午成功举办主题为“AI时代智能终端的攻与防”的2018中国人工智能移动安全高峰论坛。工业和信息化部网络安全管理局副局长杨宇燕，电信终端产业协会理事长、移动安全联盟理事长谢毅，以及来自终端厂商、互联网企业、安全厂商、科研院所的代表共两百余人参加了本次论坛。论坛由中国信息通信研究院泰尔终端实验室副主任马鑫主持。论坛邀请到多位业界大咖分别就AI技术的安全与应用进行深入广泛的交流，发表各自观点，分享成果与经验，共同探讨人工智能领域所面临的安全问题与应对方案。

杨宇燕 工业和信息化部网络安全管理局副局长

本次“人工智能移动安全高峰论坛”聚焦人工智能与移动安全，共同分享和探讨成果与经验，对做好人工智能安全工作具有重要的意义。在推动人工智能与移动互联网发展的同时，必须高度重视安全的问题。2017年底，工业和信息化部在国家新一代人工智能发展规划基础上，出台了《促进新一代人工智能产业发展三年行动计划》，提出构建人工智能网络安全保障体系的目标。保障人工智能的安全是一项复杂的系统工程，目前还存在安全意识不足、制度落实不到位等问题，提出四点建议：第一要突破核心技术，提高人工智能产业自主可控水平；第二要加强标准制定，建立并完善技术标准体系，积极探索基于标准开展安全认证；第三要建立网络威胁信息共享机制，依照《公共互联网网络安全威胁监测与处置办法》、即将出台的《网络安全漏洞管理规定》等规定，加强安全漏洞的管理；第四要加强应急处置和评测体系的建设，落实工业和信息化部公共互联网网络应急预案，健全人工智能移动安全应急机制，并接入工业和信息化部年底即将建成的网络安全应急指挥平台。

谢毅 电信终端产业协会理事长、移动安全联盟理事长

电信终端产业协会一直秉持中国信息通信研究院“国家高端专业智库，产业创新发展平台，信息社会创新发展的思想库和使能者”的定位，移动安全联盟立足于搭建移动互联网安全合作的交流平台、服务企业、支撑政府，主要在政策支撑、技术标准和产业技术研究、测试与评估和应急响应机制四个方面开展工作。

李康 360智能安全研究院院长

目前安全人员已经意识到AI有很多安全问题，过去学术研究更多的关注逃逸攻击，是欺骗人工智能，叫骗人攻击。但对于模型和数据的安全保护关注不够，模型推测攻击，攻击者的目的是偷取人工智能里面的模型或者参数，是偷人攻击。在关注骗人攻击的同时也应该关注软件和模型本身的安全性。智能和安全其实已经在安全领域对抗了很多年，现在确实有很多新的人工智能应用，安全只要有新的领域、新的应用，就会有新的安全关注。安全是一个持久的问题，会逐渐体现在不同新的领域，安全对抗应该是安全领域的永恒主题。

刘焱 百度AI安全负责人

深度学习模型广泛应用于生活的各个领域，从100元左右即可入手的智能音箱，啤酒节里抓捕逃犯的智能安防，快速便捷的人脸闸机和人脸支付到越来越成熟的无人驾驶车辆，深度学习技术逐渐改变着人们的生活。但是深度学习模型自身安全方面的研究和防御技术却相对滞后。结合目前工业界和学术界的最新前沿进展，透析深度学习模型的脆弱性以及常见的攻击方法，并提供一个开源的平台，便于工业界和学术界更加便捷的研究深度学习模型的脆弱性和防御方法。

王琦 KEEN CEO

安全漏洞从来不是因为黑客而存在的，恰恰是因为黑客发现而被消灭。无论机器学习、深度学习是否是人工智能的未来，如果我们现在共同关心对抗攻击，一定会对人工智能未来的发展有所帮助。很多人可能认为对抗攻击会是深度学习的问题，但其实不是，深度学习可能反而恰恰是对抗攻击处理的最好的一个领域。

郭耀 北京大学高可信软件技术教育部重点实验室教授

AI有很多问题，但换个角度来看，AI也能够为我们解决很多安全问题，可以利用AI技术提高移动应用的安全和对隐私保护安全进行分析，比如广告欺诈检测，隐私分析，还有一些其他的隐私保护控制方面的工作等等。

王佳斌 腾讯公司移动安全防病毒负责人

AI现在已经在移动反病毒领域有了非常广泛的应用，站在防御者的角度，一是要系统化的构建一个学习的数据，优化我们检测的效果，这是一个相对系统一点的工程；二是要提高AI模型或AI在反病毒领域应用过程中的鲁棒性。

杨正军 移动安全联盟秘书长

AI+IoT也就是AIoT时代已经到来，主要有三个方向的安全问题，一是AI会放大IoT终端面临的传统安全风险；二是AI在IoT终端上的应用存在安全盲点；三是隐私与数据安全问题在AIoT设备中会凸显。提出了AIoT信息安全发展的几点建议，一是制定政策与标准，加强行业监管；二是建立物联网的安全检测体系，促进法律法规的落实；三是加强安全宣传，提高企业和用户安全防范意识。

陆全 阿里巴巴安全部资深总监

目前人工智能还是像孩子一样需要我们去呵护，不能因为人工智能有各种问题就不去做研究，现在可能非常易于被攻击，但随着智能的发展就不会再像现在这样易于被人攻击。

韦韬 百度首席安全科学家

目前在大部分产业里都是这种情况，技术推进的时候，很少有人考虑安全问题。现在AI在各个领域推进的速度超乎大家想象，在这种情况下，这些典型应用场景有极其严峻的安全和隐私的威胁。目前还需要做很多工作，要在安全上有新的突破，把地基重新夯实。

陈洋 小米科技首席安全官

AI给我们开展了一个新的应用技术，现在有了各种各样的应用场景，但我们完全没有必要去恐惧它带来的安全问题，因为安全永远是一个不断攻防的过程，问题暴露了，我们解决问题，它就安全了。

唐博 长虹信息安全灯塔实验室首席科学家

从设备厂商或者物联网智能设备厂商来说，AI是对产品效率的一个提高，对用户使用体验的一个提高。同时会带来一些安全问题，这也是正常的。AI可以把它看作三个发展阶段；一是用AI的方法可以解决一些安全的问题；二是用安全来保护人工智能；三是当人工智能的安全达到一定程度的时候，AI会有更大的发展。

马鑫 中国信息通信研究院泰尔终端实验室副主任

AI应用与安全是一个双刃剑的问题，任何技术本身没有对错之分，只有先进落后之分。AI是一个大系统，软件越复杂，它的安全点越需要关注。在整个技术研究过程中，是一个平衡的问题。要考虑AI应用的场景，有些东西应用场景比较简单的情况下，它的安全性比较容易能够满足或者保障。在AI应用比较复杂的情况下，更需要安全性的保障和研究。 ■