警惕人工智能技术发展带来的网络安全威胁

■ 赛迪智库

推进人工智能技术在网络安全领域的深度应用己成为全球趋势。然而，人工智能是把双刃剑，在给网络安全技术产业带来变革的同时，也不可避免地增加了新的网络安全风险点。赛迪智库网络安全研究所认为，我国应采取四方面的措施，积极探索人工智能时代的网络安全问题解决方案；一是重点突破人工智能网络安全技术；二是加快优化人工智能开发框架；三是积极应对人工智能型网络攻击；四是联合抵制人工智能型网络安全军备竞赛。

近年来，人工智能越来越成为引领未来的战略性技术，世界主要发达国家纷纷把发展人工智能技术、推进人工智能在网络安全领域的深度应用作为提升国家网络空间核心竞争力、维护国家网络空间安全的重大战略。然而，人工智能技术是把“双刃剑”，在大力发展人工智能网络安全技术的同时，必须高度重视可能带来的网络安全风险，加强前瞻预防与约束引导，最大限度地降低风险，确保人工智能在网络安全领域安全、可靠、可控发展。

推进人工智能技术在网络安全领域的深度应用成为全球趋势。

一、人工智能技术成为国家网络空间竞争的新高地

当前，主要发达国家纷纷加强网络安全领域的人工智能战略布局。美国把人工智能技术提升到能给网络安全、甚至国家安全带来颠覆性变革的战略的高度。

2016年10月，美国前总统奥巴马发布的《国家人工智能研究和发展战略计划》提出，“确保人工智能系统安全可靠”的发展战略，要将“对抗机器学习”作为人工智能发展的关键领域。同年12月20日，美国白宫发布的《人工智能、自动化与经济报告》提出，“出于网络防御和欺诈侦查目的发展人工智能”，意在打造能精准预测网络攻击、有效侦测欺诈交易和欺诈信息的人工智能系统。

在我国，国务院于2017年7月印发《新一代人工智能发展规划》，提出要加强人工智能网络安全技术研发，强化人工智能产品和系统网络安全防护。工业和信息化部于2017年12月发布《促进新一代人工智能产业发展三年行动计划(2018-2020年 )》，明确倡导人工智能先进技术在网络安全领域的深度应用，提出到2020年要实现的目标，即“完善人工智能网络安全产业布局，形成人工智能安全防控体系框架，初步建成具备人工智能安全态势感知、测试评估、威胁信息共享、应急处置等基本能力的安全保障平台”。

二、人工智能技术成为IT企业布局网络安全技术产业的新抓手

人工智能技术正在引发网络安全产业变革热潮。根据CB Insights的统计结果，在应用人工智能领域，网络安全是活跃度排名第四的行业。

一方面，新兴IT企业着力研发基于人工智能的网络安全技术，并强势崛起成为领域独角兽企业。美Cylance是世界上最早提供基于机器学习和人工智能反病毒的公司之一，其研发的反病毒软件Cy-lance PROTECT利用人工智能预测网络攻击的发生，在没有网络连接的情况下，仅需60MB内存和1%的CPU就能保护计算机免受攻击。目前，该公司的估值已超过10亿美元。美国Palo Alto Networks推出的名为Magnifier的行为分析解决方案，使用结构化和非结构化的机器学习来模拟网络行为，改善网络危险检测。

另一方面，大型互联网和网络安全企业纷纷加码网络安全领域人工智能技术的创新和应用。2017年，亚马逊先后收购人工智能网络安全公司Harvest.ai和Sqrrl，通过机器学习和人工智能算法，加强对数据窃取行为的识别和阻止，以保护云中的敏感数据。2018年 5月，360发 布 了“安全大脑”，利用人工智能技术对采集的安全数据进行分析计算，可实时感知网络安全运行状况和态势，预测网络攻击并自动响应。

三、人工智能技术成为应对网络安全风险的新方案

网络安全专业人员不足和网络攻击发现能力薄弱，日益成为抵御网络安全风险的短板。人工智能技术以其强大的运算能力逐步成为应对网络安全挑战的新方案。

一方面，人工智能技术能够大幅提高分析效率。一个信息安全分析师一天的日志数据分析量，利用人工智能技术只需几分钟就能完成。

另一方面，人工智能有助于提升威胁检测效果。基于机器学习、深度学习等算法，人工智能技术能够主动识别网络中的异常行为，现已充分应用于物联网设备防御、恶意软件预防、安全运营中心效率提升、风险量化，以及网络流量异常和恶意移动应用检测等领域。

ESG的调查显示，12%的企业组织已普遍应用了基于人工智能的安全分析产品，27%的企业间接使用了基于人工智能的安全分析服务，20%以上的网络安全工程师希望使用基于人工智能的网络安全技术加速事件检测和响应、识别和处置网络安全风险，掌握网络安全态势。

赛迪智库网络安全研究所认为，我国应采取四方面的措施，积极探索人工智能时代的网络安全问题解决方案；一是重点突破人工智能网络安全技术；二是加快优化人工智能开发框架；三 是积极应对人工智能型网络攻击；四是联合抵制人工智能型网络安全军备竞赛。