人工智能时代， AI安全防御“不容小觑”

姜海

加强人工智能安全防御需要从防止人工智能失控（AI Safety）、保证人工智能自身安全（AI Security）和将人工智能用于安全（AI for Security）推进。

创立丁牛科技的初心——侠客梦

每位网络安全人心中都有一个侠客梦，希望执剑闯江湖、行侠仗义。创业之初，我毅然选择了安全行业。因为我相信，互联网安全必将成为重中之重。我希望在浩瀚虚拟的世界中，手执正义之剑，应对恶意攻击，为维护网络空间清朗而战。

起初，网络攻击只针对重点目标的核心资产。但是，随着IT技术和互联网的发展，之前不受重视的用户信息、消费行为等信息成为核心数据。而隐私数据的泄露不仅会打扰个人的日常生活，甚至会造成巨大的经济损失。在某酒店行业的用户信息泄露事件中，犯罪分子利用泄露信息办理了25张信用卡，对信息被泄露用户的经济与名誉造成了极大损害。

我在网络安全行业深耕二十年后决定创业，希望创立一家将人工智能技术应用于安全领域的公司——丁牛科技。恰逢此时，AI技术已日渐成熟。将AI技术应用于网络安全，一方面，用机器取代人工节省人力;另一方面，利用人工智能不断自我学习、迭代演进、识别网络攻击、达成有效防御，为客户提供更高效、更经济、更稳定的安全防护。丁牛科技以“AI赋能安全”为使命，致力于帮助企业降本增效，提供持续高效、省心可靠的安全防御。但是，人工智能安全产品的研发，并非一蹴而就。人工智能安全产品的研發之路，充满了艰辛。但无论经历什么，丁牛科技人都不忘初心、砥砺前行。目前，已承接多个国家级科技创新网络安全专项并为来自政府、公安、通信、交通及互联网等行业客户提供安全保障，获得客户的高度肯定。

随着人工智能技术的广泛应用，其成果渗透到方方面面：智能手机、智能音箱、智能机器人……与此同时，这些人工智能行为体（以下简称“智能体”）的安全问题虽然受到重视，但安全事件仍频发。可见，在人工智能迅猛发展的同时，安全隐患同样不可忽视，必需加强人工智能自身的安全防御。

推进人工智能健康发展，需要三步安全加固方案

加强人工智能自身的安全防御，需要从防止人工智能失控、保证人工智能自身安全和将人工智能用于安全防御三个方面推进。丁牛科技正在研发的智驭系列安全产品就是将人工智能用于安全防御。

AI Safety——给人工智能带上“保险箍”

人工智能需要载体，而载体可以在无人类干预时按照硬编码方式自主产生动作。

AI Security——“安全投入+算法+样本”都要重视

随着物联网技术的蓬勃发展，“智能家居”日渐普及应用。但家用WIFI、路由器、机顶盒等IoT设备却并不安全。因为IoT设备生产商为了方便部署和调试、降低成本，对这些设备设置了雷同的弱口令，为黑客的远程攻击和控制提供了便利。AI技术在算法方面无论如何严密，都可能存在错误。另外，人工智能主要依靠机器学习，需要大量的样本。一旦样本被污染，训练出来的模型将会产生偏差。因此，建议AI厂商首先要提高安全防范意识，加大安全投入。从产品设计开始就要进行安全投入，在顶层设计和成本投入方面均做好安全考虑。其次，在算法方面不仅要考虑安全问题，还要考虑在极端情况下容错问题。最后，需要高度重视样本的纯净性和准确性，避免使用污染样本。”

AI for security——丁牛科技就要将人工智能用于安全防御

目前，越来越多的安全厂商开始关注如何将人工智能用于安全防御。传统的漏洞挖掘与利用，主要基于安全专家的人工分析。受限于安全人员的专业水平及经验，漏洞挖掘与利用方面尚存在耗时长、效率低、成本高等问题。

丁牛科技自主研发的人工智能自动化机器人，在去年举办的BCTF、“黄鹤杯”机器人网络安全大赛等活动中崭露头角，都取得了不错的成绩。

同时，丁牛科技作为精准智驭安全提供商，正在研制一款针对Web应用攻击的威胁检测工具，希望监测来自网络内外部的各类攻击威胁，减少企业安全风险。

人工智能是天使，也是魔鬼。因此，我们在沉溺于它带来的便利的同时，安全防御不容忽视。