网络空间安全背景下的人工智能安全风险与治理研究

张兴春

（武警黑龙江总队参谋部综合信息保障中心 黑龙江哈尔滨 150028）

网络安全是保障国家安全的核心组成部分，在人工智能背景下，不仅可以提高网络空间的安全治理水平，还能够降低网络安全风险发生率。在网络空间安全背景之下，通过准确识别出人工智能安全风险因素，并采取有效的治理措施，可以取得较好效果。故本文主要分析网络空间安全背景下人工智能安全风险和治理要点。

1 背景分析

随着人工智能技术的全面发展，此项技术已经广泛运用到各行各业当中，促进了人类社会的快速化发展。但是，人工智能技术属于“双刃剑”，可能会带来一系列的安全问题，引起人们的忧虑，例如，无人驾驶汽车出现撞人现象、自主武器杀人等，特别是将人工智能技术应用到军事领域当中，将会引起更多恐慌。在网络空间安全背景之下，通过准确识别出人工智能安全风险，并采取针对性的治理措施，可以取得较好效果［1］。

2 安全风险分析

2.1 算法引起的安全风险

和其他产品与系统不同，人工智能具有自主性与自适应的特点。从客观层面来分析，可以承担起人类部分判断功能与决策功能，而此功能主要是利用人工智能算法实现，若智能算法不合理，会明显降低人工智能系统的可靠性与安全性。从编程层面来分析，任何一个算法都并不是完全可靠、安全的，任何一个算法均可能会引起不良后果。

另外，由于人工智能算法自身可能会存在一定漏洞，具有被利用与攻击风险，例如，针对人工智能模型的特点进行有效伪装，进而误导人工智能作出一系列错误判断。与此同时，人工智能存在“算法黑箱”的缺陷，此种作用机制具有操作难度大的问题，故最终结果无法预测。

2.2 数据引起的安全风险

当前时期，人工智能主要采取深度学习方法，和人类不同的是，人工智能没有任何基础知识可言，其所有知识主要来自之前所接触到的各项数据，不管是训练数据，抑或是和外界环境试错交换而来的数据。人工智能系统可以结合数据学习如何思考，并开展下一步的行动，所以，用来训练模型数据类型，对其最终的行为方式起到决定作用。不同类型的数据集会让人工智能产生多种训练结果，此种数据的过度依赖可能会带来较为严重的风险，错误或偏差比较大的数据容易出现带有一定偏差与偏见的人工智能。

人工智能是主要以数据训练为主的智能，其和人类智能存在较大差异，人类与机器在开展有关任务时，其具体方法存在一定差异。当前阶段，通过对算法进行深度学习，仅可以反映出统计特征或者数据之间的关联关系，没有真正获得数据本质特征及数据之间的因果关系。例如，接受过特定对象图像训练的计算机视觉算法可以在全新图像当中准确识别出此类对象，同时对其进行有效的分类，但是，系统无法充分理解出此对象的具体含义与概念，所以可能会犯下严重错误［2］。

2.3 人工智能应用引起的安全风险

人工智能作为一种全新技术，在实际应用期间，会给不同领域带来一定的影响与冲击，进而产生一系列的安全风险，主要包含政治安全风险、军事安全风险、经济安全风险等。

3 风险治理要点

3.1 技术层面的治理要点

在技术层面，需要深入学习人工智能赋能技术，并加强安全风险治理力度，可以取得比较好的效果。自2006年以来，研发人员提出深度学习模型，人工智能的有效运用引入更深层次的学习概念，实现人工智能技术的跨越式发展目标。在信息化技术与网络化技术全面发展的今天，积累海量数据信息，这些数据信息以图形处理器处理技术与超算技术为基础，通过进行深度学习，可以从大数据当中提取、发现各类知识，具备良好的学习能力与推理能力，尤其是Google 公司的人工智能围棋程序，能够充分体现出专用人工智能的全面突破，包括深度学习潜力。

第一，通过深度学习技术，可以有效强化网络空间的威胁感知能力与防御能力。以网络空间大数据作为重要的数据资源，通过深度学习技术，可以明显提高网络空间感知和防御能力，在多种不确定环境中，系统的动态适应能力得到明显提升，针对海量模糊与非线性数据进行自动化分类聚合，并加强关联性分析，从多个角度来感知网络安全威胁，进一步了解网络空间发展态势。通过有效运用智能化网络空间攻击手段，打造更加稳定的网络空间安全防御体系，可以取得比较好的风险防范效果。

第二，提升深度学习技术当中的算法和数据安全性。人工智能本体安全，针对网络安全具备多维依赖关系，现阶段，深度学习等一系列人工智能算法的可解释性比较差，容易受到干扰和欺骗。例如，卷积神经网络与人工神经网络等一系列关键算法当中存在较多安全隐患，采取伪造数据或者污染样本的方法，可以干扰深度学习模型的正常运行。深度学习数据具有较强的隐私性，可靠性也比较差，缺乏安全密码的保护，容易引起窃取、破坏等问题，通过加强人工智能本体安全防线，可以有效提高深度学习的稳定性与可靠性。

第三，加大深度学习基础理论和核心算法储备攻关。通过深度学习人工智能基础理论和核心算法，能够有效提高移动网络空间人工智能安全治理水平，保证网络空间人工智能更加安全。例如，通过全面加强“Cyber+AI”理论，加强技术储备，能够全面发挥出网络空间大数据与人工智能商业创新优势，确保国产深度学习平台能够更好地投入具体应用中［3］。

3.2 在军事层面的治理要点

从军事层面来分析，主要关注基于自主网络攻防武器混合作战问题。与陆地、海、空等作战区域不同，发生于网络空间的各项攻防博弈具备速度快、智能水平高等一系列特点，网络空间作战具有“秒杀性”特点。与此同时，由于网络空间对人类的日常生活和生产影响越来越大，让人们也更为关注网络攻防对人类社会的政治与经济层面带来的影响，若单纯依赖人类自身的智力与体力，无法满足网络空间作战要求，因此，需要依赖自主化与智能化网络攻防武器，同时在多个领域进行混合作战。

3.2.1 自主网络攻防作为混合作战的重要作战样式

混合作战属于一种新型的作战行动，具备投入比较少、见效比较快、隐蔽性较强等一系列特点，网络空间作战是混合作战的核心内容，也是混合作战典型非对称作战模式。

通过加强混合作战和应对措施理论研究，特别是重视国外敌对势力利用互联网来散布谣言，以及网络窃密等诸多手段，避免对我国舆情社情与基础设施袭扰严重破坏。

3.2.2 合理运用自主网络攻防武器

当前时期，在人工智能技术发展背景之下，具备高度自主性网络攻防武器。因其内部技术具有不成熟的特点，包括外部人员的不合理使用，会明显增加网络空间的不确定性。为解决此问题，合理运用自主网络攻防武器特别重要，具体途径如下。

第一，全面学习典型人工智能技术等基础理论，并建立在概率论与数理统计基础上，缺乏良好的因果对应关系，而现有的各项技术也无法准确预估出自主网络攻防武器风险事件与安全边界。

第二，自主攻击网络武器扩散和不规范的使用，此种情况会给网络空间安全带来严重危害。从国际层面来分析，通过形成制约自主网络攻防武器机制，以及相应的公约规范，并对自主网络攻防武器实施加密处理，能够取得较好的安全防控效果［4］。

3.2.3 加快自主网络攻防发展步伐

根据人类战争历史进程和结局可以得知，技术作为战争形态演进的主要推动力，也是战斗力的重要组成部分。在军事领域当中，自主化与智能化的网络攻防具有技术性较强、实施难度高的特点，过于依赖网络态势深度认知等新型技术。与此同时，如何在信息化与网络化战场中充分发挥出网络攻防的作战效能，特别是如何通过战情虚拟仿真实验等手段设计出合理的自主网络攻防作战模式，还有待进一步研究。

对于有关部门来讲，通过从技术和军事等两个层次入手，促进网络攻防装备和手段的研发进程，通过建立专业靶场与仿真系统等，实现自主网络攻防技术的全新突破，为后续的先进装备试验鉴定提供良好的作战力量。

3.3 在政治层面的具体应用

3.3.1 “AI+社交大网络”

现阶段，各类社交手段正在快速发展，形成一个动态化的社交网络，“AI+社交大网络”的有效运用不但可以充分反映出个人职业与爱好，而且能够促进人与人之间的联系。通过有效运用统计机器学习自然语言处理技术，能够实现多源异构海量网络舆情实施监控采集，以及结构化的提取。通过有效利用大数据分析技术，为个性化新闻发布和推送提供良好依据。

3.3.2 促进智慧社会转型

最近几年以来，由于大数据和人工智能技术的全面发展，以广域分布社会网络作为重要基础，人类在日常的生活与工作中会积累海量数据信息，为提升社会综合管理水平提供了较好支持。通过将人工智能技术和计算社会科学完美结合，可以通过模拟微观个体互动，以及涌现宏观社会现象，取得良好的风险防治效果［5］。

3.4 注意事项

3.4.1 加大网络安全管理力度

网络安全与信息化与国家安全与发展水平息息相关，对广大人民群众的生活影响较大。在总体安全观的大力指导之下，通过加强顶层设计，并对既有的规划进行有效完善，可以进一步提升人工智能发展水平。在社会层面，可以获得比较好的网络安全风险防范效果。从国家层面来讲，通过设置重大科技专项牵引技术，并从政府层面落实相应的配套政策，加大资金投入，可以有效提升人工智能的竞争力。

3.4.2 创设四位一体的安全环境

通过构建网络空间人工智能体系，并加强安全风险治理力度，能够实现多个领域资源的高效利用，进而形成群策群力治理模式，建立政府、高校、企业与个人等多个类型主体的安全系统。针对政府有关部门来讲，需要明确自身的工作职责，构建稳定的人工智能治理专业委员会在内的网络安全人工治理顶层决定机制，促进网络安全的人工智能治理和国家战略协调发展。针对各大高校来讲，需要主动承担起“助推器”的作用，明确自身的主体责任，充分发挥出科研和人才培养优势，以智能化技术与核心，解决人工智能与网络信息技术应用期间存在的问题。针对企业来讲，需要主动承担“发动机”职责，全面发挥出网络空间数据的各项优势，促进人工智能技术的全面运用，提升网络安全意识，并加强人工智能素养培养力度，加强个人隐私保护，避免个人隐私与特征数据出现严重泄漏的情况。政府有关部门还要自觉分辨出虚假社会舆情和网络舆情，严禁传播不实言论［6］。

3.4.3 加大复合型人才培养力度

要想建设网络强国与人工智能强国，加强专业人才培养力度特别重要，政府、高校和企业之间需要保持密切配合，妥善解决网络空间背景下人工智能高端人才的培养问题，实现人工和政治学及行政管理等多个学科之间的交叉与融合。网络空间的人工智能治理涉及的内容比较多，主要包含网络安全、人工智能和政治学等一系列知识，通过全面推动政府、军队、高校及各个科研机构之间的联系，为复合型人才提供一个较好的政策环境与科研环境；同时，从薪资待遇与发展前景等多个层面入手，加大吸引力度，能够留住更多人才。针对网络空间人工智能治理复合型人才，需要制定出特色政策，在不违反法律规定要求的基础上，为其提供良好环境，让人才可以更好地投入到科研工作当中，真正做到人尽其才。

4 结语

综上所述，本文主要对网络空间安全背景下的人工智能安全风险与治理措施与注意事项进行研究，包括加大网络安全管理力度、建立四位一体的安全环境、加大复合型人才培养力度等，取得了比较好的安全风险治理效果，故可以为相关工作人员提供良好的帮助和借鉴。