军用人工智能与网络安全

◎ 国防大学 徐纬地

近年来，随着信息网络技术的发展，人工智能迎来了发展新高潮，成为全球科技竞争新高地，在军事领域的应用也日益增多。人工智能军事化应用将对未来战争产生深远影响。为此，本文深入分析了人工智能的军事应用对未来战争的影响、带来的问题和挑战，指出军用人工智能对信息网络技术发展提出了新的更高要求。

随着信息网络技术的发展，大约从2000年代开始，人工智能的研发再次掀起新的高潮。任何新技术突破会首先应用在军事上，这已经是技术发展的客观事实。本文就当前和今后一个时期人工智能的军事应用及其带来的影响、问题，及其与网络安全的关系做一初步探讨。

一、人工智能发展迎来新高潮

人工智能从概念提出到今天，已经经历过多次起伏，有高潮也有低潮。上一次高潮大约是在上世纪80年代前期，主要是基于规则模拟人的思维心理，或开展计算机自然语言处理。其基本特点是重理论探索，但工程实践没有能跟上。一些机器翻译系统的研发也大多是片段性进展，发表几篇学术论文就完事，并没有产生实际社会经济效益。总体来说，这一波人工智能研究普遍欠深入，除了一些学术文章外，真正能立得住的产生社会经济效益的突破性进展并不多。

跨域融合，突出应用，人工智能开始产生经济和社会效益。与上一次人工智能高潮相比，当前这一波次的人工智能新高潮，情况有了很大变化。它既是信息技术发展的结果，也是信息技术发展的高级阶段。如果说上一次人工智能高潮主要是学术高潮的话，新一波次的人工智能高潮则更多带有应用工程高潮的特点。第一，它是在信息网络技术发展的基础上，以大数据和云计算为支撑，无论在技术手段还是在理论上都有新的突破；第二，它以机器深度学习为核心，可自我更新的人工智能软件正在取代“僵死软件”（Frozen Software），在人像识别、语言识别仿真机器人等领域也有多项实质性进展；第三，随着信息技术全向发展和渗透，促进了不同领域技术的跨域融合，航天、航空、航海、能源、媒体、娱乐、道路交通、公共安全……在各种具体的研究性工程项目牵引下，阶段性进展不断涌现，已经开始在社会生活的方方面面产生经济效益。其中引人注目的是人工智能技术在军事领域的应用。

智能提高，愚蠢减少，但人工智能会取代人么？人工智能的新高潮推动了社会进步，但仍然是弱人工智能，离取代人还相距甚远。不久前看到一篇“有多少‘人工愚蠢’可以重来？”文章，很受启发。不妨把人工智能的发展划分为几个阶段：从无智能，到微智能，再到弱智能，然后发展到强智能，最后是与人类比肩甚至在某些特定领域超越人类的高智能。可以说，上述过程也正是人造系统的“愚蠢”减少过程。当然，在不同领域、不同技术应用范围，不同系统的智能程度也不一样，并不同步。这其间也难免发生那种人们看上去认为自己研发的系统已经很“智能”了，但事实上仍隐藏有致命性“愚蠢”的情况，这是人工智能研发者要时时提醒自己的。目前就总体来看，即便是那些打上了AI标签的系统，仍然还不能达到强智能的程度。世间万物，人类研究一切，但对人自身的研究仍然还很不够，远未到达透彻的程度。在这种情况下，人工智能怎么可能达到强智能，甚至超越人的程度？人类的智慧发展有“顿悟”，也能在发现失误和错误后纠错，人工智能系统能实现吗？这两点，也许可以成为判定高级智能系统的一个参考标准。

二、人工智能的军事应用对未来战争的可能影响

与以往的任何技术进步一样，人工智能的技术进步也是最先应用在军事领域，不可避免地将改变未来战争的面貌。

重在战场环境下的军事对抗。2018年10月，美国研究者总结了当年人工智能军事应用的八个主要领域：

1、作战平台，其中最突出的是各种飞机、舰艇等技术含量高的作战平台；

2、网络安全，即利用人工智能系统来加强各种军用网络的自身安全；

3、后勤与运输，预计人工智能可以在军事后勤运输中发挥关键作用，而物品、弹药、装备和兵员的有效运输，是一切军事作战行动成功的基础；

4、目标识别，即运用人工智能技术来加强复杂作战环境下的目标精确识别与判定；

5、战场医疗救护，即运用人工智能的机器人外科手术系统机器人地面平台来搜寻战场伤员，迅速查找伤员电子医疗档案，提高战场救护的抢救速度和质量；

6、战斗模拟与训练，是一个多学科交叉领域，包括系统工程、软件工程、计算机建摸等，以协助士兵熟悉各种战场对抗环境下的作战装备系统的使用；

7、威胁监视和态势感知，使用无人系统来执行情报、监视和侦察行动，这正是军事行动成功的基础；

8、人工智能的数据处理，人工智能技术在快速有效处理大容量数据以获得有信息方面特别有用。

应用环境对抗 非对抗作用对象己方 1. 2. 3. 5. 6. 6. 8.敌方 4. 6. 7. 6. 8.部署地点战场 1. 2. 3. 4. 5.7. n/a非战场 2. 6. 7. 4. 6. 8.

如果将上述8个领域从应用环境、作用对象和部署地点来区分一下，可以看出，虽然当前人工智能的军事应用还处在初始探索阶段，其重点已经明显集中在战场环境下的军事对抗。

人工智能使武器更锋利，战争成本更低。人工智能技术应用在军事上，最突出、最重要的当属AI云了。凭借着AI云，军事作战可以节奏更快、效能更高、打击更精确。近年来，美军津津乐道的无人机蜂群作战（SWARM），其背后的技术支撑，就是AI作战云。另据报道，AI太空云，也可使在轨卫星发挥识别目标的作用，这样就可以把珍贵的带宽用来传输更有用的作战目标信息。2019年6月，在巴黎航空展览上，法国公布了“新一代空中作战系统”设计。该系统被称为欧洲的第六代战机，强调超感知和超打击能力，据分析，其背后技术支撑也离不开AI作战云。

值得注意的是，这些军用人工智能系统所支持的，大都是低成本作战手段。由于电子产品的价格迅速下降，那些拥有军用人工智能技术的国家，可以生产大量廉价的高效能无人作战平台，用它们来消耗对手的作战资源。如前所述，无人作战系统，加上人工智能的人脸识别、威胁判断等目标识别技术，就可以实现打击更精准，降低附带损伤，降低战争的政治代价。其中最突出的是“无人打有人”，用无生命的机器换取人的生命。而人则是最重要的战略资源，对任何国家都是如此。低成本，就意味着战略对抗的高可持续性。相对越南战争时代，有了军用人工智能系统的帮助，今天的军事大国的战争支撑能力会更强，更耗得起。

军用人工智能系统的一个重要方面，是态势感知。如果说，20世纪的战争，打的是毁伤力的话，那么21世纪的战争，打的首先是态势感知。核武器出现后，武器的毁伤力可以说发展到了顶点，武器威力再大已经没有意义了。从海湾战争开始，信息技术支撑下的态势感知在战争中的作用开始突出。进入21世纪后，随着无人作战系统大量使用，武器的研发开始向“精确毁伤＋智能化态势感知”方向发展，其突出代表即是各种“小直径炸弹”（SDB），最明显的效果就是作战效能跃升和作战成本下降。可以看出，武器装备作战系统有没有强大的态势感知能力，这一能力中是否成功地运用了人工智能技术，在未来战争中的作战效果差距会拉得很大。

围绕着威胁和目标判识的斗争更激烈。由于人工智能技术的军事应用，使得军事斗争形势更趋模糊、复杂，攻击溯源更加困难。如前所述，人工智能军事应用，除了态势感知外，另一个重要方面就是目标识别与判定，两者之间实际上是紧密相连的。

严格地说，上述问题并非因人工智能技术才出现，而是信息网络技术发展带来的结果。但人工智能技术的发展，使这一方面的斗争更加激烈，形势更加严重。一方面，人工智能技术的军事应用，加强了威胁的识别判断能力；另一方面，它也同样可以使威胁识别判断更加困难。防御方可以利用图像识别技术来强化和加速威胁和目标识别，攻击方也可以利用商业化人工智能技术手段来迷惑防御方。近期有关ZAO换脸软件的报道，已经预示着人工智能技术手段滥用可能带来这方面的问题。这其中，网络攻击、信号劫持替换、样本污染等手段都可以用在军事对抗中。随着语音识别技术的智能化发展，伪造他人声音特征也不是难事。有关犯罪分子今年3月冒充德国母公司CEO骗取英国某能源公司22万欧元的报道，也证明了人工智能技术用于欺骗的后果。

随着信息网络技术的发展，传统的平时和战时的界限模糊了，军事作战人员与非作战平民的界限模糊了，军事行动和非军事行动的界限模糊了。在美国人看来，现阶段的网络战，更多是武装冲突法门槛之下的网络军事对抗。可以肯定，拥有更强大人工智能技术∕系统的一方，无疑将在军事对抗中占据上风。这里还有另一个风险，尽管人工智能技术取得了进展，但威胁识别判断和攻击溯源困难依然存在，大国也可能被掌握某种人工智能技术手段的第三方拖入战争。

一场有关军用人工智能的国际军备竞争已经开始，但目前还不能算是国际军备竞赛。看到人工智能技术的重要性，目前各国都在加大对人工智能研究的投入。但是否可以说，现在有关军用人工智能的国际军备竞赛已经开始？西方一些人已经有人在这样讲了。这样描述当前的情况是否合适？应当注意区分国际军备竞赛和国际军备竞争。后者是前者发展到极端的结果。

综合过去的历史看，国际军备竞赛大都具有以下三个特点：一是明确的对手。如果对手不十分确定，那就仍处在国际军备竞争状态。换言之，一个国家不可能跟模糊不清、飘忽不定的对手竞赛。二是武器装备发展进入对抗型螺旋。甲国研发了针对乙国的武器A，乙国针锋相对地研发A+；甲国根据乙国的军备发展，再研发出可对付A+的B，乙国马上再研发对付B的B+，如此循环，甲乙两国谁也退不出这个对抗螺旋。一旦谁先退出，就会前功尽弃。三是带来国民经济的军事化。相互敌对的国家一旦陷入军备竞赛的螺旋，必然会对国民经济产生强烈冲击，在一定程度上导致国民经济的军事化。一般来说，获胜者，往往是在这方面陷得不那么深的一方。

若根据上述三个标准来看今天的人工智能军事应用，应该说，虽然当前局势的发展有这个人工智能的国际军备竞赛风险，但目前事态还没发展到那个程度。从根本上说，国际军备竞赛实际上不是技术问题，而是大国关系的晴雨表。

三、人工智能军事应用不仅带来好处，也带来问题和挑战

应该说，技术本身都是中性的，究竟是成为天使还是变成魔鬼，都取决于人类如何使用技术。历史证明，技术使用得当，可以促进人类社会发生重大的历史进步；反之，若使用不当，也可能带来巨大的灾难。

在面对人工智能技术可能带来的突破性进展面前，人们有必要思考如何防止军用人工智能技术的滥用问题。相关问题的端倪早已出现。美国在其“十年反恐战争”中，大量使用无人机打击地面目标。虽然它们大多属于远程遥驾飞机，飞行员安坐在万里之外的遥控方舱中，却可以实时感知战场态势，并操控无人机以挂载的导弹攻击地面目标。这便是“无人打有人”的早期形态。因为无人机飞行员不在现场，没有生命威胁，感受不到战场的巨大压力，可以居高临下攻击地面目标，带来了相关国家大量无辜平民的伤亡。由此引起一些弱小发展中国家强烈反感。早在2013年年中，他们就在日内瓦国际军控会议上提出了关于控制攻击型无人机使用问题，特别是要控制那些能自主识别目标，自动攻击的武器。应该说，作战无人机使用带来的滥杀滥伤，说到底不是技术问题，问题的根源还是技术背后的人。如果正确使用具有目标识别功能的无人作战平台，相比大规模打击带来的附带损伤会更小。

西方国家，尤其是美国，也对人工智能无人作战平台的发展有所担心。这突出表现为有关限制全自主致命武器系统（Lethal Autonomous Weapon System,LAWS）的讨论。早在2003年的伊拉克战争期间，就发生了友军战机被高度复杂并带有一定智能特性的防空反导武器系统误判为威胁而击落的事件。那还是智能化程度比较低的系统，随着武器系统智能化程度不断提高，他们认为，不能完全由机器来决定人的生死，提出了限制LAWS的主张。为此，他们提出“人在回路”（human in the loop）概 念。但是，究竟什么是LAWS，各国并未就其定义达成共识。这个问题的争论并没有结束。

相比之下，中国和俄罗斯则更多关注人工智能技术军事应用对国际战略稳定可能带来的冲击。既然率先掌握军用人工智能的一方，可能享有更大更明显的军事优势，战争的成本更低，那么其中一些国家有可能更倾向于滥用这些力量和工具，导致全球范围内的地区冲突更频繁，平民伤亡更多？上述滥用无人机带来的无辜平民伤亡问题，已经在一定程度上反映出这个倾向。就核大国之间的战略关系而言，既有重要的利益分歧，也有重要的共同利益。人工智能的发展，究竟是增加还是降低了共同利益？核武器和太空资产，对相关国家都很重要、很敏感。在战略打击能力不变的情况下，率先掌握人工智能军事应用能力的一方肯定会享有更大的战略优势。可能前景之一，如果一方凭借军用人工智能技术支撑的更强大的态势感知能力，并进而建立更强大的战略反导能力，降低对手核武器的效能，甚至剥夺对方的战略核反击能力，结果将会如何？会不会降低使用核武器的门槛？可能前景之二，如果一方自恃拥有经过人工智能加强的先进常规军事力量，更多诉诸武力改变地区军事态势，将对方逼入要么使用核武器，要么承受重大失败的境地，结果又会怎样？这些无疑也将导致国际战略局势的巨大动荡，使世界陷入极大风险。

防止先进军用人工智能技术扩散问题也值得关注。现在各国都在努力研发人工智能，而民用和商用人工智能要转为军用也并不难。随着人工智能的普及和技术的扩散，恐怖分子都可能掌握人工智能技术。恐怖分子将遥控航模或消费级无人机挂载上装了羽毛球作为稳定器的手榴弹，就做成了简易的无人空中轰炸平台。虽然这样的简单无人系统智能化程度并不高，但仍然可以在战场上发挥作用。那么接下来的问题是，在民用∕商用人工智能系统大量普及的情况下，如何防止先进的人工智能技术落入恐怖分子之手？如何防止恐怖分子将一系列商用人工智能产品组装成威力可观的攻击武器？

数据安全和有关网络数据的国际规范。军用人工智能的基础之一是大数据。机器学习，离不开数据驱动。目前各国都把人工智能系统看作重要的战略机遇，也都十分强调数据的重要性。今年4月，美国国防部人工智能研究中心一位上校在谈到军事人工智能系统研发时，也把数据列为关键要素之一。现在看，谁能大量开发和有效利用数据，谁就可能在人工智能系统开发上抢得先机。大数据对军用人工智能的重要性可以用六个字来表述：无数据，不AI。那么，军用人工智能系统的数据究竟从哪里来？从目前情况看，至少有部分数据是来自互联网的。斯诺登披露的文件表明，美国凭借其互联网研发者的有利地位，在通过互联网获取数据方面，其行为已经到了近乎肆无忌惮的程度。没有数据流动，互联网就死了。但是，如果网络数据流都变成军事作战资源，那么互联网也就离消亡不远了。在网络空间跨境流动的数据采集、处理、存储、使用等一系列问题上，怎样的行为是可接受的，怎样的行为不可接受？现在国际社会并没有共识和规范。这也是今后各国不得不面对的问题。数据对抗，正在成为军事对抗的新领域。其实，这恐怕也不那么特别“新”。现在的军事数据对抗，其实不过是以往军事情报对抗在信息时代的新发展而已。

四、军用人工智能对信息网络技术发展提出更高要求

人工智能技术要发展和取得突破，首先要强调在基础上下大功夫。信息网络技术是人工智能的支撑，数据、算法研究跟不上，就很难有实质性突破，用在军事上就难免吃败仗。在这里，人工智能系统的开发，是否要强调军用似乎倒并不那么重要，因为很多人工智能技术都是军民两用的，民用∕商用项目上取得突破，转为军用也就是捅破一层窗户纸的事。如果人工智能研发过度聚焦军事，忽略了产生社会经济效益，倒是真有走偏的风险。毕竟，军事需求无论多尖端，也不大可能为一个大国的人工智能产业长远发展提供足够的动力。此外，需要注意的是研发项目的选择，做好初始基本假设，确保数据来源和规模，明确项目的边界范围，避免项目在研发过程中“迷路”。美国防部人工智能研究中心上校还说，在军用人工智能研发方面，他们获得的最大经验∕教训就是得有个好的路线图。

借助人工智能技术加强关键基础设施的网络安全和供应链安全。从当前国际形势的发展趋势来看，未来大规模网络战一旦爆发，国家关键基础设施不可避免将成为打击目标。一个时期以来，围绕电力系统的网络军事对抗不断有“火星”冒出。因此军用人工智能系统的研发，应当考虑把关键基础设施防护作为重点之一。未来军事斗争，是网络化的斗争。军事网络的安全，已经成为前沿问题。由于国际经济技术的相互依存，现在即便是大国也很难完全自己生产所有的软硬件和零部件。由此，如何通过人工智能技术来加强国家信息产业供应链的安全就具有突出意义。产业链不安全，军用网络系统不可能很安全。

军用人工智能系统发展要靠技术领先，更要靠高素质的网络安全人才。人工智能的发展，网络战的较量，看上去是技术说话，这绝非纯技术问题，信息产业在技术发展的同时，还应注意培养大批技术业务精尖，政治立场坚定，能吃苦又充满活力和创意的网络安全人才。这些人，才是网络安全的支柱。