新局与危局：人工智能的国家安全问题思辨*

张纪腾

（复旦大学 国际关系与公共事务学院，上海200433）

0 引 言

第四次工业革命是一场集信息技术、新能源、新材料、生物技术等诸多技术领域于一体的革新运动。其中，作为一项具有通用性和使能性的技术，人工智能具备嵌套及主导其他技术发展的包容度与统摄力，因此被视作推动第四次工业革命的关键要素。与此同时，作为国家安全的重要组成部分，技术安全被视为保障其他国家安全领域的重要支柱。然而，人工智能的特殊性，使其对国家安全的影响存在着一种“技术悖论”的困境，即人工智能在国家安全领域的应用有助于提升安全治理的水平与效能，但同时也造成了国家安全向度和维度的深化，继而使国家安全面临一系列新挑战[1]。

1 新局：人工智能赋能国家安全治理

从应用领域来看，人工智能主要从传统安全与非传统安全两方面赋能国家安全。前者主要为人工智能在军事与战略层面的使用，后者则主要为人工智能在社会治理层面的应用。

第一，人工智能赋能传统国家安全。最初对于人工智能军事化应用的讨论集中在无人机、机器人、战略决策和网络安全等常规军事领域，而后逐步拓展至核威慑等非常规军事领域。但作为一项通用性技术，人工智能具有在各个军事领域实现“全面渗透”式应用的特性，而不仅局限于单一的军事领域。目前，人工智能军事化应用的主要成果集中在武器自动化、情报、监视和侦察（ISR）与战略决策等方面，为“马赛克战”“多域作战”等作战方式提供了有力的支撑，并催生了诸如“影响力机器”等新型对抗方式[2]。 需要说明的是，在当下的军事化应用中，人工智能尚处于提升作战的信息化水平和打击精确度的“初智”阶段，但伴随其技术突破，人工智能将逐步实现作战对抗的“无人化”与“智能化”，并使之跃升为广泛整合多项技术与统筹整体作战安排的“高智”阶段。

第二，人工智能赋能非传统国家安全。在非传统安全领域，人工智能的应用集中在为各类社会风险的处理提供更为精准的预测和纠错机制。其作用机制主要基于对多源数据进行全方位的挖掘、聚合与清洗，并构建相应的模型来演算各类风险因子的作用路径及其发生的概率，从而实现安全态势感知与预测的智能化，并推动防御机制的优化。目前，人工智能技术已被应用于网络安全、反恐与安防、经济与金融安全、医疗卫生、环境与能源安全等多个领域，简要列举如下：

危机预测与管理方面，通过扩大数据收集、减少信息未知性以及建立相关分析模型，人工智能可以应用于针对战争冲突、传染病扩散、气象灾害等危机事件的预测与分析，继而提前介入其中以阻止危机的发生或者减缓危机所造成的破坏[3]。

反恐与安防方面，基于对已有恐怖主义活动的案例以及其他犯罪数据的分析，人工智能可以对潜在的恐怖活动或犯罪活动的目标、组织及其可能的行径进行预判，并据此制订相应的反恐方案。与此同时，人工智能可以用于辅助公安部门及其他安全部门进行嫌疑人辨别与追踪、犯罪现场搜索、城市交通管理、开展救援活动、排列警务任务及分配警力资源，继而提升安防活动的整体运行效率[4]。

网络安全方面，人工智能通过推动端点检测响应和网络检测响应，能够在信息交互的过程中识别和防止勒索软件、恶意软件、DDS 攻击等恶意在线威胁，提前对潜在的风险进行及时阻断，为网络安全提供更为有效的防护手段[5]。

金融安全方面，通过构建多维度、全方位的交易检测与验证模型，人工智能可以为风控等金融业务提供高效的反洗钱、反欺诈以及信用评估机制。

总的来看，人工智能的应用有助于提升国家在传统安全领域的防护能力与非传统安全领域的治理水平。同时，由于国家安全本身由诸多交叉的议题和治理机制组成，人工智能在传统安全与非传统安全的应用上存在着一定交叉。例如，无人机既可用于情报侦察、军事打击、物资运输等传统安全领域，又可用于电力巡线、搜索救援、城市管理、遥感测绘等非传统安全领域。此外，尽管人工智能之于非传统安全领域应用的逻辑相对简单，但由于非传统安全在当下所涉及的领域更为多样，因此人工智能在非传统安全领域的应用更为广泛与频繁。

2 危局：人工智能加剧国家安全风险

从技术悖论的视角来看，尽管人工智能蕴涵了广泛的应用前景和高度的战略价值，但这一技术的应用与发展也造成了国家安全向度与维度的深化，对于国家安全也带来了诸多挑战：

第一，技术的不对称发展或将激化人工智能军事领域的战略竞争。出于对技术安全性的考虑，各国对于人工智能的军事化应用较为审慎。然而，由于国家间技术水平本身就存在不对称性，并且相对于其他技术，国家更难以直观地判断人工智能的技术不对称性的程度。当然，人工智能军事化应用所具备的“全面渗透”特性还将导致国家间竞争领域的扩展。因此，对于技术优势的争夺以及对技术差距的猜疑会扩大国家间对于国家安全偏好的差异性，而由技术差距所导致的“生存性焦虑”也就存在被放大为“生存性威胁”的可能。与此同时，人工智能军事化应用的无人化、智能化特性将削弱作战伤亡、作战周期及规模等传统因素对于战争决断及其进程的限制，并且人工智能应用所催生的一系列新型战法还将进一步模糊战争与冲突的界限。换言之，人工智能军事化应用所带来的作战预期成本的下降会拉低发动战争或者直接进行军事对抗的门槛，并且由于误判所导致冲突加剧的可能性也同样将被放大[6]。

第二，人工智能或将加剧发展中国家所面临的“技术边缘化”风险。人工智能可以助推经济的整体增长，但其所带来的收益并不会如预期那样得到均衡的分布，而是可能出现巨大的失衡与落差。正如联合国贸易和发展会议（UNCTAD）发布的《2021 年技术和创新报告》所言，技术变革将极大地加剧发达国家与发展中国家间的差距，后者面临技术创新能力低、融资机制薄弱、技术转让受限、数字鸿沟以及收入能力不足等诸多挑战[7]。人工智能所推动的自动化、智能化生产变革将稀释发展中国家在劳动力资源上所具备的比较优势。这意味着，发展中国家通过承接全球化所带来的“现代性扩散”所获得的产品转型与升级可能难以延续，并且其现有获得的外资红利与全球技术知识外溢的红利也可能缩减。与此同时，具备人工智能技术优势的发达国家将在全球价值链跃升的过程中取得并保持更显著的领先地位，并基于这一绝对的先发优势，主导人工智能的技术标准、产业划分与治理规则的制定，继而塑造新的技术围墙和获得新的不对称技术权力[8]。对此，日本经济学家井上智洋就指出，提前应用强人工智能的国家与其他未能实现此目标的国家之间将形成“第二次大分流”[9]。

第三，人工智能或将强化甚至恶化国家在科技地缘政治中的竞争关系。作为国家竞争的重要技术基础，人工智能同经济、政治等议题之间存在紧密的关系。然而，人工智能所具备的技术组合性与目的通用性使得国家间竞争形成叠加效应和全域式竞争的趋势。然而，当国家间的竞争涉及多领域、多议题时，相互间的敌对认知往往会得到强化。同时，人工智能是一种典型的军民两用技术，具有鲜明的“技术纠缠”（Technological Entanglement）的特征。为了防止本国所出口的民用人工智能技术助推他国军事能力的提升，以及规避因在关键领域使用他国人工智能技术所带来的潜在风险，国家之间就不得不对现有的经贸关系进行切割，进而对正常技术合作形成了挤压。科技优势的同质化所催生的“技术民族主义”将恶化国家间正常的竞争关系，即后发国家在人工智能领域的进步将削弱先发国家的技术优势，而先发国家为了保持原有技术垄断所带来的优势地位，就极易会对后者进行打压。当然，部分技术强国还能够凭借不对称的技术优势以及部分技术弱国对自身的依赖，采取组建技术联盟的方式来对竞争对手实施打压。这一过程中，两国竞争关系的激化将使得国家间的局部竞争逐步升级为不同技术联盟间的竞争，继而导致这一恶化的竞争关系在更大范围内得到扩散。

第四，人工智能所导致的大国竞争加剧或将凸显治理缺失的风险。尽管各国愈发重视对人工智能发展与应用的监管，并主张施加限制性监管措施来规避潜在的风险，但鉴于人工智能的重要性以及大国竞争加剧的客观现实，多数国家往往更强调满足人工智能的发展需求，继而弱化了对人工智能的监管需求。良性的国家间竞争在一定程度上能够提升国际社会的整体技术水平，但是当国家间竞争超出了正常的范畴时，就会导致出现以技术封锁、对抗和割裂为表征的“科技脱钩”。实际上，在全球性规则和制度缺失的情况下，现有的国际秩序本就难以对新兴技术及其威胁进行有效规制。而在“科技脱钩”的状态下，各国在技术及其标准体系上的高度分化不仅会抬高人工智能应用与发展的成本，阻碍其进步，也难以在全球层面对潜在风险进行有效管控，继而加剧人工智能的无序发展状态[10]。

第五，人工智能或将推动资本权力的扩张与恶化技术红利的分配。目前，人工智能的发展成果多数体现在跨国科技公司所开创的技术与产品上，并且跨国科技公司的扩张将进一步提升人工智能的要素集中度。因此，资本在人工智能的研发与部署上的作用将得到提高。科技巨头们的技术优势还使其能够在人工智能的技术标准及其治理准则的制定与实施中拥有相当大的话语权。数据、算法等人工智能技术的组成要素在一定程度上能够脱离主权和地理空间的限制，这也为资本规避政府部门的监管提供了便利[11]。与此同时，人工智能技术的介入将重塑现有的社会整体利益再分配机制。人工智能可以通过提高社会整体生产力和创造新的产品及需求，带来新的就业机会和经济增长，但是人工智能的应用将不可避免地对现有社会就业结构产生一系列的负面影响。最为突出的表现便是人工智能应用所可能导致的结构性失业。其中，从事“事务性劳动”的低信息化水平的劳动者可能面临被“出清”的风险。

第六，人工智能技术滥用及其演进路径不确定存在诱发“技术恐怖”的可能。就技术层面而言，人工智能主要存在因技术滥用而导致的外溢风险与因技术自身缺陷而产生的内生风险。前者主要是指人工智能技术的拓展应用所衍生出的被动技术风险。例如，犯罪分子同样可以利用人工智能从事更为便捷、隐蔽的犯罪活动。后者则是指因不确定的技术缺陷与安全防护措施不完善所带来的风险。其中，因数据质量缺陷和平衡机制缺失所引起的潜在算法歧视就是较为典型的内生风险[12]。当然，人工智能的通用性也意味着，人工智能与其他技术的聚合及其在广泛场景中的应用，会扩大其技术隐患所波及的范围。

3 危局中育新机：发展与安全的平衡

人工智能是提升我国国家竞争力的关键性要素，也是保障我国国家安全的重要技术支柱。正如习近平总书记在中央政治局集体学习会议上所指出的，加快发展新一代人工智能是我国赢得全球科技竞争主动权的重要战略抓手，是推动我国科技跨越发展、产业优化升级、生产力整体跃升的重要战略资源[13]。为此，我们更应处理好人工智能对国家安全所带来的一系列挑战。基于上述分析，并结合当前我国人工智能技术的发展现况，本文有以下三方面的建议：

第一，以战略布局的持续完善与发力打破技术高墙。我国已将推进人工智能的发展上升至国家战略的高度，也已初步构建了支持其发展的政策框架。然而，我国现阶段的人工智能发展主要集中在技术相对成熟、应用场景清晰的横向领域，但在基础理论、底层技术等纵向领域相对乏力。为此，我们应继续强化对人工智能技术的敏感性与理解力，制定以基线和指标为支撑的、更为具体的发展战略路线图。与此同时，我们还应加快构建自主可控的技术创新体系和产业体系，采用渗透性和开放性方法促进人工智能相关人才的培养与吸收，促进技术与产业紧密结合的相互增益，提高人工智能发展的灵活性[14]。

第二，以风险评估与防范机制的设立弱化风险危害。对于人工智能应用可能带来的技术、法律、伦理等问题，设立系统、完整的风险评估与防范机制尤为必要。我们应在保持与产业界、学术界密切合作的基础上，由相关部门牵头组织开展人工智能投资和应用审查，加快构建技术风险评估机制与灾难性风险预防机制等安全管理体系，并设置容错机制、漏洞检测和技术错误纠正机制等技术配置机制来提升人工智能的安全性。

第三，以推进国际合作和参与全球治理为契机提升技术安全。全球科技的进步本身需要各国的积极参与，而技术风险的防范更是需要各国的充分合作。有鉴于此，我们应秉承构建人类命运共同体和推动科技向善的理念，积极推动国际社会就人工智能开展常态化的多边沟通，并在此基础上，综合参考各国的人工智能原则，推动建立一套普适的技术标准规范体系和较为一致的人工智能监管框架，为人工智能的发展搭建更为广泛的国际合作网络与治理平台。

4 结 语

在百年未有之大变局之下，国家科技竞争逐步激化，如何把握人工智能的发展主动权与处理好相应的风险，并实现良性、合理的国际合作与竞争，已经成为我国国家安全治理亟需解决的议题。我们应在充分维护自身战略利益的基础上，推动、容纳和接受人工智能的突破和创新，保持自身在这一技术领域的领先性与自主性，并自觉关注该技术对国家安全可能造成的风险，对潜在风险进行研判与预防。当然，我们还需着眼于人工智能相关技术规范的构建，积极提升我国在人工智能治理领域的议程设置能力。