防止人工智能在军事上的滥用（观察家）

仇昊 梁逵

随着算法、算力和大数据等方面的不断突破，人工智能已被广泛应用于经济、社会、军事等领域，成为促进经济发展、技术创新、战斗力提升的动力和引擎。但人工智能技术同时也是一把双刃剑，可能成为引发全球性风险和挑战的“潘多拉魔盒”。

可能引发诸多风险和挑战

首先，人工智能军事竞争可能触发新一轮军备竞赛。人工智能技术的发展正孕育着新军事革命的链式突破，可能成为改变国家军事实力对比的核心技术。人工智能将是大国塑造军事优势的新杠杆，通过推进智能武器部署，实现作战能力的迭代升级，维持或打造军事能力优势和新代差。对中小国家而言，人工智能的巨大赋能效应可能会弥补其在领土、人口、经济等方面的劣势，获得挑战大国的实力和机会。

为此，世界主要大国和部分技术领先的中小国家都在抓紧制定人工智能发展战略和规划，推进智能化武器系统研发，推进军事力量向智能化转型。据称美军正在推进的“第三次抵消”战略，有80%的项目与人工智能技术密切相关。从实际应用看，智能化武器系统已在美两场反恐战争以及近期中东发生的多场军事冲突中使用。人工智能的军事应用已成为发展趋势，人工智能的军事竞争有演化成新一轮军备竞赛的可能。

其次，人工智能军事应用可能显著降低战争门槛。随着自主武器系统的大规模运用，战争对抗可能首先在机器与机器之间展开，机器人、无人机、无人潜航器等自主武器成为部署在最前沿的力量，人将逐步退到后台担任操作和指挥的角色，战场伤亡人员的数量显著减少。军事智能发展催生出认知战、失能战、网络战等非杀伤性作战手段，可能不再以消灭对手为目的，而是以控制对方认知、行动等方式取胜，加大了战争“零伤亡”的可能。智能化条件下的杀伤性行动主要由自主机器实施，作战样式以自主式远程无人攻击为主，降低了战争的成本。

这些因素都能够使战争看起来更“人道”“廉价”，减轻战争决策者发动战争的道义责任和政治压力。另外，部署在网络、太空、深海等新型作战空间的智能武器更具有隐蔽性，难以判定谁是发起者，成为军事对抗的“灰色地带”。

再次，智能技术的易扩散性将加剧非传统风险。人工智能技术与以往核武器、生化武器等最显著的不同是易扩散性。由于智能技术的低成本、高赋能，易于被恐怖组织、个人等非国家行为体掌握和运用，成为恐怖分子、犯罪组织、黑客等进行破坏和犯罪的工具。类似委内瑞拉总统马杜罗遭无人机攻击的事件，都表明了智能技术可能引发的非传统安全挑战，带来国际安全治理的新难题。

合作共治才能防患未然

人工智能技术应用可能导致的这些风险，已经引发世界范围内的担忧，促进国际社会对人工智能发展和应用进行深思。面对智能化时代的国际安全风险，国际社会只能通力合作，或许可从以下几个方面入手：

一是确立共同目标。国际社会应当认清在人工智能应用问题上“一荣俱荣、一损俱损”的现实，明白在智能化时代的对抗没有赢家，进而确保人工智能用于和平目的，倡导用人工智能服务于世界的繁荣与发展，共享智能技术带来的机会和便利，杜绝零和思维、冷战思维模式在智能时代沉渣泛滥，防止数字鸿沟和自我封闭。为此，各国应把共治作为途径，破除以往各国“各扫门前雪”的做法，提倡通过交流对话处置人工智能领域的矛盾和争议，杜绝发展过程中的歧视和双重标准。

二是推进责任共担。各国特别是人工智能大国应切实承担起应有的国际责任，防止人工智能可能引发的恶性竞争和军备竞赛。尤其杜绝智能技术在军事上的滥用，不发展和使用有违人类尊严、具有大规模破坏效应的智能装备。另外，各国都有义务强化对本国智能技术发展的管理与引导，确保人工智能被用于合法目的。

三是致力群治共防。爱因斯坦去世前，曾后悔自己的发明被用于发展核武器，认为那是自己犯的一个巨大错误。为防止智能时代出现类似的错误，必须致力于推进国际社会群防共治，着手商讨建立人工智能国际治理体系。各国应当把风险预防做在前面，不能等危机和风险降临后再被动应对。以共同治理作为重点，各国应特别注意防止智能技术扩散与核、生物技术扩散带来的叠加风险，共同探讨建立打击人工智能恐怖主义、国际犯罪的合作机制，维护智能时代的网络安全和公共安全。

四是深化国际交流。为实现共同目标、应对共同挑战，防止国际社会在智能发展领域出现两个世界、两个标准、两种体系对立，推进国际交流合作是当前最紧迫的现实需要。各国应停止为他国发展设障碍、施绊子的行为，尊重他国发展智能技术的合法权利，停止对他国企业机构的打压限制，在平等互利基础上推进智能技术合作与产品贸易。国际社会应致力于促进人工智能技术和人才交流，促进共同的技术标准和技术准入，防止恶意技术封锁。各国应在公开、透明基础上建立交流合作机制，通过外交对话、国际会议、防务合作、学者交流等多种途径交流观点，防止战略误判和技术对抗，构建人工智能领域互信机制。

五是构建国际规则。当前，国际社会尚没有建立共同遵守的人工智能国际规则，但一些学者和有识之士已认识到构建国际规则的必要性和紧迫性，中国、欧美、日本都有学者呼吁和探讨建立人工智能国际规则问题。去年在中国乌镇召开的第5届世界互联网大会上，就有学者呼吁尽早就人工智能制定国际准则。今年4月，欧盟委员会公布了人工智能道德准则。今年5月，中国研究机构联合发布《人工智能北京共识》，提出15条原则。

在这一背景下，国际社会应适时推进人工智能国际规则制定，借鉴核、生物、常规武器等领域国际规则制定历史经验，探讨人工智能发展与运用的国际规则问题，就智能武器的地位、使用范围和限制、安全可控标准、人与机器的关系等问题进行研究和探讨，确保人工智能成为人类的工具而不是相反。▲（作者分别是军事科学院战争研究院研究员、助理研究员）