人工智能对国家安全的影响——基于美国四家智库的观点分析

文/彭红梅 刘忠

自1956年达特茅斯会议上首次提出人工智能的概念以来，人工智能的发展几经沉浮。近年来，随着机器深度学习和大数据等领域的突破，人工智能再次得到快速发展，其对国家安全的多重影响也日趋显现。对此，美国的主要智库密集开展跟踪研究，推出了一系列研究成果。

本文从防务与国家安全领域的美国知名智库中，选取了兰德公司、贝尔弗科学与国际事务中心、新美国安全中心和战略与国际问题研究中心等四家智库，对他们有关人工智能与国家安全研究的基本观点、主要认识和行动建议作系统梳理和分析。这对于了解美国学界的理论观点，洞悉美国相关的政策和行动，思考在推进中国人工智能发展的同时如何维护国家安全，无疑具有一定的意义和价值。

美国智库积极为国家人工智能战略建言献策

1.成立专门组织展开专题研究

对于当前人工智能的大发展大应用，美国智库非常重视，多从大国竞争的角度和国家战略安全的高度，组织研究团队展开专题研究。其中，兰德公司是以“全球风险与安全中心”为依托，建立了“安全2040项目”，设想2040年世界可能面临的重大安全挑战，研究具体的解决方案，“人工智能与国家安全”是该项目的重要研究议题；为统合研究力量，新美国安全中心也成立了“人工智能与国家安全工作队”，由前美国国防部副部长罗伯特·沃克和谷歌云人工智能主管安德鲁·摩尔博士总负责，成员包括前政府高官、大型私企主管和学术专家，主要任务是探讨美国如何应对人工智能革命带来的挑战；2018年以来，贝尔弗科学与国际事务中心在其“国际安全项目”专题下，先后组织召开了“人工智能的公共政策挑战”和“人工智能：军事行动与决策的利与弊”多场研讨会；战略与国际问题研究中心在2016年发起了“中国创新政策系列”研究项目，目的是了解中国在以人工智能为代表的创新技术和政策方面的实际情况，评估其对工业、中国贸易伙伴和全球经济的影响等。

2.密集推出研究报告为政府建言献策

以研究军事尖端科技和重大战略为主的兰德公司，数十年坚持对人工智能展开跟踪研究，并把研究重点放在人工智能对作战样式、武器装备、核武器和网络安全等的影响方面。另外三家智库主要是从2017年开始对相关议题展开密集研究，这也符合大多数智库热衷于跟踪前沿热点的特征。贝尔弗科学与国际事务中心的分析研究更为敏感一些，该中心在2017年7月率先推出研究报告《人工智能与国家安全》，并在2019年8月再次发布报告，探讨技术本身的脆弱性对国家安全的负面影响。新美国安全中心和战略与国际问题研究中心则侧重于从美国国家战略安全、中美大国竞争和军事防务安全的视角展开研究。

在本轮人工智能革命中，美国智库起到了理论研究、分析预测和呼吁推动的重要作用。正是在包括智库在内的各界大力推动下，美国政府对人工智能的态度经历了一个大的转变，特别是在2019年2月推出了《美国人工智能倡议》，正式将人工智能上升到美国国家战略的高度。

对人工智能影响国家战略安全的观点分析

1.对维持美国技术领先地位的影响

智库将人工智能领域的大国竞争看作是领导力之争，提出“从军事角度来看，人工智能领导力对于建立和部署有效的军事力量可能越来越必要。从经济角度来看，人工智能的领导力对整体经济领导力至关重要，这意味着在人工智能领域领先的国家将在全球经济中占据一席之地。贝尔弗科学与国际事务中心的研究报告认为，过去几年内人工智能的进步远超预期，相信这种快速的进步未来将持续甚至会加速，进而将在国家技术安全领域发挥变革性的潜力。建议政府将保持美国的技术优势作为首要目标，同时要对人工智能在和平和商业领域的应用提供政策支持，以及减少人工智能可能给国家安全带来的灾难性风险。战略与国际问题研究中心的报告从生态系统组成、当前的投资和在国家安全领域的应用等方面，对当前人工智能发展状况进行了分析，提出美国要在人工智能领域取得世界领导地位，必须在投资、管理和政策方面采取行动。强调“在世界上其他国家都在大力投资人工智能的背景下，美国政府要付出重大努力才能拥有技术上的优势，这就要与私营科技公司合作，并广泛开展与西方伙伴国及盟国间的合作”。

近年来，中国的快速崛起和在新兴技术领域不断取得突破，引起了美国越来越大的警惕和抵制。美国智库方面认为，中国在人工智能领域的巨额投资对美国构成了非常大的挑战和压力，人工智能等领域的竞争是中美竞争的核心，关乎美国能否保持住前沿技术优势这一核心问题。如战略与国际问题研究中心的报告《与中国的技术竞争》，认为在当前国际政治力量分化调整、大国竞争日益激烈的总趋向下，“对新技术的创新能力，特别是数字技术(赋予他们以政治、安全和经济增长方面的重要意义)已经成为中美关系的核心要素”。2019年6月，新美国安全中心召开了以国家安全为主题的研讨会议，主要是探讨在大国竞争时代如何提高美国的战略优势，各分会主题包括维持美国的军事优势、对抗高科技时代的非自由主义，以及以新的方式来展示美国经济实力等内容。“美国在人工智能时代的领导力”作为一个分会研讨主题，聚集了约翰·霍普金斯智能系统中心主任艾希礼·略伦斯和新美国安全中心的迈克尔·霍洛维茨、卡拉·弗雷德里克和艾尔莎·卡尼亚等人工智能和国家安全领域的专家，显示“中国议题”已经成为智库热议的焦点。

2.对现有国际体系和规则的冲击

智库方面认为，人工智能革命在国际政治领域将产生深刻影响，中国等新兴国家通过拓展人工智能网络，将扩大全球影响范围，进而对现有国际体系和国际规则带来巨大的冲击和挑战。对于中国在国际人工智能领域的政策、投资和对外合作，美国智库保持了非常高的警惕。战略与国际问题研究中心的报告就认为，当前不断加剧的中美竞争不同于19世纪控制领土和资源的帝国竞争，关键点不在于军事力量和领土扩张，而是对全球规则、秩序、标准、贸易和技术的竞争，人工智能因此成了中美技术竞争的重要方面。特别是针对中国在推进“一带一路”倡议中，提出加强人工智能领域的国际合作议题，智库方面的观点比较消极。新美国安全中心的资深研究员丹尼·克里曼等就认为，中美大国竞争决定了21世纪的发展进程，中国通过“一带一路”倡议下的经济活动“正在追求一个以大国势力范围、国家主导的经济互动和逐渐蔓延的威权主义为特征的21世纪愿景”。美国智库认为这是中国在“一带一路”的布局下，通过投资实体和数字基础设施网络，重塑世界秩序和世界体系，包括破坏美国与盟友间的网络体系，弱化欧洲在中国政策上的凝聚力，以及促使中国成为世界领先的信息技术强国。2019年2月，新美国安全中心在分析中国人工智能战略的报告中，特别强调“除了在军事应用领域的竞争外，人工智能技术的前沿越来越依赖于计算机芯片，未来国家人工智能战略竞争的焦点可能是半导体行业，而中国在人工智能商业领域和半导体市场上的成功有助于增强中国的地缘政治实力。

3.对美国军事优势的挑战

对于人工智能在军事领域的应用及影响，以新美国安全中心和兰德公司的研究最为深入和具体。在2018年的研究报告中，新美国安全中心认为人工智能将在军事领域产生五个方面的影响：一是战场态势感知上，人工智能技术增强了小型机器人传感器的信息搜集能力，并有助于更好地理解这些信息；二是电磁频谱上，人工智能可以生成新的干扰和通信方法，以对战场的电磁频谱产生影响；三是欺骗和伪装上，人工智能生成的对抗网络可用于伪装和生成诱饵，针对人工智能系统的欺骗性攻击也将越来越重要；四是战术上，不断优化的机器学习技术可用于模拟环境，使得战争背景更趋复杂，战术选择更趋灵活；五是指挥控制上，人工智能系统有助于指挥官更快地处理信息，更好地理解作战空间，更快速准确地下达决策命令。兰德公司将关注的重点放在了核安全领域，其在2018年4月发布报告提出，人工智能正在赋予机器人学习和思考的能力，对未来智能机器人的争夺将在大国间引起新一轮的军备竞赛，人工智能技术的进步、智能机器人的出现很可能打破一直以来“相互确保摧毁”的核威慑平衡，进而鼓励人类作出灾难性的决策。

美国智库认为，近年来中国在军事现代化进程中对人工智能的开发运用，给美国军事优势带来了巨大挑战，需要对此进行全面评估。如“人工智能与国家安全工作队”成员、新美国安全中心客座研究员艾尔莎·卡尼亚认为，中国在谋求应用人工智能来实现军事现代化，进而形成对美国的军事优势。在这份名为“人工智能、军事革命和中国的未来军力”的报告中，卡尼亚提出美国必须将中国军队视为旗鼓相当的对手，重新评估中美技术竞争和军事竞争的本质，评估中国推进人工智能军事化对军事革命的影响，以及对美国的战略挑战。建议美国一方面要制定一项长期的国家战略，在减少“非法”技术转让的同时，增加研发预算。另一方面要制定培养和吸引顶尖人才的政策，维护美国在人力资本上的竞争优势。要把人力和组织能力作为国防创新的决定性要素，为迎接人工智能引发的军事竞争和军备竞赛做准备。2019年6月，卡尼亚在中美经济和安全审查委员会听证会上发表演讲，称人工智能为中国提供了军事创新的契机，但也认为中国在人工智能的军事创新方面存在一定的问题和短板，包括军队的创新能力不足，人才和人力资本持续短缺，在适应未来作战水平方面存在差距，不能将智能化方面的作战理论和概念运用于实践，管理和整合复杂数据上存在困难，以及缺乏实战经验和军民融合战略效果不佳等。

对人工智能潜在消极影响的评估

1.系统平台的不确定性和人机协同故障

智库方面认为，当前的人工智能系统只是一种“经验智能”，其智能水平仅限于设计参数下的数据经验，远不能理解行为体的意图并进行提前预判。例如，人工智能的图像识别系统可以准确地识别场景中的对象，但很难理解场景中人物和事件的复杂联系；可以准确地识别人的面部情绪变化，精确地跟踪位置运动，但却无法理解行为背后的动机。因此，智库的学者称当前的人工智能是一种“白痴学者”式的智能，不具备对突发事件和故障的临机处置能力。由此提出，在国家安全环境中，人工智能系统间为寻求建立竞争优势，可能发生意外的博弈或对抗，进而采取破坏性的行动。例如在网络空间或电子战中，机器系统间的相互对抗和交互作用可能超出人的控制和预料，产生混乱甚至酿成灾难。

除此之外，人机协同故障是又一个潜在隐患。智库学者认为，在高度复杂的自动化系统中，系统用户因不能正确理解系统设计者的初衷，进而对接收的信息处理不当，也会引发故障造成事故。“在许多国家安全环境中都可能出现这种情况，例如军事系统、边境安全系统、交通运输系统和执法系统等应用程序”。特别是在敌对环境中，人工智能系统的这一弱点可能被恶意操纵和利用时，更会造成严重的安全问题。当前这些安全问题主要存在于机器学习技术领域，而随着深层神经网络的发展，后者更容易受到欺骗(如虚假数据输入)攻击。另外，黑客也往往会利用人工智能在学习、处理数据和决策方面的弱点，展开破坏和攻击行动。针对以上这些问题，智库方面提醒美国政府“必须意识到这些风险，并在设计和使用人工智能系统时尽可能减少这些脆弱性”。

2.社会治理和社会伦理方面

在国内社会层面，人工智能也将带来一系列的全新问题。总结美国智库的观点，社会治理上的冲击和挑战主要来自两个方面。一是信息安全，包括个人隐私和国家战略信息等。智能设备、物联网和互联网的广泛应用制造了海量数据信息。面部识别技术、生物特征识别技术与大型监视系统相结合，在增强公共安全管理效能的同时，也从个人隐私到国家战略信息层面带来了广泛的安全隐患。对此，贝尔弗科学与国际事务中心的报告就特别强调，一方面需要信息收集方承担起保障数据安全的义务，贯彻《网络安全法》中“谁收集，谁负责”的原则，防止用户隐私数据信息的泄露；另一方面，用户自身也要提高安全意识，在社交媒体采取安全防范措施，注意保护自己。同时，政府也要对信息进行分类管理，注重对可能涉密信息的保护。二是对人工智能系统的恶意攻击。人工智能技术本身的弱点和技术扩散，使得技术很容易被掌握，并对其漏洞加以攻击。由此，未来的社会治安和反恐怖袭击可能面临新的挑战。兰德公司的研究人员针对人工智能引发的社会风险，向美国政府提出了四点建议：一是鉴于人工智能处理的海量数据远超出人类极限，政府的决策必须预先考虑各种可能的意外风险；二是需要制定适当的失效保护措施，纳入非自动化流程，减少对人工智能的过度依赖，防止一旦发生错误可能造成的破坏性后果；三是人工智能对经济社会影响巨大，要及时调整政策以应对各种可能变化；四是针对中国等在人才和创新方面对美国主导地位的威胁，美国应当加强数学和科学的基础教育，并通过移民政策吸引全球人才。

在社会伦理层面，当前人工智能的发展引发三个方面的问题。首先是人工智能取代人，会造成整个社会产业重塑和工作岗位重组，随之而来社会将面临大量的失业问题，造成社会不稳定；其次，从商品购买、娱乐诱惑到政治倾向诱导，人工智能可能引导甚至操控人，使人的思想和行为被技术控制；最后，机器之间、人机之间的协作关系，对信赖、团结、包容和互助等传统工作关系也带来了挑战。机器与人之间是否需要互相信任，法律应如何界定机器犯罪，及机器人失控后对人类的反控制问题，都成为智库讨论的重要内容。战略与国际问题研究中心的报告指出，人工智能引发的相关伦理问题是未来需要研究的一个重要问题，包括如何确保人工智能的使用不违反战争法、尊重人权，还包括如何保护个人隐私及人的自主权。在政策建议中，认为首要的是必须制定伦理方面的政策和标准，指导人工智能技术的应用。

对中国的几点启示

1.推进人工智能发展要优先补齐国家战略安全短板

当前中国的人工智能发展在总体向好的同时，在国家安全层面也有比较突出的问题和短板，包括行业领域的高端人才匮乏，行业发展受市场的过度裹挟，以及国家战略层面的前瞻性、对策性研究不足等，需要高度重视和集力解决。首先，专业建设上要大力培养行业顶尖人才群体。中国在人工智能领域的技术与应用已进入前沿发展国家行列，“但从发展质量上看还远未达到乐观的地步，主要表现是在硬件和算法这样的人工智能核心技术领域力量仍很薄弱，顶尖人才数量不足，且很大程度上依赖于具有海外学习工作经历的归国人才”。人才培养上有赖于西方、受制于人的现实，构成严重的安全隐患和发展瓶颈。因此，需要改革人才培养的结构、模式和体系，支持和引导基础性、长期性的冷板凳研究，并通过政策、待遇和条件来吸引人才，建立中国的人工智能顶端人才高地。其次是产业发展上要加强科学引导。从国家战略安全的全局来看，要重视当前人工智能领域的全国上下运动式发展和市场过热的问题，前者容易产生盲目上、一窝蜂的现象，重数量不求质量，后者则“突出了私营部门公司推动该领域发展的巨大能力，但也掩盖了政府的投资和参与及其应用于国家安全领域的重要性”。要把人工智能发展放在国家安全战略的全局中，理性看待商业因素在其中所起的作用，防止受市场过热或过冷的过度裹挟，偏离了科学的发展方向。同时，“无论是军事还是产业上的规划，都应防止盲目性、避免投资泡沫”。最后是要加强对策性、前瞻性研究。与美国智库相比，中国智库对人工智能等前沿技术的研究侧重于技术层面和产业研发层面，战略性、前瞻性和对策性研究不足，高水平的专家和成果都非常短缺，难以为国家安全层面的战略决策提供智力支持。亟需围绕国家总体安全观的现实需求，大力建设和发展高端智库体系，加强对人工智能等前沿性、颠覆性技术的战略研判，加强对象国跟踪研究的持续性和精细化，以此为国家战略决策提供智力支持。

2.破解外部打压要有长期准备和积极应对

在当前人工智能领域，中美两国处于引领的地位，相互间的竞争不断加剧。一方面，对来自美国的竞争和压力要有长期准备。从2018 年上半年开始，美国陆续对中国商品加征关税，引发了中美间的贸易战，并先后对中国高科技通讯公司中兴和华为实施制裁，在中美人才交流上也开始踩刹车、开倒车，中美关系出现重大转折。而通过对美国智库的报告分析发现，其观点也几乎一致指向与中国的大国竞争，认为在人工智能发展深刻影响国家安全的趋势下，“美国不仅必须预见到这些发展，而且必须采取果断行动，为竞争做好准备，并充分利用人工智能带来的机遇”；“美国应采取适当的改革措施，保护美国在人工智能领域的主要优势，包括保护知识产权，限制出口敏感技术，以及对外国投资委员会进行立法改革”。由此可见，美国将人工智能上升到国家安全的战略轨道，对中国的一系列限制和打压是有目的、有计划和有步骤的，也将是战略性的和长期性的。未来中国人工智能战略的推进过程中，对美国方面的压力和干扰要保持足够的清醒认识，要有长期的抗压和斗争准备。另一方面，人工智能发展要坚持自主可控。抗击外来压力最根本、最有效的手段就是独立自主。长期以来，中国在尖端技术领域落后于西方，在关系国家安全的核心技术上受制于人，造成了非常严重的隐患和制约。改革开放以来，得益于基础研究领域的巨额投资和长期积累，中国终于站在了以人工智能为主导的新一轮科技革命前沿，迎来了实现尖端技术自主研发，破解“卡脖子”问题的历史性契机。而随着核心技术竞争成为大国竞争的焦点，中国开放式发展的外部环境不断恶化，甚至未来可能出现恶性竞争和被西方联合打压的局面。因此，在人工智能战略上，特别要把握住创新和发展的主动权，确保技术研发和应用上的自主和可控，以此构建和打造国家政治、经济、军事、社会和核等的综合安全体系。

3.发挥人工智能在国家治理中的作用同时要防范安全风险

在推进国家治理体系和治理能力现代化方面，随着智联网、物联网和智慧城市等的普及，人工智能技术在政府机构改革和提高办事效率，在城市治理和社会治安等方面都提供了新的思路和手段。如在城市治理中，搜集和监测人流车流的定向数据，采取干预措施，可有效减少城市交通拥堵和交通事故；在社会治安中，利用人脸识别和大数据比对技术，对案件遗留线索进行侦查追踪，近年来先后破获了多起长期积压的重特大刑事案件，充分显示了人工智能的巨大潜力。特别是在应对当前的新冠肺炎疫情过程中，人工智能在疫情数据搜集分析、机器人辅助治疗、寻找病毒宿主和对人员场所定位跟踪等方面，发挥了不可替代的作用，体现了其在加强国家应急管控体系和提高社会管理能力方面的潜力和前景。同时，面对人工智能对社会秩序、伦理和思想等带来的冲击，要加强相关的研究、立法和管理，确保良性安全发展。首先是要完善人工智能相关的法律法规，在责任确认、个人隐私、产权保护和信息安全等方面加强立法，对于人工智能系统可以做什么，不可以做什么，要从法律上把它规定好、约束好；其次是要建立健全安全监管和评估体系，围绕人工智能产品在设计和使用过程中的新问题和新风险，加强技术侦测和安全防范，确保人工智能产品的开发和使用安全可控；最后是要坚持人工智能不能操控人，人工智能不能完全取代人这一普遍共识。在人工智能的发展应用过程中要尊重基本人权、基本规章制度和核心价值观，从社会学、伦理学和未来学等角度加强教育引导，在社会上树立一个正确的观念和科学的态度，减小其对思想层面的冲击和干扰。