新兴技术发展安全风险与治理路径分析

袁立科 韩佳伟

中国科学技术发展战略研究院，北京，100038

当今世界百年未有之大变局正在加速演进、愈加激荡，科技发展成为大变局格局变化的关键力量。新兴技术作为技术更新和技术创新的动力之源，显现出强大的革命性、破坏性和颠覆性，对未来国家安全利益、全球战略格局和国际社会秩序都将产生广泛且深刻的影响。新兴技术治理议题成为各国高度关注的热点，它不仅事关能否在未来获得先发优势，更关系到能否有效维护国家安全并获取国际竞争优势。近年来，在中美科技博弈的背景下，新兴技术治理的实际效能除了经济、社会价值的考量之外，“国家安全”价值日益凸显，这增加了治理的复杂性和不确定性。因此，在充分理解、认识新兴技术发展安全风险的基础上，分析新兴技术治理的战略动因，并评估新形势下我国新兴技术国家安全与创新发展所面临的挑战，有助于探索国家安全关切下新兴技术治理的有效路径。

一、新兴技术发展的安全风险与治理挑战

目前，无论是学术界还是政策界对新兴技术的界定并没有形成共识，从政策操作层面来看，准确或统一界定新兴技术的内涵与外延比较困难且无必要，相关国家或国际组织多以列清单而非释义的方式划定新兴技术范围。[1]但学术界对新兴技术所具有的不确定性、颠覆性等特征具有一定的共识，认为新兴技术创新特质明显，可能对未来产业发展乃至经济-社会结构都产生巨大影响[2-4]，引发安全风险并带来治理挑战。

（一）新技术革命引发的安全风险

从历次工业革命的历史来看，每一次新技术的突破都会给人类社会及地球环境带来巨大改变与冲击，还将影响人类的社会运作、政府体制、法律法规甚至出现国际经济政治中心版图的调整。新技术革命不仅影响生产方式，带来社会转型的契机，也在推动人类发展的同时，潜藏着难以预测的风险。

进入21世纪以来，全球经济社会发展面临新契机，但是新兴技术创新在提升人类征服、改造自然能力的同时，也会在有限时空内集中释放负面效应，缩短人类认识、防范风险及消弭冲突的时间；技术快速更迭带来巨大的不确定性，引发挑战现有法律法规、技术滥用等新问题，对传统道德伦理准则带来冲击，并挑战现有的政府监管和治理秩序，使科技安全问题越来越棘手。近年来，基因编辑技术、人机共生、人机接口等前沿科技迅猛发展，在为公众带来新变化和新愿景的同时，给人类社会带来的伦理失范风险已经显现，一些重大科技伦理事件突破了人类的伦理底线和价值尺度。[5]科技安全使社会变革的规律性风险增多，推动科技创新与制度创新、深化改革形成历史交汇，亟须高度关注科技革命和产业变革对社会的颠覆性影响，防范技术革命的震动性影响，充分释放科技创新推动社会发展的正向动能。[6]

（二）颠覆性技术带来的产业变革风险

颠覆性技术是一类复杂性强、影响深远和广泛的技术，其来源十分复杂，可能是由新的技术路线发展而成，也可能是由重大核心技术的突破或以实现交叉融合为基础的技术升级产生。颠覆性技术可以通过快速潜入和替代的方式颠覆传统或主流技术，对发展路径、产业结构、社会文化和军事格局等产生迅速、深刻、剧烈的颠覆和重构，引发规则和格局等变革，而且随着技术不断迭代发展、融合颠覆，其可能带来不确定性的叠加式升级。[7]当前，信息领域人工智能、大数据、区块链、工业互联网等技术的突破有可能会引发其他领域的技术变革。这些颠覆性技术在创造新产业、新业态，推动产业结构升级的同时，也会颠覆现有产业，使现有投资、人才、技术、产业、规则“归零”，从而引发产业链、创新链、价值链重构，带来巨大的影响，冲击产业安全。颠覆性技术的发展，不是一个线性过程，而是会像冲击波那样，产生二级和三级效应，直至终结传统产业，重构社会版图，改写大国排序。因此，颠覆性技术的创新通常被认为是“游戏规则改变者”，如互联网、GPS、隐身飞机等，这些足以颠覆战争乃至世界格局的新兴技术都源自美国国防高级研究计划局（DARPA）的创新，正是这些创新成果奠定了美国国家安全的基石。颠覆性技术的创新过程复杂、影响深远悠长、技术突变迅速，可以通过快速潜入和替代的方式颠覆传统技术或主流技术，并引发规则和格局的变革，因而成为新兴技术治理的核心对象。

（三）新兴技术领域已成为大国博弈的重要战场

当前，新一轮科技革命和产业变革突飞猛进，以人工智能、量子信息和5G 通信等为代表的新兴技术不断取得突破，科学技术和经济社会发展加速渗透融合，给世界带来了巨大影响甚至是革命性的变化。科学技术在经济竞争的逻辑下变成驱动全球化发展的核心，同时不断反馈演变为全球化的竞争过程。也就是说，科学技术已经外溢成全球化的竞争系统，变成经济、技术竞争的重要工具。在国际技术竞争大背景下，新兴技术作为一种关键的、排他性的国家力量，逐步从支撑国家安全诸要素的后台走向前台，成为影响国家安全和经济竞争力的关键力量。新兴技术领域取代传统地缘政治要素，可能打破未来经济与军事力量的平衡体系，成为大国竞争的重要战场。这种将技术安全化的战略观，一方面由新兴技术的破坏性和革命性本质所决定，另一方面由大国博弈“落后即出局”的严酷性所决定。[8]新兴技术创新模糊了传统的军事冲突界限，增加了军事斗争的手段，这可能会使被保护国在大国延伸威慑的保护下发起小规模冲突，以实现自己部分政治和军事目标，从而给国际安全带来不稳定因素。[9]

二、新兴技术治理成为中美科技博弈的重点

近年来，美国社会技术民族主义呈现不断上升的趋势，在美国决策层已经形成一定共识，而且智库、学界为这一波技术民族主义推波助澜，使技术领域成为美国战略界认定的大国竞争的主要舞台。[10]维护美国科技领先地位，避免遭到竞争对手或潜在竞争对手的冲击，构成了这一时期美国技术民族主义的核心要旨。新兴技术治理成为维护国家安全和创新两大支柱的重要保障，这既体现在美国的大战略上，也体现在国会的相关立法中，还体现在美国政府的科技发展战略导向、各种技术保护政策上，以及各类智库的政策主张中。

（一）新兴技术治理突出安全偏好

当前，国际格局和地缘政治博弈加剧，传统技术发展早期重发展轻安全的经验与教训不绝于耳，国际社会各方对新兴技术治理的认识从一开始就不再局限于技术发展本身，而是从国家安全与战略竞争的角度予以高度重视。[1]美国战略与国际研究中心（CSIS）连续发布新兴技术治理相关报告1，报告主要就3 个方面作出阐述：1.发展中国家在应用新兴技术上具有后发优势，尤其是中国正借此超越美国，并在世界上扩展其影响力。2.各国政府和科技公司之间的紧张局势在加剧，保护主义与本土化趋势抬头。3.新兴技术治理应关注3 个维度：其一，新兴技术发展和应用正在加速，政府可能监管不足或过度监管；其二，美国对关键技术的主导地位正在削弱，私营部门在国防中发挥的作用不断提升；其三，新技术新应用对国家安全与民主的风险挑战正在加剧。2020年10月15日，美国白宫发布的《关键与新兴技术国家战略》报告指出，美国将在最高优先级的关键与新兴技术领域发挥领导作用，在最高优先级的关键与新兴技术领域与盟友和合作伙伴共同作出贡献，并管理其他关键与新兴技术领域的技术风险，最终通过推进国家安全创新基地建设和保护技术优势两大战略支柱，保持美国在关键与新兴技术领域的全球领先地位2。2022年8月9日，美国总统拜登签署生效的《2022年芯片与科学法案》，以强化美国半导体产业供应链安全和维护国家安全为由，对美国本土的半导体制造和其他相关前沿领域的科研活动提供了巨额的财政拨款和投资税收抵免等产业优惠举措，加速关系到国家安全的纳米技术、量子计算、人工智能、下一代通信、计算机硬件、生物技术、网络技术和其他新兴技术的创新和发展。

（二）美国视中国为其新兴技术领域霸权的挑战者

近年来，美国一直渲染中国在科技领域对美国的挑战，甚至提出美国已迎来了新的“斯普尼克时刻”，认为中国已经取代美国成为世界顶级高科技制造商，是人工智能（AI）、5G、量子信息科学（QIS）、半导体、生物技术和绿色能源等21世纪基础技术领域的重要竞争对手3。美国认为，当今世界的战场主要在信息科技，包括半导体、大数据、5G 移动通信、下一代网络、网络标准、人工智能与量子计算等，美国不但想掌握军事与国际话语权，更想掌控关键技术及以供应链为基础的全球经贸体系。同时，欧盟也希望在大国竞争的年代扮演更为积极与重要的角色。4美国智库继续指责中国大规模进行国家补贴、强制技术转让、盗窃知识产权、实施国家资本主义模式、利用双边协议和全球商业政治网络削弱美国人权和自由的全球主张等3。从其内容来看，报告对我国新兴技术发展抱有很大敌意，存在较大误解和歪曲，值得我国警惕，预示着未来美国政府可能会采取一些对华不友好的举措，预计将继续采取长期的法律限制与短期的行政阻碍相结合的方式在全球范围内对我国筑起技术壁垒，实施广泛的脱钩措施。

三、我国新兴技术治理面临的挑战

我国正处于由大变强实现民族复兴的关键时期，新一轮科技革命和产业变革同我国转变发展方式、优化经济结构、新旧动能转换形成历史性交汇，科技变革、社会转型、大国竞争等多重压力叠加，我国新兴技术领域研发基础薄弱，面临的科技安全风险突出，亟待加强新兴技术治理。

（一）研发基础薄弱，关键核心技术“卡脖子”问题突出

我国新兴技术研发积累不足，研发集成薄弱，需要投入的研发成本高，而且受到国际专利的制约，技术创新面临很大的挑战。在以高端芯片、基础软件、核心发动机、高档数控机床、特种材料等为代表的诸多战略性领域，大量关键核心技术仍旧掌握在以欧、美、日为代表的发达国家和地区，我国研究水平和产业能力依然与之存在很大差距，“卡脖子”受制于人问题仍然突出。[11]2021年，我国集成电路进口额攀升至约4326亿美元，同比增长23.6%。5我国大规模集成电路芯片与工艺技术、类脑芯片技术、射频与毫米波芯片技术、光传感与成像芯片、光电融合集成技术等研发基础还比较薄弱，产业化的成本较高。集成电路及专用设备、操作系统与工业软件、智能制造核心信息设备、航空发动机、农业装备等与世界顶尖技术差距巨大。集成电路产业的光刻机、通信装备产业的高端芯片、轨道交通装备产业的轴承和运行控制系统、电力装备产业的燃气轮机热部件，以及飞机、汽车等行业的设计和仿真软件等仍需进口。[12]产业基础能力弱，部分领域技术严重依赖进口，受制于人，导致存在“卡脖子”隐患。同时，新兴技术国家安全影响与国际专利制约程度呈正相关，国家安全重要性越是突出，国际技术竞争就越激烈。涉及航空动力系统、高端数控机床、机器人控制和高端医疗设备以及重大科学仪器等产业的很多核心技术我国还远没有掌握。[11]

（二）重大技术差距明显，创新竞争力不足

近年来，我国技术正处于快速追赶过程中，实现了跨越式发展，但一些重要技术较美、欧、日仍显落后，领先企业的竞争力仍有待提高。主要科技强国在一些新兴技术领域掌握着大量关键核心技术，形成技术壁垒和市场垄断地位，从而掌握了在国际竞争中的技术主导权。根据韩国2020年对120 项重点技术开展评估的结果，在最优、领先、追赶、后发、落后5 个等级中，美国80%以上的技术为最优水平，近15%的技术居领先地位，欧盟分别有近1/4 和1/3 的技术为最优和领先水平，日本有1/3 以上的技术为最优或领先，60%的技术处于追赶中，而中国只有3 项技术为最优或领先水平，80%以上的技术处于追赶状态，近17%的技术处于后发状态。6在23 项科技领域国际大奖中，截至2018年9月，中国（包括港澳台地区）仅有14 人获奖，美国1144 人，英国277 人，加拿大92 人，法国88 人，德国67 人，俄罗斯65 人，日本59 人。[13]在基于专利情况遴选出的全球百强创新机构中，2022年，中国大陆有5 家机构入围，与法国（8 家）、德国（9 家）还有距离，与美国（18 家）、日本（35 家）相距甚远7。根据《MIT 科技评论》每年评选出的“十大突破性技术”，在2016—2021年共60 项重大技术中，美国机构或企业作为主要参与者的技术有50 多项，中国仅有10 项左右8。在新兴技术产业竞争力方面，2020年，我国制药业和航空航天业占全球出口份额分别为3.1%和1.6%，虽高于日本，但与其他科技强国的差距比较明显。其中，美国和德国制药业出口份额分别占全球的7.9%和14.0%，美国航空航天业接近30%，法国、德国、英国超过10%9。2018年，中国制药业企业研发投入强度为5.4%，远低于美国（41.0%）、日本（32.8%）、德国（16.2%）；计算机、电子和光学产业企业研发投入强度为10.4%，而日本、法国超过30%，美国、德国超过20%，英国为14.5%9。这一定程度上反映了我国在知识高度密集、需要大量研发投入的新兴技术产业中与发达国家存在较大差距。

（三）缺乏足够重视，体制机制不完善

当前，我国的经济社会发展正处于转型期，政府非常重视科技自身的创新发展，但对构建新兴技术治理环境未给予充分的重视。总体上说，目前我国政府主要关注新兴技术的快速发展及与其他产业的融合，对新兴技术的潜在风险缺乏足够的重视。新兴技术开发与应用加速演进，科技管理部门很难准确把握鼓励新兴技术发展与有效监管之间的平衡。近年来，一系列突出公共事件的出现表明，中国距离现代技术安全风险其实并不遥远，既应快速了解既有安全风险、潜在的风险，还应重视监管存在的问题。同时，数字安全和隐私保护风险突出，网络等虚拟空间充斥着虚假信息，跨境数据流动政策差别大，对国家安全也产生了重大影响。

我国长期以来重视政府在科技管理中的作用，政府自上而下地组织创新资源分配和创新主体的活动，在未来技术发展方向的遴选及布局中发挥主导作用。新兴技术不断出现交叉融合的态势，面临全球化的生态、健康、社会伦理的风险威胁，对新兴技术风险问题的认识却主要集中在科学家群体，社会大众在这方面知之甚少，新兴技术常伴随非常规后果，因此，以专业权威、中心式为主要特点的传统决策模式面临治理困境。新兴技术的发展存在不确定性风险，专家与利益相关者、公众之间的沟通机制不健全，保障其他利益相关者参与技术治理的制度和法律有待优化。

四、我国新兴技术治理的对策与路径

要坚持以习近平总书记提出的“四个面向”战略方向为引领，把新兴技术治理体系作为中国特色国家创新体系建设的重要组成部分，推动科技创新与国家安全“双轮驱动”，协同发力，形成新时代我国科技改革发展的新格局，把科技自立自强作为国家发展战略支撑，有效应对美国的“技术围堵”，降低强制脱钩带来的负面影响。

（一）强化顶层设计与系统谋划

坚持以习近平新时代中国特色社会主义思想为指导，深入贯彻落实习近平总书记关于科技伦理治理和国家安全的重要论述和重要指示批示精神，做到新兴技术治理与科技创新同谋划、同部署、同步局，坚持“伦理先行、依法依规、敏捷治理、立足国情、开放合作”的治理要求，强化底线思维和风险意识，坚持促进创新与防范风险相统一，加快推进我国新兴技术治理各项工作，为科技事业健康发展保驾护航。

（二）完善新兴技术领域治理相关体制机制

第一，完善国家技术预测长效机制，建立定期大规模技术预测与及时动态研判相结合的机制。研究制定重点领域关键技术清单，建立风险预警指标体系和监测预警机制。第二，主动跟踪各国颠覆性技术创新的研发部署、策略调整，研判人工智能、基因编辑、区块链等技术发展带来的机遇和挑战，强化颠覆性技术规模化应用场景的社会实验、经济分析、伦理研究，健全完善“法律、自律、他律”的治理体系建设，努力降低转型的社会成本，协同推进相关重点科技领域的治理创新，努力主导新兴技术领域全球规则制定，提出更多中国方案。第三，建立完善新兴技术系统安全风险调查、上报和反馈机制，掌握重点科技领域主要资源、内外环境及科技人员安全状态。引入客观分析系统，加强定量分析研究，提高科技安全评估的科学性和前瞻性，提升在逆变环境中的承受、适应和迅速恢复的应对能力。

（三）分类推进技术创新，强化源头供给与战略反制两手抓

“不发展是最大的不安全”，创新发展才是解决问题的基础和关键。其一，强化基础研究，筑强创新基石。面向未来世界科技发展前沿，要加强科学基础设施建设，启动若干具有世界一流水平、支撑多学科研究的重大科技基础设施预研建设，建立原创、引领的基础理论和创新方法，探索最底层的科学规律，掌握最基础的技术工艺，厚植科技创新的知识根基，促进科技规律持续发现和创造性运用。完善学科体系，推动学科持续发展，促进学科交叉融合，鼓励科学家攻克前沿科学难题。保证基础性、系统性、前沿性技术研究和技术研发持续推进，强化自主创新成果的源头供给。其二，坚持扬长避短，打造非对称优势。针对产业变革趋势和国别竞争形式的变化，有针对性地部署一批掌控核心知识产权，具备绝对的制造集成优势和资源独占优势领域的战略布局，形成体系化制衡和撒手锏制胜的优化组合，提升战略反制能力。

（四）采取敏捷灵活的治理方式，构建多层次治理体系

新兴技术发展具有快速迭代、不确定性等特征，单一维度的立法和监管很难适应治理需求，应理性对待发展与安全的辩证关系，构建多层次治理体系。在基本理念上，新兴技术治理应从国际技术竞争大背景入手，避免一刀切式的、一蹴而就的治理方式，应以领域细分和风险防范管理为导向，按照“急用先立、成熟先立”的原则，针对新技术、新产业、新业态，遵循包容审慎、敏捷灵活、鼓励创新等治理理念，同时考虑不同应用场景可能存在的负面影响，提出分类分级分层的治理方案。在人工智能、基因编辑等新兴技术领域采取行业自律、技术指南、伦理框架等灵活治理方式，探索制定前瞻性规则，推动先行先试，缓解法律刚性带来的发展阻力，同时对新兴技术研发进行审慎评估，在可能引发安全风险的领域，设立负面清单，建立红区或研发限制规范，确保科技向善。贯彻人类命运共同体理念，支持科研团体、专家学者、企业主动搭建新兴技术创新发展制度建设合作平台，积极参与国际标准和规则制定。针对新兴技术领域机器人异化、生物安全风险管控和治理等重大国际共性问题，加强立法政策研究，提出中国方案，贡献中国智慧，发挥中国作用。

五、结语

作为新一轮科技革命和产业变革的核心驱动力量，新兴技术创新发展在为社会提供强大发展动力和支撑平台的同时，也给国家安全治理带来一系列挑战。新兴技术发展已经成为重构社会版图和竞争格局的大国博弈战场。在中美科技博弈的背景下，新兴技术治理在助力创新的同时，突出安全偏好，尤其是“国家安全”，需要充分理解、认识新兴技术发展的安全风险与挑战，探索将国家安全要素镶嵌于新兴技术治理的有效路径。要认清新一轮科技革命和产业变革博弈加剧的态势，以及中美科技竞争关系的长期性和复杂性，评估中国在关键领域技术的发展水平，是理解新形势下新兴技术治理逻辑的重要基础。新兴技术之所以“新”，是因为其具有新颖性、高速增长、不确定性等特点，发展过程中形成的风险情境及作用机制也要求新的治理思路、治理方式、治理手段，治理体系上的转型与变革是新兴技术治理的重要保障。及时地识别新兴技术安全风险，适时地作出调整，“软”“硬”两手齐抓共建，不仅应在治理思维和机制上积极回应新兴技术发展带来的挑战，还应打好科技自立自强主动仗，塑造新发展优势，这将是我国今后相当长一个时期新兴技术治理的目标与任务，有很多问题值得进一步研究并在实践中探寻答案。

注释：

1.参见2020年2月14日美国战略与国际研究中心（CSIS）发布的《双子塔：在新兴技术治理中维护国家安全和国家创新》（https://www.csis.org/analysis/twin-pillars-upholding-national-security-and-nationalinnovation-emerging-technologies），3月18日发布的《核阴影下的态势感知技术和危机决策》（https://nuclearnetwork.csis.org/final-report-under-the-nuclear-shadow-situational-awareness-technology-and-crisisdecisionmaking/），4月17日发布的《情报优势：美国情报新兴技术的机遇与挑战》（https://www.csis.org/analysis/intelligence-edge-opportunities-and-challenges-emerging-technologies-us-intelligence）等。

2.参见美国白宫2020年10月15日发布的《关键与新兴技术国家战略》（https://www.whitehouse.gov/wp-content/uploads/2020/10/National-Strategy-for-CET.pdf）。

3.参见2021年12月7日哈佛大学贝尔福科学与国际事务中心发布的《伟大的技术竞争：中国与美国》（The Great Tech Rivalry：China vs the U.S.）。

4.参见Carl Bildt于2019年7月19日在Financial Times发布的报道Europe risks irrelevance in the age of great power competition（https://www.ft.com/content/c4f8d89c-a898-11e9-90e9-fc4b9d9528b4）。

5.来源于中华人民共和国海关总署海关统计：2021年12月进口主要商品量值表（美元值）（http://www.customs.gov.cn//customs/302249/zfxxgk/2799825/302274/302277/302276/4127373/index.html）。

6.数据来源：韩国科技评估与规划研究院（KISTEP）发布的《2020年技术水平评估》。

7.数据来源：根据科睿唯安发布的《2022年度全球百强创新机构》整理。

8.数据来源：根据麻省理工学院《MIT科技评论》（2016—2021年）整理。

9.数据来源：经济合作与发展组织（OECD）数据库。