深度伪造技术的国家安全风险及其全球治理*

李 猛

（湘潭大学 公共管理学院，湖南 湘潭 411105）

人类在发展过程中学会了根据感官对物质世界的体验来定义现实，某些形式的网络交流正试图创建我们熟悉的情境，如：视频似乎是合理的现实表现形式，实时音频听起来像人们的实际说话方式①约翰·R.苏勒尔.赛博人:数字时代我们如何思考、行动和社交［M］.刘淑华，译.北京:中信出版集团，2018:57.。一张图片可以胜过千言万语，却没有比一段事件的音频或视频记录更具有说服力，但现在却是一个巨大的危险。人类传统的认知范式被改变，“眼见不一定为真”，“耳听不一定为实”。 深度伪造（Deepfake）是人工智能的前沿技术，具有场景再现的优势，在文化、教育、医疗及娱乐等领域给公民的工作、学习和生活带来便利。但随着智能技术的广泛运用，衍生的国家安全风险也逐渐成为互联网讨论的热门话题，如男大学生造女生“黄谣”“奥巴马咒骂特朗普”“佩洛西醉酒演讲”等新闻。

一、问题的提出与文献综述

Deepfake（深度伪造）源自Deep learning（深度学习）和fake（伪造）的组合，是人工智能最新发展的产物，特指基于生成对抗网络（GANs）等深度学习模型，来创造逼真的虚假图像、视频的技术①王坤峰，苟超，段艳杰，等.生成式对抗网络GAN 的研究进展与展望［J］.自动化学报，2017（3）:321-332.。 GANs 由两个“神经网络”同时承担，一个网络被称为“生成器”（generator），创建了以源数据为模型的内容，而第二个网络“鉴别器”（discriminator）试图识别伪造内容。生成器生成的图片尽可能地欺骗鉴别器，而鉴别器又尽可能地从真实图片中判断出合成的图像，两者的博弈保证了伪造视频和音频的真实性。2017 年美国红迪网出现第一个深度伪造的视频，名为“Deepfake”的用户利用技术换脸明星盖尔·加朵，伪造出从未发生过的色情视频，在世界范围内引发轰动。随着技术应用场景的逐渐增多，深度伪造技术开始受到学术界和实务界的广泛关注和讨论，并出现了一些具有一定水平的研究成果。

国内外学者对深度伪造技术的研究主要集中在以下四个方面。其一，从法学视角的研究，分析技术应用可能带来的法律风险，认为深度伪造技术对包括证据认定、民事侵权救济、刑法规制和国际安全机制在内的法律制度带来多重现实挑战，通过比较中国、美国和欧盟的规制实践，提出完善法律规制的建议②张远婷.人工智能时代“深度伪造”滥用行为的法律规制［J］.理论月刊，2022（9）:118-130.③蔡士林.“深度伪造”的技术逻辑与法律变革［J］.政法论丛，2020（3）:131-140.④姜瀛.人工智能“深度伪造”技术风险刑法规制的向度与限度［J］.南京社会科学，2021（9）:101-109.⑤Théard-Jallu C. Droit et éthique autour de l’intelligence artificielle， accélération en Europe et en France［J］.Actualités Pharmaceutiques， 2021（611）: 30-35.。其二，国家安全视角的研究。学者们宏观上从个体和群体两个维度，微观上从物质和精神两个维度，分析深度伪造技术对国家安全的威胁，具体表现为侵犯公民合法权益，破坏政府公信力、操纵国家政治选举等问题⑥姜文瀚，田青，郭小波.深度伪造技术应用的公共安全挑战与治理［J］.警察技术，2023（1）:4-9.⑦陈雪.深度伪造技术的安全风险研究与应对［J］.网络安全技术与应用，2022（6）:130-132.⑧Van der Sloot B， Wagensveld Y. Deepfakes: regulatory challenges for the synthetic society［J］. Computer Law &Security Review， 2022，46:105716.。其三，传播学视角的研究。深度伪造技术在影视、新闻广告等方面大放异彩，激发从业人员的创造力，提升优质内容的快速传播；传媒领域的应用导致技术异化，呈现消解新闻真实性、诱发传播秩序的失范、舆论引导失灵等风险⑨吴静.“深度伪造”技术在传媒领域的新应用和异化风险［J］.传媒，2023（3）:51-54.⑩刘建明.深度伪造对媒体与人类的致命威胁［J］.新闻爱好者，2021（4）:8-13.⑪Skibba R. Media Enhanced by Artificial Intelligence: Can We Believe Anything Anymore?［J］. Engineering， 2020（7）:723-724.。其四，深度伪造检测技术视角的研究。深度伪造检测技术主要分为图像、音频、视频三大类伪造检测技术，都可以分为主动检测和被动检测技术⑫唐玉敏，范菁，曲金帅.深度伪造生成与检测研究综述［J］.计算机工程与应用，2022（23）:56-66.⑬暴雨轩，芦天亮，杜彦辉.深度伪造视频检测技术综述［J］.计算机科学，2020（9）:283-292.⑭Nguyen T T， Nguyen Q V H， Nguyen D T， et al. Deep learning for deepfakes creation and detection: A survey［J］.Computer Vision and Image Understanding， 2022， 223: 103525.。

学者们围绕深度伪造技术这一主题进行了较为深入的研究，为本文的展开提供了大量有益的启发，但仍有值得商榷之处。一是研究的学科主要分布在法学、新闻传播学和计算机科学上，缺乏以公共价值为逻辑起点的研究，公共管理视角的相关研究关注不足。二是研究的具体内容上，相关研究揭示了深度伪造技术引发的国家安全风险样态，但并未对国家风险产生的原因做系统阐释；以往研究从法律、伦理、技术等方面提出治理措施，但仅就民族国家内部进行规制，相关规制措施缺乏全球视野，亟待探讨深度伪造技术国家安全风险产生的原因，提出规制深度伪造技术的全球治理建议。2022 年10 月16 日，习近平总书记在党的二十大报告中强调：“我们要坚持以人民安全为宗旨、以政治安全为根本……以促进国际安全为依托，统筹外部安全和内部安全、国土安全和国民安全、传统安全和非传统安全、自身安全和共同安全，完善参与全球安全治理机制，建设更高水平的平安中国，以新安全格局保障新发展格局。”①习近平. 高举中国特色社会主义伟大旗帜 为全面建设社会主义现代化国家而团结奋斗［N］. 人民日报，2022-10-26（001）.本文立足于深度伪造技术的良性发展，聚焦国家安全风险，阐释深度伪造技术衍生的国家安全风险，继而剖析深度伪造技术的国家安全风险的成因，探索深度伪造技术国家安全风险的全球治理之策。

二、深度伪造技术侵犯国家安全的风险样态

深度伪造技术在实际运用过程中逐渐异化，不法分子利用深度伪造技术实行诈骗、诽谤和侮辱等行为，给个人权益、社会稳定和政府运行带来诸多国家安全风险的挑战。从系统化的角度来看，深度伪造技术对国家安全的危害是多维度的，既冲击和挑战包括政治安全在内的传统国家安全，也带来包括经济安全、网络安全和国民安全在内的非传统安全上的新问题。

（一）政治安全风险

传统国家安全观中政治安全是国家安全的核心价值，政治安全是指国家政治发展与政治稳定的良性互动和动态平衡。深度伪造技术的滥用展现出其政治安全风险，集中体现为制造公众信任危机、侵犯政治选举民主以及诱导网络意识形态等问题，对政治安全的侵犯成为深度伪造技术滥用的重灾区。

第一，操纵国家政治选举。深度伪造技术以一种极具破坏性的形式，即发布虚假的政治候选人视频和音频，影响国家选举的结果。敌对势力利用深度伪造技术发布政治候选人的谣言，通过社交媒体肆意传播，破坏候选人的政治形象，从而操纵公民投票行为。例如，在2017 年的法国大选期间，俄罗斯将网络间谍活动和信息操纵结合起来，通过窃取大量数字信息和文件，并对其中一些文件进行修改，以阻止马克龙当选法国总统。尽管马克龙最终躲过一劫，但这场行动仍然给选举过程本身蒙上了不合法的阴影。

第二，侵蚀政治制度的信任。深度伪造技术使得事实和虚构越来越难以区分，导致民众陷入“眼见不为实”的心理困境，进而被操纵情绪反应，侵蚀公众对政治制度的信任。例如，在2018 年佛罗里达州高中枪击案后，学生Emma 发布了一段视频，展示她撕下一张大纸上的靶心目标，借以支持管制枪支的活动，但社交媒体上很快流传了一个假版本，撕下的纸不是靶心，而是美国宪法。部分公众相信了这个虚假的视频，歪曲了全国的枪支管制对话。这种歪曲的民主话语掩盖了公民的真实诉求，侵蚀人们对政治制度的信任。

第三，威胁意识形态的安全。被工具理性驱使的深度伪造技术若应用于意识形态领域，会对政治舆论造成威胁，从而间接侵蚀民主、煽动社会分歧和加剧意识形态分裂①张爱军，王芳.人工智能视域下的深度伪造与政治舆论变异［J］.河海大学学报（哲学社会科学版），2021（4）:29-36、106.。自2019 年以来，BBC 记者依据少数非实景卫星图片和来自反华人士的所谓“报告”，污蔑中国政府在新疆实施“强迫劳动”和“种族灭绝”政策，甚至将公路反恐演习视频作为中国暴力防疫的“证据”②刘国柱.深度伪造与国家安全:基于总体国家安全观的视角［J］.国际安全研究，2022（3）:3-31.。西方媒体利用深度伪造技术攻击中国的“人权”问题，破坏国家的和平安定和民族团结，误导国际社会对中国的印象。

（二）经济安全风险

在传统的安全观中，经济安全并没有得到足够的重视，直到“冷战”后期的非传统安全观逐渐形成，经济安全才开始获得与其实际地位相符的重要地位。深度伪造技术对经济安全的威胁表现在通过发布虚假信息，使企业面临突发性风险，扰乱市场秩序的稳定，威胁金融安全。

第一，损害企业的商业信誉。市场经济是信用经济，商业信誉是企业在市场竞争中取得成功的关键。在某企业首次公开募股（IPO）的关键时刻，社交媒体上传播的一段深度伪造的视频，显示该公司的CEO 嫖娼或说了一些不当言论，可能对企业的信誉产生负面影响。企业的投资者和合作伙伴往往采取“宁可信其有，不可信其无”的审慎态度，致使企业融资机会流失，导致企业资产贬值，引起企业股价暴跌。例如，2019 年特斯拉CEO 马斯克的一段伪造视频在网上疯传，视频中马斯克在直播间吸食毒品，导致特斯拉股价下跌了6%。

第二，扰乱市场经济的稳定。世界各国的经济部门都深受虚假消息的困扰，不法分子编造有关财政和货币政策调整的谣言，利用深度伪造技术制造虚假图像和视频，影响资本的自由流动，破坏市场秩序和社会稳定。例如，2021 年出现的中国人民银行“上调常备借贷便利利率，需提前两天申请”的谣言，导致谣言发布当天午后股票市场、债券市场、期货市场纷纷“跳水”，扰乱市场经济的稳定。在疫情防控期间，不法经营者为牟取暴利，伪造疫情视频和音频，制造恐慌情绪，导致公众做出不理性的行为，威胁市场经济的安全。

第三，威胁金融安全。金融市场极易受到各种外界敏感信息的影响，任何一条敏感信息都可能引发金融市场波动。不法分子利用深度伪造技术制作虚假音频或视频，制造“黑天鹅”事件的虚假新闻热点，使资金短时间内流出和流入相关领域，引发全球证券、债券和外汇市场的连锁反应。如，2019 年9 月土耳其、卡塔尔和穆斯林兄弟会法西斯组织向埃及发起假新闻攻势，导致埃及股市EGX 100 指数下跌5%，约三分之二的成分股跌逾8%。海外“黑天鹅”事件使中国黄金白银期价下跌，扰动A 股早盘低开低走，进而导致亚洲股市普跌现象。

（三）网络安全风险

网络安全是典型的非传统安全问题，安全问题因网络环境而被重塑，影响着国家间的博弈机制和战略选择。习近平总书记在中央网络安全和信息化领导小组第一次会议上指出，“没有网络安全就没有国家安全，没有信息化就没有现代化”③总体布局统筹各方创新发展 努力把我国建设成为网络强国［N］. 人民日报，2014-02-28（001）.。深度伪造技术对网络安全的威胁，不再只是系统安全问题，而是在形式和实体上都跨越“国界”，成为关系到国家安全的重要问题。

第一，威胁网络运行安全。网络运行安全是指网络社会正常运转的基础设施免受挑战和破坏，而国防、保密和国家关键信息基础设施的安全又直接影响国家安全。在2015年，黑客利用欺骗手段，诱导乌克兰电力公司员工下载携有病毒的文件，导致全国超过一半的地区的居民家中断电数小时，对当地的社会秩序和生产生活造成了重大影响①裘玥，李思其.人工智能发展应用过程的安全威胁分析及解决策略研究［J］.信息网络安全，2018（9）:35-41.。随着智能电网的应用，不法分子使用更为高级的手段，利用深度伪造技术在危险品上加装花纹等特殊对抗样本，使AI 图像识别系统无法识别高压线周围的危险用品，使电力系统被恶意破坏，或为情报、监视与侦查任务创造条件。

第二，损害网络信息安全。大数据时代，网络已被整合为以数据为中心的数据收集、存储、处理和应用的系统，以数据安全为核心的信息安全成为网络安全的基础②于志刚，李源粒.大数据时代数据犯罪的制裁思路［J］.中国社会科学，2014（10）:100-120.。西方国家凭借其算法技术优势，通过直接入侵他国战略核心数据库等行为，威胁他国的网络信息安全。如，2022 年美国国家安全局（NSA）持续对西北工业大学展开攻击窃密，为了掩盖其网络攻击行为，做了长时间的深度伪装的准备工作，其采用逼真的假邮件“钓鱼”方式和41 种网络武器攻击，企图窃取中国基础设施核心数据。

第三，侵犯网络主权安全。网络主权是网络安全的重要组成部分，是国家规范互联网的基础。美国长期通过社交媒体大规模传播虚假信息，打着“人权高于主权”的旗帜，大肆操作网络舆论来构陷他国、煽动“颜色革命”，侵犯别国网络主权安全，带来社会信任危机和网络安全风险。如，2022 年乌克兰危机以来，美国网络司令部采取多项措施支持乌克兰的信息行动，运用机器人账号一周内累计发布约350 万条恐俄情绪的推文，这样一场“虚假信息闪电战”使俄乌冲突形势更加严峻。

（四）国民安全风险

国民安全是非传统安全的重要内容，经历了从古代社会以国民数量和臣服为内容的国民群体安全，到追求以国民个体安全为核心地位的现代社会的国民安全。深度伪造技术衍生的最为直接的风险之一就是国民安全风险，具体指对国民群体或个体生命、财产、数量、质量等生存、发展的利益及权益的可能威胁。

第一，侵犯公民人身权利。深度伪造的色情视频使受害者遭受“虚拟的性暴力威胁”，虽然没有发生在身体上，但却会穿透身体，对个人的心理造成深远的影响。除了对受害者心理造成直接影响，伪造视频严重侵犯被害人的人身权利。如：2018 年澳大利亚高中生Martine 的一段伪造的色情视频在网上广泛传播，使她收到了大量的死亡威胁和性骚扰信息，Martine 感到精神焦虑甚至想要自杀。视频创作者未经受害人同意使用其肖像，以虚假的色情视频为要素，捏造受害人为视频主角是一种捏造事实型诽谤，泄露受害人的手机号码和家庭地址，直接侵犯受害人的肖像权、名誉权和隐私权。

第二，侵犯公民财产权利。深度伪造技术通过“身份盗窃”的方式侵犯公民财产权，具体可以从作为犯罪对象的角度对人实施欺诈，如：2020 年六旬女子黄月沉迷于“假靳东”，“假靳东”利用黄月的深情和信任，造成黄月上万元的财产损失。“假靳东”实则是不法分子利用伪造技术，生产出的剪辑配音的假视频。还可以从作为犯罪工具的角度利用机器实施诈骗，如公民的人脸是个人信息数据库的钥匙，在支付型应用程序中，不法分子伪造逼真的实时面部生物特征，通过眨眼、摇头等视频模拟被害人，骗过应用程序对活体认证的要求，便可实施贷款、盗刷资金等侵财行为。

第三，侵犯公民就业权利。就业是最大的民生，党的二十大报告中强调，“实施就业优先战略，强化……消除影响平等就业的不合理限制和就业歧视，使人人都有通过勤奋劳动实现自身发展的机会”①习近平. 高举中国特色社会主义伟大旗帜 为全面建设社会主义现代化国家而团结奋斗［N］. 人民日报，2022-10-26（001）.。公司通常会雇用没有声誉受损负担的求职者，免得企业缠上不必要的问题，这使得深度伪造技术的受害者在就业市场上受到歧视。根据微软2009 年的一项研究，超过90%的公司使用搜索结果来决定候选人，当求职者的搜索结果显示有“不合适的图片”，雇主会拒绝面试或雇佣求职者。

三、深度伪造技术国家安全风险的成因透析

深度伪造技术在增进社会福祉的同时，衍生的国家安全风险也日益凸显，并在全球范围内广泛传播。现代社会已然成为“风险社会”，风险社会的概念和意识的重要性逐步增加，需要在理论上冷静剖析国家安全风险产生的原因，并在实践中进行探讨。深度伪造技术衍生的国家安全风险，遵循人—机器—环境的发展路线，需从技术的本质特征、技术参与主体、技术生成环境上探讨国家安全风险产生的原因，为提出风险防范措施奠定基础。

（一）机器的因素：深度伪造技术使用的平民化

从技术本质的层面来分析原因，能够深刻认识深度伪造技术产生风险具有必然性，机器的因素是风险形成的首要原因。深度伪造技术自身使用门槛的低下，高度真实的生成效果、强大的通用性，使普通公众能轻松使用技术，并在诸多领域中应用，达到“以假乱真”的效果，诱发国家安全风险。

第一，技术使用门槛的降低。维特和布鲁姆指出，机器人、病毒、骇客和无人机，甚至更危险的技术，往往会随着时间的推移而扩散②本杰斯·维特，加布里埃·布鲁姆.未来的暴力与国家治理——面对机器人、病毒、骇客与无人机的新威胁［M］.万岩，等，译.北京:中国发展出版社，2019:7.。传统合成技术需要花费巨额费用，并且具有专业技术门槛。深度伪造技术打破了技术和成本壁垒，成为大众科技。GitHub 等技术开源的网站上可以免费获取深度伪造技术的代码算法，并从相关的学习小组上获取教程，使用者借助云平台，无须安装编程语言和开源软件库便可以生成伪造视频。技术论坛上存在丰富的带有标记的视觉资料的免费大型数据集，使伪造视频和音频的技术难度与成本迅速下降。

第二，技术生成物的高度真实。深度伪造技术是一种“无监督学习”，基于“生成对抗网络”，在每一次的“学习—监督”过程中自我优化，最终形成逼真的虚假视频和音频。深度伪造技术既可以解决人们在表达感情的面部情绪变化、光线的背景变化和不同场景中习惯性动作的细微变化，也可以捕捉到在伪造视频时差异化人群的节奏和音调。同时深度伪造技术系统生成视频、音频具有自主性，通过算法程序自动完成，可以实现机器的自主学习，脱离了人的参与，保证了视频合成效果的流畅性和逼真性。

第三，技术应用的强大通用性。深度伪造技术自身适应性强，展现出强大的通用性，既可以运用到教育、影视、医疗和自动驾驶等领域，造福于人类社会，也可以用到新闻媒体、政治参与、网络社交等场景，让“邪恶之花”绽放。深度伪造技术的应用方式和场景的不断变换，与其他技术的多样性组合，构成了复杂未知的技术系统，可能导致技术反噬社会①苗争鸣，尹西明，许展玮，陈劲.颠覆性技术异化及其治理研究——以“深度伪造”技术的典型化事实为例［J］.科学学与科学技术管理，2020（12）:83-98.。当有犯罪动机的人利用深度伪造技术在不同场景下违法犯罪，那么该技术的广泛适用性则会为滥用和恶意使用提供更多的可能性。

（二）人的因素：技术参与主体责任缺位

现代技术衍生的国家安全风险是人造风险，具体来说是由人来制造、承担、治理的风险，“人”在其中居于主体地位，最终都要归结到个人的身上。随着深度伪造技术的广泛应用，技术参与主体被技术裹挟，面临着主体异化的危机，需要从个体或群体的责任层面深入剖析风险产生的原因。

第一，技术使用主体责任感知失范。技术使用者责任意识的淡薄是风险产生的直接原因，这里的技术使用者包括技术研发者和内容制造者。技术研发者主要涉及的是科学家的道德责任感缺失的问题，体现在技术研发者坚持技术至上和功利主义价值观，他们不以造福人类为终极目标，将不成熟的应用放入市场，造成不可预测的伦理风险。内容制造者方面是指他们对技术没有正确的认识以及自律性的要求，体现在他们利用深度伪造工具，基于自身利益或可能威胁点，研究和选定“源数据”，制作“新数据”上传到互联网，激发制造者预期的威胁行为，产生现实威胁或数据污染②张桦.网络空间“深度伪造”的威胁及治理［J］.网络空间安全，2020（5）:45-51.。

第二，技术受众信息素养不高。公众的社会认同感决定了人们相信或怀疑某件事，“虚假消息”往往符合公众的现实认知，导致公众对“假新闻”深信不疑。行为人利用公众的这种认知，使用深度伪造技术生产出逼真视频，使得信息素养不高的公众难以分辨出虚假视频，诱导公众在社交媒体上传播，达到视频制造者的意图。政治领导人、公众人物这些“精英”代表着一个行业甚至一个国家，他们的一举一动都会对政治和经济领域造成深刻的影响。不法分子利用公众的信任，制造精英的伪造视频，将会对国家政权的巩固、社会经济的稳定造成重大威胁。

第三，技术管理主体责任角色失准。平台企业考虑到对平台内容的过滤、删除等管理行为会使用户大量外流，使网络平台可能失去巨大的数据流量和高额的利益回报，并且识别虚假视频音频会增加平台的运营成本，致使这些企业并未积极参与对深度伪造技术的治理。国外平台企业享有“无责任的权力”，如美国《通信规范法》第230 条赋予网络平台的“豁免权”，其以可能侵犯言论为由逃避监管。平台企业未严格履行内容监管的责任，社交媒体上充斥着大量的“深度伪造”制品，甚至跨域国界传播到国外，增加了深度伪造技术的治理难度。

（三）空间因素：互联网助长虚假信息的传播

信息革命打破了“少对多”的信息分发环境，扩大个人和组织传播信息的实际能力，促进全球信息内容的互联互通。深度伪造技术出现在一个危险的时期，网络环境某种程度上实现了传播的平民化，公众的注意力不再只掌握在值得信任的传媒公司手中，使得虚假视频可以迅速传播到全球。

第一，信息级联产生“骗子红利”。信息级联是传播学术语，特指在某些情况下人们不再对自己的信息给予足够的关注，而是依赖于他人已经确定的信息，并认为这是一种理性的选择，然后将这些信息传递出去①Lisa R. Anderson and Charles A. Holt. Information Cascades in the Laboratory［J］. The American Economic Review，1997（5）: 847-862.。深度伪造技术的动态扩散可以被视为一个或多个信息级联的集合，而社交媒体平台是形成信息级联的成熟环境。信息级联也会蔓延到传统大众媒体，它们会注意到社交媒体关注的热点话题，报道一些原本根本不可能报道的故事。不法分子利用信息级联的力量，引导公民传播虚假的音视频，误导传统媒体的报道，以达到他们的预期目的，从而形成“骗子红利”。

第二，“求奇空间”诱发网络流言。消极和新奇的消息总能够抓住公众的注意力，使人们愿意与他人分享。社会科学研究表明，人们更倾向于相信和记住负面信息，负面信息不仅容易被分享，而且也相对具有“粘性”②Kensinger E A. Negative emotion enhances memory accuracy: Behavioral and neuroimaging evidence［J］. Current Directions in Psychological Science， 2007（4）: 213-218.。互联网放大了公众对性、八卦和暴力等刺激的自然倾向，搜索引擎根据人们的兴趣推荐结果，倾向于显示更多相似的内容，其中包括更多的性别和流言蜚语，这种趋势为深度伪造作品提供了有利的环境。例如，数据科学家使用了第三方事实核查网站，对2006年至2010 年期间在Twitter 上分享的12.6 万篇新闻报道进行了真假分类，研究发现骗局和谣言的传播速度是真实故事的十倍③Vosoughi S， Roy D， Aral S. The spread of true and false news online［J］. science， 2018（6380）: 1146-1151.。

第三，“过滤气泡”形成“回声室”。社交媒体平台通过授权用户“点赞”和分享某些内容，使公众置身于自身认可的信息之中。平台算法突出热门的信息，特别是那些已经被朋友分享的信息，使人们周围充斥着来自相对同质群体的内容，进而形成过滤气泡。过滤气泡可以成为强大的绝缘体，抵御相反信息的影响。一项针对Facebook 用户的研究发现，阅读事实核查文章的人最初并没有阅读假新闻的文章，而最初就阅读假新闻的人从未阅读过事实核查的文章。社交媒体平台已然成为“回声室”，容易滋生极端主义，仇恨情绪也容易被激化，威胁个人生存、社会以及国家的发展④Sunstein C. #Republic: Divided democracy in the age of social media［M］. Princeton University Press， 2017: 5.。

（四）制度因素：既有伦理法律的约束困难

深度伪造技术在经济利益的驱动下迅速发展，伦理和法律的发展速度没有跟上技术的发展步伐，面对蓬勃发展的深度伪造技术，伦理法律规范显得“鞭长莫及”。深度伪造以网络为载体传播虚假信息，网络空间的复杂性使得网络伦理和法律尚未完善，不利于风清气朗的网络空间环境形成。深度伪造技术和网络空间两个领域的伦理和法律的不健全，难以规制国家安全风险的传播，导致风险迅速蔓延甚至跨越国界。

一方面，传统伦理规范难以规范颠覆性技术。技术已成为一种基本文化现象，渗透到人类生存的各个方面，并逐步扩展到社会的各个领域⑤朱葆伟.关于技术伦理学的几个问题［J］.东北大学学报（社会科学版），2008（4）:283-288.。深度伪造技术是一项新兴技术，现有科技伦理和网络伦理却无法指导深度伪造技术的研发和应用。随着“生成对抗网络”的持续更迭，深度伪造的视频将变得更加逼真，人类需要提高道德标准，完善技术的道德规范。当前深度伪造算法无法理解伦理原则，也无法判断是否符合价值规范的要求。互联网并非丛林世界，网民需要接受网络伦理的规范，从事合理的网络活动，但有关网络伦理的研究起步较晚，人们对互联网的理性认识仍显不足，具体表现为对形式的关注过多，对内容的价值标准和鲜明的伦理原则的关注不足。由于网络伦理不完善且约束力低下，那些道德感不强、自我控制能力弱的个体为了谋取个人私利而侵害他人的利益，从而扰乱网络空间秩序。

另一方面，法律规范滞后于智能技术发展。智能技术的发展推动社会进步，促使制度更新和法律完善，但法律建设往往滞后于技术发展，两者之间存在一定的时间差。目前，世界各国在深度伪造技术的适用法律条例和量刑依据上存在较大争议，未形成有关深度伪造治理的一致意见。我国对深度伪造技术的规制，主要体现在行政、民事和刑事领域。由于技术的持续创新和应用场景的广泛，相关法律规制总是零散和模糊的，难以针对具体场景进行有效治理，不法分子则利用法律空白逃避法律责任。社交媒体平台是深度伪造主要传播者，在治理深度伪造中发挥着重要作用，然而各国对平台企业的监管缺乏法律依据，难以积极动员企业参与治理，并且容易导致监管部门职责划分模糊不清，使深度伪造的监管陷入困境。

四、全球治理：探索深度伪造技术国家安全风险的治理实践

全球治理理论的创始人之一罗西瑙将全球治理描述为“各个层次的人类活动——从家庭到国际组织——的规则体系，采取行动来实现目标的影响力跨越了国界”①Rosenau J N. Governance in the Twenty-first Century［J］. Global Governance， 1995（1）:13-43.。深度伪造技术的滥用引发的危害超越了单一国家，风险随着人员和信息的流动向全球扩散，任何人和国家都无法独善其身。类似于国家治理，全球治理同样涉及政府、市场和社会因素，深度伪造技术全球治理机制的完善需要妥善处理好政府、市场和社会三者之间的关系，推动各国政府加强技术管控，并与政府间国际组织、跨国企业、国际非政府组织等市场和社会力量构建权责清晰的治理共同体，形成深度伪造技术治理的全球合力。

（一）凝聚全球治理的价值共识

国家安全问题早已成为全球关注的焦点，因为任何一个国家的薄弱环节都可能引发外部风险的涌入，造成国家安全的风险漏洞。全球各国都在不同程度上提出了对深度伪造的规范和治理，但是缺乏全球共识和一致性框架，深度伪造治理亟待达成全球价值共识。

第一，确立“技术中立”的理念。技术的价值导向反映了各国政府在深度伪造治理方面的基本理念，决定了对技术治理的策略和政策工具的选择。深度伪造技术在教育、医疗和影视制作等领域中具有优势，同时也可以用来制造威胁社会稳定的虚假音视频。深度伪造技术本身具有中立性，不中立的只是使用该技术的人。各国应该抓住技术创新的机遇，树立技术中立的理念，实行包容性审慎监管，正确引导，降低技术应用的风险。

第二，构建“和合共生”的话语体系。深度伪造技术滥用的全球蔓延已经形成了全球性的威胁，单个国家难以有效应对，因此需要全球范围内各国通力合作，迈向和合共生的道路。习近平主席强调，“人类是一个整体，地球是一个家园。面对共同的挑战，任何个人或国家都不能独善其身，人类只有通过和衷共济、和合共生才能走出困境”②习近平. 加强政党合作 共谋人民幸福［N］. 人民日报，2021-07-07（002）.。面对深度伪造技术带来的国家安全风险挑战，各国应克服“集体行动困境”，共同构建一种合作共赢、和合共生的人类命运共同体，为世界的和平与发展共同努力。

第三，将人的安全作为全球治理的落脚点。深度伪造技术对国家安全的威胁，最终都会以危害个人安全的形式呈现，应将保护人的安全作为全球治理的落脚点。要坚持以人民安全为宗旨，本着对社会负责，对人民负责的态度，加强对深度伪造技术和网络空间的治理。传统安全领域中女性安全容易遭到忽视，国际关系理论中充满了男性特征与性别偏见，女性和弱势群体的安全问题也应受到全球治理者的关注①李开盛.人、国家与安全治理:国际关系中的非传统安全理论［M］.北京:中国社会科学出版社.2012:86。

（二）探索负责任的政府规制体系

在全球视野下，政府是一个广义概念，包括国家行为体和政府间国际组织。国家行为体利用强制权力制定国家内部的规章制度，实现对国内事务的治理。政府间国际组织通过制定统一规则和政策来协调国家间的治理活动，实现超国家体系的全球治理。面对深度伪造技术的巨大威胁，需要民族国家和政府间国际组织共同努力，构建负责任的政府规制体系。

第一，制定因地制宜的法律法规。各国现有的法律责任体系，某种程度上可以涵盖深度伪造的后果，可以根据后果的危害程度依次采用行政处罚、民事处罚和刑事处罚，依据具体情况决定是加强还是放松管制，以使法律规制与治理情景相契合。为有效打击深度伪造的跨国犯罪问题，各国需要在国际法的基础上共商共议，探索深度伪造技术的全球法律规制，可以通过修改多边国际规则（例如国家责任原则中的具体内容），及时解决深度伪造对这些原则的挑战问题。

第二，投入资金援助检测技术的研发。深度伪造的检测工具是治理框架中不可或缺的重要组成部分。政府需要发挥引导作用，加大对检测技术的资助力度，鼓励反制深度伪造技术领域的科技创新。政府内部与深度伪造技术相关的各职能部门，可以通过投入专项资金的方式，开展各自领域的深度伪造检测和防御工作，也可以通过发布检测深度伪造技术的科学基金，鼓励科研院所、高等院校和互联网企业成立联合攻关小组②龙坤，马钺，朱启超.深度伪造对国家安全的挑战及应对［J］.信息安全与通信保密，2019（10）:21-34.。

第三，强化政府间国际组织的协调作用。深度伪造技术的良性发展，需要联合国开发计划署（UNDP）倡导利益相关方通过预防冲突、采取和平行动等方式，促进全球在负责任技术和可持续使用方面的协作。深度伪造的跨国犯罪问题令人担忧，各国应充分利用国际刑警组织（ICPO）提供的多边合作平台，重视国际刑警组织内多种数据信息库，及时获取并上传跨国犯罪相关信息，发挥国际刑警组织在参与全球安全治理中的重要作用。

（三）发挥跨国公司的原发性优势

随着产业资本向金融资本转化，跨国公司逐渐成为世界市场的主体，推动着社会生产的全球化、生产要素在全球范围内的流通。深深度伪造技术风险的全球横行，需要发挥市场对技术发展的引导作用，积极探索监管深度伪造的新模式，发挥跨国公司在治理方面的原发性优势。

第一，加快深度伪造的检测技术研发。深度伪造技术是由跨国公司开发的，跨国公司同样需要承担检测深度伪造的重要任务。当前的检测方法仍然依赖于机器学习算法和深度学习模型，而人工智能自身的瓶颈阻碍了检测技术的进一步发展。跨国公司需要同时发挥“使用算法和模型对视频逐帧提取”和“基于视频完整性识别”这两类检测方法的优势，选择和融合不同领域的特征，结合多种特征以提高分类器的泛化性，采用先进的学习策略（如像元学习和可持续学习等），提高检测技术的准确性。

第二，强化平台内容审查的责任。深度伪造技术的全球传播主要依托像是Facebook、Twitter、抖音这样的社交媒体平台，平台企业应通过制定互联网平台规则和服务条款（TOS）协议来建立和更新“技术正当性程序”，加强对虚假内容的审查和删除，承担对网络空间管理的审查责任。在审查环节发现难以确定真伪的音视频，需要对其进行明显标记，发挥用户对内容核查的重要作用。根据深度伪造技术的应用场景，平台应该细化其承担的义务，鼓励深度伪造技术的有益应用，严厉打击恶意使用这类技术的行为。

第三，倡导平台积极承担社会责任。平台企业应强化自身社会责任意识和安全主体的关键责任，保障跨国信息传播的安全，打击跨国网络谣言和犯罪，封停深度伪造的制造者和传播者的账号。互联网平台上丰富的“训练数据”不断提高“深度伪造”技术的能力，而这些训练数据主要来自于各大搜索引擎和社交媒体。平台企业应限制深度伪造程序API 的接入，提高获取“训练数据“的难度，避免假消息利用平台在全球范围内泛滥，维护全球网络空间的安全。例如，谷歌通过算法修改曾经处理过特定搜索请求的返回结果，增加查找某些图片、视频和音频的难度。

（四）引导全球公民社会参与风险治理的全过程

随着深度伪造技术国家安全风险的蔓延，人们开始在政府和市场之外寻找“第三条道路”，全球公民社开始进入人们的视野。全球公民社会是介于国家和市场之间的非政府网络和领域，在国家之外和之上运作，并与国家相互作用互补，以全球意识和全球价值为思想灵魂，国际非政府组织是其主要构成部分①刘贞晔.全球公民社会研究:国际政治的视角［M］.北京:中国政法大学出版社，2015:120.。面对深度伪造技术的负面影响，引导国际非政府组织参与风险治理的全过程势在必行。

第一，培育公民的全球信息素养。国际非政府组织提供全球教育这种公共物品，培养公民的全球信息素养，预防技术可能造成的社会危害。国际开放与远程教育理事会（ICDE）是远程教育最重要的国际非政府学术组织之一，其以举办世界论坛、主题教育等方式来宣传深度伪造技术，使公民理解和使用媒体，审慎地转载和评论信息，快速甄别假消息，增强公民的信息警惕意识，以及提高公民的全球媒体素养。

第二，构建透明的全球监管体系。深度伪造技术是人工智能的前沿技术，应将其纳入人工智能的治理体系中，依托现有的国际非政府组织，加强技术滥用和安全监管等重大国际问题的研究，建立统一且透明的全球监管标准。国际科学理事会（ICSU）是科学界最有权威的国际非政府组织之一，应通过举办国际研讨会，发表关于深度伪造技术存在的问题的国别和全球研究报告，倡导技术向善的伦理价值，监管各国技术的使用和规范状况，发挥其在改善国别治理中的重要作用。

第三，协同建立安全治理共同体。世界妇女组织在实现性别和谐方面具有重要作用，在全球公民网络和公共领域等多种形式和场合，其应与各国政府和跨国企业合作，形成保护女性权利的共同体。国际非政府组织应该作为牵头者，促成各国政府、政府间国际组织、国际非政府组织和跨国公司之间建立伙伴关系，协同建立全球安全治理共同体，加快研发“深度修复”技术和制定法律规范等方面的进程，推进全球深度伪造技术的治理，维护世界的和平与发展。