“深度伪造”技术的情报风险及其应对

刘 杰

（华东政法大学刑事法学院，上海 201620）

一、引言

深度伪造技术作为人工智能的重要分支，在给人类生活带来便利和娱乐之时，潜在滥用风险。就目前来看，其被滥用的领域主要集中在政治领域、社会领域和经济领域。比如通过宣传和干预选举等来威胁国家安全；故意制造虚假信息妨害社会公众对政府的信任；引发网络安全问题等等。考虑该项技术被滥用的危险性，美国国防部研究局甚至认为该项技术在一定程度上已经具备了高科技武器的性质，如不加以规制，将给美国的政治传统乃至国家安全带来严重的威胁。[1]国外通过立法等诸多举措对之进行预防和规制，学者也多有探讨和研究。从国内的研究来看，深度伪造的相关研究主要集中在计算机、新闻传播、法律和军事等领域。遗憾的是，对这一与情报密切关联的技术，情报学界相关研究却几乎付之阙如。基于此，笔者将重点围绕深度伪造技术的情报风险展开研究，期望起到抛砖引玉的作用。

一般来说，情报风险包括两个方面：一是“深度伪造”技术给情报工作带来的风险；二是利用该技术充当情报工具，对目标对象实施特定行为而产生的风险。其中前者是技术本身的风险，后者是滥用技术制造的风险。两者之间又具有一定的关联性，具有一体两面的特性。单纯从深度伪造技术来看，因技术本身具有中立性，客观上不存在对情报工作带来直接的挑战，但由于现今大数据时代，数据概念之内涵与外延在逐步发展和泛化，[2]情报搜集范围极大拓展，深度伪造技术制造的“数据”叠加，无疑给情报搜集、分析等工作带来了新的挑战。利用深度伪造技术充当情报工具，则毫无疑问会极大地干扰情报工作的开展，造成不可估量的后果。

二、“深度伪造”技术的情报风险类型

（一）“深度伪造”技术给情报工作带来的风险

1.情报规划风险：制造需求假象。情报规划是开展情报工作的第一步。在情报规划之中往往需要确定客户的情报需求，依据需求拟定相应的选题，选题的确定即意味着对后续情报工作的对象、目标和方向有了较为清晰的描绘。有学者指出，情报规划是“最为重要的，因为其他工作都取决于所制定的规划。”[3]规划是行动的先导，同时也是资源配置的指南。前期规划合理，则有利于最大化地配置情报资源，提高其利用效率，否则会导致情报资源的浪费。从决策科学性的角度而言，所有领域的决策都需要情报先导，以提升决策的科学性和准确性。但由于情报能力和情报资源等的有限性，必须确定情报资源使用的优先等级。所以，情报需求的准确判断与转换，情报资源的合理配置等是情报规划的重中之重。

然而，情报规划本身是一项复杂的工作，需求的识别、选题的拟定、人员的调配、时间和步骤的安排等等皆非轻而易举。深度伪造技术的侵入加剧了情报规划风险。例如情报需求的准确判定是开展情报工作基础中的基础，政府决策部门预购买特定种类的公共服务，则需要首先了解公民的需求，但公民的需求丰富多样，政府购买服务过程中普遍存在着与公民需求不匹配的情形。[4]有学者认为可以运用大数据技术对公民日常的各种留痕数据进行收集、整合、挖掘和分析等，准确了解公民的需求。[5]然而，深度伪造技术的不良影响之下，所谓的“公民的需求痕迹”很容易被伪造，使得看似大规模的“需求表达数据”因缺乏真实性而失去效用。不仅如此，虚假的“需求表达数据”还可能不恰当地吸引政府决策部门的注意力，扰乱科学政策议题的形成和发展过程，最终影响决策乃至执行，尤其如今注意力作为一种有限乃至稀缺的资源时更是如此。

2.情报搜集风险：伪劣开源情报泛滥。情报搜集是开展情报工作中十分重要的基础性工作。搜集而来的信息情报作为后续情报分析的原始材料，是情报分析活动的依据和基础。一般来说，情报搜集需要把握针对性、全面性、系统性、新颖性、可靠性、科学性和计划性等基本原则。[6]且笔者以为，可靠性作为情报搜集原则的重中之重，是确保信息情报客观、真实的必然要求，也是确保情报分析质量、情报产品优良的第一道关口。故该项原则要求所搜集的情报信息必须是客观、真实和准确的，一方面要尽量做到信息来源的权威性，另一方面也要保持信息的原始性等。

可靠性原则对所搜集的情报信息真伪进行了规定。但深度伪造技术首先即传递出“伪造”的特征，以虚假的无中生有的图片、音频、视频等混淆视听，误导公众乃至情报搜集人员。尤其需要警惕的是，大数据时代开源情报日益受到重视，有学者认为，开源情报在实际工作中充当了情报实践的基石，具有基础性价值。它贡献了广阔的资料来源、贡献了情报产品的主要内容、丰富了情报范畴内高效的工具与技术，同时其主体基础也更为广泛。[7]与此同时，大数据时代的开源情报工作也发生了显著的变革，情报搜集的范围从限定情报到全范围情报、敛散特性由封闭性变为开放性、分析人员由固定人员变为专业人员、服务对象由特定人群变为全体人员、处理流程由线性流程变为循环流程等等。[8]在此背景之下，深度伪造技术使得开源情报获取的风险直线上升。一是广泛的嵌入性。开源情报分布在各个领域，深度伪造皆可与之融合侵入。二是开放易得性。开源情报很大程度上突破了传统情报的封闭性，使之变得共享和开放，深度伪造技术的平民化和普遍化趋势使之获取成本非常低廉。一方面部门深度伪造技术代码被公开，模仿者、改变和进步者随之而来，另一方面相关的桌面软件随之问世，制造换脸视频变得异常简单且便捷，用户即使缺乏知识也可以使用。[9]三是对象的不特定性。开源情报之服务对象不在限定于特定人群，而是全体民众，深度伪造技术因其开放易得而指向不特定多数人群，外加新媒体、移动互联网等技术的飞速发展，使得其传播效率极大提升。

3.情报分析风险：毒树之果。情报分析是一项内容广泛的信息加工处理和情报提炼活动，它以大量相关的原生信息为处理对象，通过对原生信息内容的分析、综合或评价，以提炼出对管理、决策等活动有支持作用的情报，为管理、决策等活动服务。情报分析水平是情报学学术水平的重要标志，是“智囊”的主要体现。情报分析水平和能力的高低直接影响着情报工作的质量，继而对决策的科学性和准确性产生影响。

如果说情报搜集是原材料，情报分析则是加工材料的过程。显然，受到污染或损坏的原材料是无法加工成为合格的情报产品的。即所谓的“毒树之果”，原始材料或数据受到污染，很难再保障果实的品质。深度伪造对情报分析不良影响是全方位的。从影响面来说，它波及范围广泛，这也由情报分析的广泛性决定的。情报分析存在于各种领域，如国家安全、执法和商业，以及跨国公司和恐怖组织等非国家行为体之中。[10]从影响“线”来说，它基本上贯穿于情报分析过程的始终，不论是对于搜集而来的原始信息的选择还是整理，鉴别还是评析，分析还是综合，也不论其采用的是定性的分析方法还是定量的分析方法，都将不可避免地受到不良影响。以2018 年发生的“昆山反杀案”为例，尽管最终的结果认定于某明属于正当防卫，无需承担刑事责任，但也有人担忧，“如果没有那段砍人视频引起强烈的舆论，没有这么多人关注，还会是这种结果吗？”[11]遗憾的是，作为定案关键证据的视频，其来源问题至今仍不清楚。试想，如果若干年之后发现该视频是基于深度伪造技术合成——尽管在该案之中，其可能性很低，但依赖此种合成视频形成的虚假证据之危害却是无穷的。时至今日，视频监控系统遍布各个角落，视频侦查亦成为众多案件侦破的重要甚至是主要途径，一旦视频伪造无障碍地流入刑事司法体系，其后果将不堪设想。

4.情报利用风险：误导决策。情报利用的核心即“辅助决策”，打通情报与决策之间的“最后一公里”。一般而言，情报机构以及情报用户评价情报产品的质量往往依据决策所产生的结果。如某市公安局禁毒执法系统对执法质量评价指标之中，以结果为导向，重视打击后形成的战果，对单纯的情报禁毒工作却有所轻视。[12]笔者的研究亦指出，在情报产品质量评估过程之中存在着一种结果逻辑。[13]如此，在深度伪造技术入侵情报领域之后，首当其冲的即是“情报失察”或是“决策失误”。前者是因为情报分析工作乃至情报源头本身即为虚假或伪造，必然影响了情报工作的整个流程；而后者则是基于情报的辅助、支撑等形成的错误决定。

所以，深度伪造侵入之下情报利用的风险主要可能在于：一是错误的“情报”所引致错误的决策；二是长期的错误决策“反馈”至情报机构，将极大地损害情报机构的声誉和组织形象，不利于情报机构和用户之间公共关系之维护；[14]三是情报机构与用户之间基于“信任”纽带所形成的关系状态将受到冲击，双方之间正常关系维系成本增加，情报机构需不遗余力地增强与用户之间的沟通交流，以强化用户对其情报产品质量的认可与信赖；四是为保障情报源以及情报产品的客观性，需强化对情报源以及情报分析的鉴真措施，因此必然会牺牲一定的“及时性”。然而，特定领域情报及时性的丧失即意味着情报功效的丧失。

（二）充当情报工具之风险

深度伪造制品的逼真性、便宜性、易传播性以及难以觉察性使之工具属性价值凸显。恶意使用深度伪造技术制造的风险又因为上述特性使之难以预防、难以察觉、难以控制、难以逆转。同时由于深度伪造制品在移动互联网时代嵌入的全方位性和深入性，使得其风险广为弥散，几乎在任何层面都可能对既有的安定和秩序构成挑战和威胁。笔者以为以下几方面尤为关键。

1.危害国家安全和社会公共安全之风险。情报能够为国家安全决策发挥重要的引领作用，可以帮助决策者分析战略环境，消除环境中的诸多不确定因素。[15]但当深度伪造被滥用为情报工具，将会给国家安全甚至国际局势造成冲突和危机。深度伪造视频已经成为任何国度国家安全的主要挑战之一，因为它让人们说了或做了他们从来没有说过或做过的事情。[16]例如，本已存在紧张关系的两国之间，因为一段看起来可信的，显示其中一国将对另一国某一区域发动袭击的视频或音频流出，而使得两国之间关系变得更为僵硬。或者这种情形发生在民族或种族局势紧张的地区，同样将可能引发冲突。深度伪造技术及其制品完全可能被武器化。[17]恐怖组织及其追随者似乎更有可能对之加以利用，特别是网络恐怖主义成为互联网时代恐怖主义活动发展的新态势之下，深度伪造技术将为“制造传播暴恐音视频”提供更为便利的条件。就其本身的资源拥有情况来看，极端分子和恐怖组织难以制造出具有欺骗性但看起来又真实的视频或音频材料，但利用深度伪造技术，恐怖分子将会针对特定目标散布极具煽动性或挑拨离间性质的音视频，以此达到无中生有、煽风点火的目的。如宣传某国士兵屠杀平民或是商议销毁某一宗教建筑等等，以此来激发矛盾，扩大影响力，拓展其招募能力。[18]再如利用深度伪造技术操纵某一国内的重要政治活动，如重要的战略决策或人事安排等。在2020 年度美国总统选举开始前期，即有大量的议员对可能存在的利用深入伪造视频操控选举表示担忧，认为这可能构成一种新的信息战。如现任众议院情报委员会主席亚当·希夫（Adam Schiff）在内的三名众议院议员9 月份致信美国国家情报总监丹·科茨（Dan Coates），对深度伪造技术“可能很快就会被恶意的外国行为者使用”表示担忧，认为可能威胁到美国的公共话语权和国家安全。同样对于危害社会公共安全而言，深度伪造技术可能在被滥用在大型群众性活动之中，使得其破坏程度更为剧烈。例如大型体育赛事往往人数众多、规模较大、涉及环节多且波及范围广，如使用深度伪造音频故意引发骚乱，将极有可能导致重大人员伤亡。

2.危害社会经济秩序和社会管理秩序之风险。市场经济活动主体需遵循一定的经济准则和行为规范，唯有如此才能保持经济秩序的稳定和持续的良性发展。但深度伪造技术的出现与滥用可能被别有用心的市场主体用来充当竞争情报工具，因其企图通过扰乱竞争对手的正常经营而获取非法利益。有学者对此表达了担忧，如马里兰大学法学教授丹妮尔·西特伦（Danielle Citron）曾警告，深度造假可能对美国企业界构成潜在威胁。如果某家公司在首次公开发行股票的前一天，突然出现了一段深度伪造的视频，内容是该公司的首席执行官正在实施某种犯罪行为，假如这段视频被广泛传播，该公司的股价则极有可能下跌，造成巨大的资金损失。尽管伪造的视频可能会在短时间内被揭穿，但彼时公司的损失已经发生，难以挽回。[19]上述行为的法律实质乃是损害竞争对手商业信誉的行为，而从其侵害的具体法益来看，深度伪造技术还可能被滥用于我国刑法所规定的编造并传播证券、期货交易虚假信息罪、虚假广告罪、金融诈骗如集资诈骗罪、贷款诈骗罪、票据诈骗罪等等诸多的罪名和犯罪行为之中，对社会经济秩序构成严重危害。深度伪造制品同样可能对社会管理秩序造成重大威胁。一国因调整司法活动而形成良好司法秩序即属于此处的社会管理秩序。但深度伪造制品可能对一国之司法活动构成严重危害，从而导致社会公众对于司法活动所秉持的公平、正义等基本价值观念产生怀疑，进而对法律乃至整个司法制度产生不信任感。例如深度伪造技术可能被诉讼参与人用来伪造某种证据形式，如视听资料等可以混淆司法机关对案件事实的认知，进而可能导致冤假错案的产生。对此，有学者警示，在人工智能和深度伪造时代，对视频类证据的真实性必须予以审慎鉴定和采纳适用。[20]更为关键的是，视频类证据还具有言词以及实物等其他类型的证据所不具备的“天然属性”，因为人们往往更加相信他们所看到的（而非听到的）。相关的研究也表明，相较于口头的言词证据，视频证据本身即是一种强大的事实主张和证明形式，更能获得人们的信任，[21]以此导致人们倾向于不再追问该视频是否来源可疑或是被伪造而得。[22]

3.危害公民的人身权利和财产安全之风险。公民的人身权利是公民最基本也是最重要的个人专属性权利。法律尤其是宪法专门开辟章节对公民的基本权利进行了特别的规定，以此彰显其独特价值和崇高的地位。一般来说，公民的人身权利包括生命权、健康权、性的决定权、人身自由权、名誉权以及隐私权等。深度伪造技术的滥用即始于对人身权益的侵害。“深度伪造”一词之由来即是一位Reddit 网络用户创造并用于制造色情视频。在该视频之中，主演《权力的游戏》的艾米莉亚·克拉克（Emilia Clarke）的脸被叠加在了一个成人电影明星的身体上，被打造成一部低级色情作品。同样例子的是印度某女性记者因揭露官员的黑幕而遭遇“色情报复”和死亡威胁，最后不得不住院治疗。[23]时至今日，色情活动仍然是深度伪造被滥用最为广泛的领域之一，被称之为深度伪造色情（deepfake pornography）的泛滥。虽然大多数深度造假作品本质上是色情的，但该技术为任何人的图像都提供了以各种方式被使用的机会。[24]正如迈阿密大学技术法学教授玛丽·安妮·弗兰克斯（Mary Anne Franks）所担忧的，“到明年，我们都可能生活在这样一个世界里，每个人都有自己的假性爱视频”。而令人担忧的是，该项技术不仅蔓延性强，且容易习得。在观看深度伪造色情视频之后，评论人士之间还会互相询问有关“深度造假”技术的问题。一名评论者表示，他想要制作一段前女友的深度伪造性爱视频，但他只有她的30 张照片。他想知道在台式机上使用该项技术是否有效。评论人士之间还会相互引导对方在网络上寻找教程，指导如何制作深度造假视频。[25]所以上述行为可能构成侮辱罪或是传播淫秽物品罪等罪名，侵犯公民合法权益。深度伪造技术滥用使得公民财产面临着更大的安全风险，犯罪分子深度伪造技术制造合成某人的视频或是音频，模拟受害者熟悉的领导或是家人，实施钱财诈骗行为。如《华尔街日报》报道的一家总部位于英国的能源公司首席执行官的被骗经历。他是在和他的老板——德国母公司的首席执行官通电话时被骗的，他按照其命令将22 万欧元款项立即汇入了一名匈牙利供应商的银行账户。期间诈骗犯一共打了三次电话，第一次发起转账，第二次谎称已经报销，第三次要求后续付款。尽管他因为怀疑没有发送第二笔款项，但第一笔款项已经转移，从匈牙利银行账户转移到墨西哥的一个账户，然后再转移到其他地方。[26]可见，深度伪造技术极易被用来实施诈骗行为，损害公民个人或是公司的财产权益。

4.危害国防利益风险。深度伪造技术从其产生之日起即引起了美国国家安全部门和情报部门的高度关注。“情报机构极其关心深伪造技术的兴起”，参议院情报委员会的民主党领袖在一份声明中说。美国国防部通过美国国防高级研究计划局（DARPA），已经委托美国各地的研究人员开始开发检测视频深度造假的方法，与此同时亦实施了一项有竞争力的奖励措施，激励科研人员将之军事化，以便应用于心理战和舆论控制，这无疑是源于该项技术的高度潜在危险性及其强大的破坏性。深度伪造技术的滥用从其可能构成的犯罪情形来看，包括冒充军人招摇撞骗罪、煽动军人逃离部队罪、战时故意提供虚假敌情罪以及战时扰乱军心罪等等，而更为隐蔽的则可能是如上所述的心理战。心理战被认为是一种“实现战略目标的软实力手段”，其在操作上被定义为有计划的行动，向外国目标受众传递选定的信息和指标，以影响他们的情绪、动机、客观推理，并最终影响外国政府、组织、团体和个人的行为。其目的在于降低敌人的士气，从而帮助实现军事目标。目标对象则包括敌方士兵、非战斗的敌方平民以及最终的敌方政府或决策者。[27]选择心理战是因为“语言文字比子弹更加便宜”，即成本更加低廉，而且其效果可能较生理战争更能达到事半功倍的效果。如学者所述，心理战之所以能持续下去，是因为这是一种廉价的选择，有时可能会奏效，而且可能诱使对手投降，而不是继续战斗。[28]深度伪造技术日新月异且鉴别手段相对较为被动的情形下，其高度仿真性、便捷性以及快速演化性使得其完全可能发展成为心理战工具。因为深度伪造完全能制造出“另一个你”，这个“你”不受你的意识控制，却可以向你的社交、生活和工作圈发布本尊从未授意过的信息——不论你是士兵、营长、司令还是总统。[29]

三、应对之策

（一）通过技术进行源头治理

本质而言，深度伪造是人工智能技术发展进步的产物，深度伪造技术带来的情报风险，归根结底是一种“技术风险”——尽管技术具有中立属性，但技术的利用则完全可能因利用人价值观的差异而发生变化，所以相较于“不稳定”的价值观之调控，对“客观中立”的技术进行治理则显得更为贴合实际，更可能产生成效。也因此，对深度伪造技术之风险防控仍然需要依靠技术来解决，可以说通过技术对之进行源头治理是稀释和化解此类风险的关键所在。如当下“溯源防伪”和“反向破解”被认为是应对深度伪造的两种基本技术思路和理念。而还有学者则提出由于区块链技术所具有的高度抗伪造性能，以及可累积性、安全、透明、可追溯方式存储数据的特征，完全可以利用该技术来应对深度伪造风险，因为该项技术本身正被探索作为一种可靠地证明特定产品起源和历史的手段。[30]从这个角度而言，不断提升人工智能等高新技术领域的战略地位，加大该领域重要课题项目设立和经费支持，成为深度伪造技术风险治理的必要之举。此外，还可以通过税收等优惠政策鼓励该领域优势企业强化研发力度，保持领先优势。

（二）通过法律进行制度防控

通过法律的制度防控是有效防止深度伪造技术滥用强有力的保障措施。从目前世界主要国家和地区来看，都对之采取了不同程度的法律规制。例如欧盟适用的《欧盟不实信息实践准则》以及在既有的人工智能规制框架之下，纳入对深度伪造技术的调整与控制。美国的规制法案则更加丰富，从联邦层面的提案到州层面的法案签署，如加利福尼亚州签署了《选举：欺骗性音频和视觉媒体》等等。[31]我国目前对此尚无专门性的立法，相关的法律规范或是较为分散，或是位阶较低。如《治安管理处罚法》《广告法》《刑法》 等与传播“虚假信息”相关的法律，此外《民法典》《个人信息保护法》《网络安全法》等亦对部分情形可以适用。目前正处于征求意见阶段的《数据安全法》待审议发布之后，亦将对其起到重要的规范作用。而2019 年由国家互联网信息办公室联合相关部门发布的 《网络视频信息服务管理规定》，从性质而言属于部门规范性文件，其倡导性意味明显，可操作性有所欠缺。笔者以为，在立法层面上，尽管尚无急需制定专门性法律的需要，但从适用的针对性和便宜性来看，仍有必要整合现有的相关法律规范体系，确保责任性质的准确区分与归属，避免过多地动用刑事法律，对既有的社会秩序造成新的冲击。

（三）通过行业组织进行自我约束

法律是国家以命令的方式提供的行为规范，以强制力为后盾保障规范的实施。行业组织则更多的是平等主体之间的协商共治，共同维护深度伪造技术及其产品的良好市场环境。比较而言后者的优势在于，从反应的速度来看，立法的程序性要求更为严格，更为繁琐，对深度伪造技术滥用情形的认定以及惩罚也更为复杂。行业组织的自律则多了一些灵活性，专业技术组织及人员结成的联合体更能保持对市场变化认知的灵活性和准确度。从治理成本来看，立法通常难以直接全面地干预所有的深度伪造技术滥用行为，且通常具有一定的潜在外部性，但行业组织及人员则可以利用其技术优势，将之转化为经营成本，以此显现出低成本高收益之特征。所以从这个角度而言，挖掘和发挥行业组织及其人员在深度伪造滥用治理中的作用实有必要。例如可以利用行业组织的影响力，倡导制定行为准则或是行动指南，鼓励相关技术企业根据自身特点规范业务流程，强化职业伦理，促进技术研发和利用过程中相关数据隐私和秘密的保护。由行业中代表性组织牵头推进标准化和规范化工作，确保技术利用的合规合法性。

（四）通过宣教提升公众信息素养

深度伪造技术滥用所形成的新闻报道、音视频等，本质上是一种虚假信息。普通的社会公众作为最大的信息接受主体，因不具备相应的技术知识，难以识别。信息素养被认为是治理虚假信息的核心工具，阻止谣言的根本途径也在于提升公众的信息素养。[32]所以在应对深度伪造而形成的虚假信息之时，还应着重提升社会公众的信息素养。具体而言，可以从以下几方面着手：一是制定以及落实信息素养政策。政策不同于立法，政策具有一定的灵活性和直观性，通过一定的宣传手段，更容易让社会公众理解和接受。我国信息素养政策尚不够明朗，通过法律或是行政的手段治理意味仍较为浓厚，应从更为宏观的层面制定相关的政策或是国民信息素养培育计划，明确培育目标和分解培育任务，落实责任主体，细化相关步骤和措施等等，以此逐步推进公众信息素养水平的培育和提升。二是鼓励多元主体广泛参与到信息素养培育及普及工作中来，发动影响力大的知名媒体充分利用技术和经验积极参与其中，发挥图书馆等组织和机构信息优势，通过深入社区、深入课堂、深入一线等方式宣传、引导公众甄别虚假信息的方法，提升信息识别和处理能力。除此之外，社会公众亦需强化批判性思维等能力的自我提升，强化独立思考与分析判断水平。

四、结语

深度伪造技术作为人工智能的分支，其迅猛发展是一柄双刃剑，因而必须在合法合理的范围之内进行发展。未来，深度伪造技术将在情报工作以及情报事业之中扮演更为重要的角色，由此带来的情报风险也将随之增加。为了有效应对此类风险，必须从技术、制度、公众信息素养等方面多管齐下，进行源头治理和防控，确保该项技术给情报工作带来的风险可控，其充当情报工具的风险可控。