深度伪造技术的安全风险研究与应对

◆陈雪

（国家计算机网络应急技术处理协调中心吉林分中心 吉林 130000）

深度伪造是指运用机器学习、神经网络等人工智能技术对人的图像、音频开展“学习—模仿”，从视觉角度来说就是一种对视频、图像、声音进行重现、替换、编辑和合成的新型技术，包括语音合成、换脸、表情操纵等[1]。2017年，网名为deepfakes的用户在美国社交新闻网站Reddit上发布了一段由斯嘉丽·约翰逊等知名娱乐明星脸合成的淫秽视频，效果极其逼真，引起社会上广泛关注，“深度伪造”的概念由此进入大众的视线。2019年国内热门的一键换脸APP“ZAO”就是人们最为熟悉的深度伪造产品，网民上传一张带有正脸的照片后就能“出演”影视剧中的角色。深度伪造也是2021年初“蚂蚁呀嘿”热潮的基础。深度伪造技术作为人工智能领域的典型代表，最近几年有了创新性的发展，带来一定益处，同时也带来了许多危害，网络空间安全面临新的风险与挑战。随着网络信息环境的互相作用和有害的认知偏见，思想市场已经遭受了真理衰变，深度伪造将显著加剧这种情况。个人和企业将面临新形式的威胁与侵害。我们的民主政治和国家安全也将面临重大的风险和挑战。因此，加强深度伪造相关技术的研究对维护国家政治、社会安全以及公民在网络空间的合法权益具有重大意义，也可进一步提升网络空间防护能力。

1 深度伪造的发展趋势和潜能

1.1 应用的大众化和终端化

几年前，受深度伪造技术研究的限制，深度伪造工具只在资源丰富并且技术发达的国家应用，但是现在随着伪造技术的迅速发展，使用和获取成本低、门槛低，深度伪造工具廉价且简单易操作，即使用户不具备任何深度学习的知识，也可以让任何能够上网的普通用户随时随地制作虚假图像、音视频等内容，然后利用社交网络、自媒体等平台进行广泛传播。

1.2 算法的平台化

“深度伪造”依靠海量用户数据特别是社交网络媒体数据进行算法训练与优化。深度伪造的目标可以是在网上有着丰富素材的娱乐明星、政客等公众人物，也可以是普通用户群体。深度伪造者可以轻而易举地从社交网络媒体上获取海量的个人照片，以此对他们的算法进行训练与提升，进而用于敲诈勒索和诽谤等目的。深度伪造与社交媒体之间是相互依存关系，社交媒体平台为深度伪造提供数据，深度伪造为社交媒体提供内容信息。深度伪造与社交网络媒体为代表的互联网平台相联合，深度伪造将在日益以平台为基础的环境中深入发展，成为维持对平台控制的新生力量。

1.3 商品化或货币化的潜能

大部分“深度伪造”技术起源于学术界，随后被想要使用这些产品和技术赚钱的初创公司所利用，也就是说深度伪造本身也具有商品化或货币化的潜能。从学术界到商界，深度伪造正成为大买卖、赚钱的工具。积极的一面可以帮助影视制作公司创造更好的影视频效果，更换未发行影片中“负面”演员，给影视制作方损失降到最低；或者用于制作与真实还原历史人物的照片、特定场景特定事件的视频内容，进而来提升人们的感官认知。消极的方面是滥用个人照片、视频等影像资料生成虚假信息内容，对个人隐私、财产安全等构成威胁。

2 深度伪造技术带来的安全风险

2.1 政治安全方面

深度伪造技术被运用在政治领域，可成为毁坏国家形象、破坏国际关系格局的“隐形”新工具[2]。一是，利用深度伪造技术制作关于国家领导人、国家对外部门主要发言人等政治人物的虚假负面图片、音频、视频等信息内容，抹黑其政治形象，必将会破坏其在广大人民群众中的形象，影响政治稳定。二是通过拦截和篡改有关事件的新闻报道，散布不实资讯，必将引发公众对政府机构和新闻媒体的信任危机，破坏政治生态秩序。三是破坏国家之间战略信任关系，威胁着国际关系格局与国家外交安全。

2.2 社会安全方面

对社会稳定造成威胁。深度伪造技术的日益精进使得虚假图片、视频等信息能够以高度可信的形式展现给广大用户，并利用发达的社交网络广泛传播，从而轻易操控网络舆论价值导向，将严重威胁社会公共安全。利用获得方便和操作简单的深度伪造工具，犯罪分子能够创造与传播真假难以区分的不实信息内容，激化社会矛盾，煽动暴力冲突和恐怖活动，造成恶劣后果[3]。现有法律体系尤其是公安、司法机关等取证方面将面临新的挑战与困难，给社会治理带来难度。

2.3 个人和企业方面

带来个人信息安全风险。深度伪造技术可以生成高精度可信的图像和音视频信息，给广大民众的生活将带来新的安全威胁。不法之徒使用深度伪造技术可以轻而易举冒用他人身份信息[4]，甚至可能利用该技术进行污名化个人、打击报复、商业竞争、勒索诈骗等非合规、非合法行为。深度伪造技术的滥用也会对企业的经营活动与形象造成无法预估的消极影响。利用深度伪造技术借用商界领袖的公开演讲影像资料，操纵面部表情和演讲内容，伪造企业高层的负面消息，散布不实信息，必将误导广大民众的合理判断，进而给企业的信誉与经济利益等方面带来影响。

3 深度伪造技术的滥用的应对策略

3.1 鼓励研发深度伪造检测与溯源技术，建立多元互动的风险防控机制

在深度伪造技术日益精进、广泛应用的环境下，多媒体数据真实性检测与信息溯源技术的重要性毋庸赘述。随着深度伪造技术的改进完善，同时发展了与之相应的伪造检测与追踪技术，为了能快速识别和准确地标识深度伪造的产品以及其来源，从而防止负面媒体内容的扩散和传播。当前，在算法方面一些学者与科研院所提出基于图像分割网络、空洞卷积网络、胶囊网络[5-8]等的视频和图片内容检测识别算法；在检测工具方面，RealAI研发的DeepReal能够对不同格式与多种质量的视频和图片进行真假辨识，TruePic与Adobe平台通过提取特征点来判断图片或视频的真假。虽然上述研究取得了一定的成果，然而这些方法还远远不够成熟，目前还没有通用的视频鉴伪网络，且在溯源跟踪领域研究较少。因此政府应加大深度伪造检测与溯源技术科研经费的资助与投入，鼓励各大高校、相关企业第三方检测机构进行技术研究，以应对不断更新。利用区块链、电子认证签名、语义取证等技术，开展研究具有自动化、完整的深度伪造检测与溯源工具，并结合针对性的人工审查机制，构造完善可靠的治理体系与治理结构。

深度伪造风险治理具有复杂性和广泛的社会性，不能依靠单一技术手段就可解决，还需要学术界打破学科之间的阻碍，加强各相关学科之间的交流与合作，及时交换检测与溯源深度伪造内容的研究进展，进而形成一个打击深度伪造的学术共同体与治理合力。强化产业界技术研究与交流、政府部门和民众积极开展有效交流，建立包括政府部门、智库、重点企业、专业技术人员、民众等多方参与的多元一体化深度伪造安全治理体系，构建包括法律规制、伦理监管、行业监管、自律机制的多元互动风险防控机制，从而为人工智能的创新和发展创造良好的生态环境。

3.2 注重安全风险评估，完善监管措施

面对深度伪造技术带来的风险与挑战，必须加强安全风险评估与完善监管措施。一方面应将深度伪造技术纳入新技术新应用的安全风险评估中，根据《网络安全法》、《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》、《个人信息保护法》等要求加强对相关深度伪造技术与应用的安全管理，规范互联网信息服务活动，切实维护国家安全、社会秩序和公共利益。组织开展安全风险评估工作，构建完善的风险防控体系与手段，并对评估过程中发现的安全问题与风险点及时采取有效的整改措施，企业承担起信息内容安全管理主体责任。另一方面，强化政府监督力度与不断完善监管措施。相关企业部门要针对新技术、新应用快速发展的现状，抓紧完善法律的配套制度，提高法律的精准度和可操作性。监管需要结合技术进行一定的治理，对深度伪造软件收集使用用户信息的行为进行评估审查，加强对人脸等个人生物识别信息的保护力度；鼓励督促互联网平台充分利用自身技术优势，承担起个人信息保护、网络安全“闸门”作用，强化对违规违法行为的管理，切实承担起平台治理责任。

3.3 加强国际合作，推进深度伪造的全球治理

随着“深度伪造”这一新兴技术的飞速发展与快速传播，跨国犯罪组织、恐怖组织和其他非常规威胁很可能利用这项先进技术进行策划、筹集资源和实施复杂的恐怖袭击、金融诈骗等严重危害国家社会安全的行为，面对“深度伪造”技术的广泛滥用带来的挑战与危害，任何人任何国家都无法独善其身，人类只有和衷共济、和合共生发展这一条出路，推进深度伪造技术全球治理，符合各国共同利益。必须加强国际合作，在国际层面上进行充分的对话与交流，以应对最为紧迫的问题，构建系统化的全球治理体系，形成使用这一技术共同的国际规范。强化跨境互联网企业特别是跨境社交媒体在管控深度伪造产品上的法律和社会主体责任，确保跨境数据传输安全，严厉打击跨境网络犯罪和网络谣言，严惩谣言的制造者和散布者，不断加强信息内容安全主体责任，创造良好的网络生态，维护世界各国共同的网络空间安全。

3.4 组织开展“深度伪造”宣传教育培训，提高公民网络安全意识和对信息的辨别力

面对错综复杂、真假难辨的网络信息，全民应提高对信息内容的警惕性，用批判的眼光去认知图片、音视频等信息，提升网络安全意识。政府应该加强“深度伪造”技术和产品等内容的宣传与教育工作，让社会各界了解该技术在带来娱乐的同时可能带来的安全隐患，提升人民群众对深度伪造技术和产品的警惕性和批判性思维，加强用户对网络有害信息的鉴别力与防范风险的能力。同时，教育与引导民众不做谣言和有害信息的制造者、传播者。教育与引导民众在社交网络媒体平台上审慎制作和散播虚假图片和音视频等内容；引导公民仔细甄别信息内容的真伪，用批判和质疑的视觉去浏览音视频内容并对“新奇”观点内容进行多方面求索与验证，在转发或评论互联网上内容时要保持审慎的态度，防止成为有害信息的放大器与虚假内容传播扩散的“帮凶”。另外鼓励企业为用户提供技术手段和工具。通过可信的技术手段或工具检测追踪图像、音频、视频等信息内容的原创性和真实性，帮助用户进行辨别并告知用户，使用户能及时知悉信息内容的真伪，进而防止上当受骗与蒙受财产损失。

4 结束语

深度伪造技术是一把双刃剑，在教育、文化、娱乐等领域带来了很多有益价值的同时，技术被滥用的风险也不断凸显，给个人权益、社会稳定乃至国家安全带来严重威胁，带来严重的安全问题，保障网络空间安全对个人、社会、国家来说至关重要。本文针对深度伪造技术滥用带来的安全风险与挑战，提出了加强研发深度伪造检测与溯源技术与建立多元互动的风险防控机制、加强安全风险评估和完善监管措施、推进深度伪造的全球治理、组织开展“深度伪造”宣传教育培训等四项可行的应对策略。