基于AI技术伪造网络视频的对策研究

许樱馨 吴童杏 康晖 许欣 陈睿超

【摘  要】作为人工智能和深度学习技术发展的产物，AI技术伪造视频在近几年风靡全球网络。笔者探讨了AI技术伪造网络视频的流程，通过实验验证了AI换脸视频的效果，分析了AI技术伪造网络视频的传播以及其“向善”与“作恶”的两面性，提出了针对AI技术伪造视频对策：学会在技术层面进行判断;建立鉴伪体系不可或缺;引导人文态度势在必行。

【关键词】AI;deepfake;伪造视频;鉴别;对策

引言

随着科技的迅速发展、AI技术的不断成熟，仅使用一张照片就能实现视频人物“换脸”的AI伪造视频风靡全球网络，一个APP、一张照片就可以轻松换脸。然而在搞笑和娱乐的同时，可能产生个人隐私泄露的巨大风险，甚至恶搞政治人物，操纵民意，造成极其严重的社会影响，因此，深入了解AI伪造视频的原理，了解AI伪造网络视频的传播与危害，研究AI技术伪造网络视频对策具有重要意义。

1.AI伪造网络视频的流程

AI伪造视频通常是指使用人工智能（AI）形式的计算机程序深度学习算法被训练用来识别特定人的实际视觉记录中的一种伪造模式。一段视频内容可以通过更换新元素（比如更换别人的脸）来改变，并无缝地将两者结合起来，也就是人们熟知的deepfake。其流程如图1所示。

为了更深入了解其过程，本课题进行了AI替换的网络视频实验，实验过程如下：

（1）选择合适的目标面部视频和替换面目素材视频或多角度照片;

（2）将视频中每一帧提取出来，转化为png格式图片;

（3）利用人脸识别算法将两个视频的所有帧图片的面部识别裁剪出来;

（4）手动筛选删除素材的模糊、识别失败的面部图片;

（5）使用英偉达显卡cuda进行AI学习，并改变学习时间迭代进化次数。实验中经过6小时的gtx 1070挂机学习，生成model模型;

（6）替换人脸。利用模型学习成果，替换目标每一帧图像的人脸;

（7）整合为视频。调整码率15000，帧速率60fps，编码格式h.264 。

（8）实验结果：学习时间迭代进化次数越多，越清晰，loss噪点（失真度）越小;学习时间无上限，可以不断进化，会越来越清晰。

实验结果样图见图2所示。

2.AI伪造网络视频的传播

AI伪造网络视频技术最早出现在2017年，经过3年多来的快速演化，AI伪造视频技术已经发展成为包含以deepfake和Face2Face为代表的PC端软件，以及以Zao和faceapp为代表的移动软件的大家庭，并且随着快手、TikTok（抖音）等短视频平台的迅速崛起，为AI技术伪造视频的传播提供了有力的载体支撑。

尽管如此，大多数国人对于AI伪造视频的缺乏认识。为此，本课题进行了问卷调查，目的是调研大众对AI伪造视频的知悉情况。样本受众群为普通高校学生，社会工薪阶层等，样本容量为200。在调查问卷中，通过统计显示受众是否知道AI伪造网络视频的问题，结果证明，样本受众群对AI伪造的网络视频知悉度较低。结果如图3所示。

大多数国人对于AI视频的认识片面晦涩，AI伪造视频在国内的盛行起步较慢，是从2019年2月开始的。有博主将《射雕英雄传》中朱茵饰演的黄蓉换脸成杨幂，一夜之间，换脸游戏吸引了很多人的关注，随着各种换脸APP的出现，不同的换脸视频在网络上流传起来，仅需要上传一张正脸照片和想要的换脸视频就可以实现AI换脸。

AI伪造视频换脸主要是用于日常娱乐，让人们享受到沉浸式的角色扮演，满足个人的表演欲，它作为一项新兴的技术，带来了趣味性和视觉效果冲击，自由选择的场景和装扮不断吸引着使用者的好奇心，新鲜感使得它迅速传播、不断扩散。此外，AI伪造出来的搞笑视频在网络传播的同时也能促进人与人之间的交流，具有社交分享性这一特征，只需要轻轻点下分享按键，就能够快速转发并与人互动，拓展了AI伪造视频的传播渠道。

3.AI伪造网络视频的“向善”与“作恶”的两面性

如今，科学技术的迅猛发展正在改变着现实中认为“眼见为实”的一切。随着大量“深度伪造”的视频流入日常生活，AI为人们带来快乐的同时，也会轻易蒙蔽他们的肉眼，使他们做不到分辨真假。AI伪造网络视频本身，可以说是一把双刃剑。

AI伪造网络视频有“向善”的一面。AI换脸视频还是非常有趣的。就比如用在影视上，相当于更换了演员，赢得一种新鲜感，更方便满足自己的臆想，又比如把自己或者朋友的脸替换到某个视频上，在私下与朋友分享，这可比P表情包快乐多了，AI更能创造属于自己的温馨回忆，挽回心中的遗憾，发现闪光点。

AI伪造网络视频有“作恶”的一面。调查发现，人们偏向于看到伪造技术的坏处，往往认为伪造技术会侵犯人身权利，使自身信息得不到有效保护等等，图4，图5是本课题进行的问卷调查结果，显示受众对于AI发展相当焦虑。AI伪造视频技术的出现，让视频开始变得难以相信。人们普遍认为视频就能证实事实，而如今视频中的一切却变得模糊起来。对于本来就有大量虚假信息的互联网来说，这必将造成进一步的信任危机。可能那些真正被录下做坏事或说令人反感言论的人更容易指出，这些针对他们的证据都是伪造的，尤其在新闻业，一旦人们知道目前有伪造的视频和音频在传播，即使他们看到的是真实视频，也会开始产生怀疑。AI也会大大侵犯肖像权。与PS修图技术不同，AI伪造视频技术的主要功能就是换脸，从这个层面来看它的出现本来就是一种对肖像权的挑衅。而大部分网站会对AI伪造视频抵触抗拒，肖像权危机就是主要原因。

AI伪造网络视频更大“作恶”的一面是针对国家安全的挑战，也是对政治领域的威胁。例如，2018年一段名为“You Wont Believe What Obama Says In This Video”的AI技术伪造视频突现Youtube热点，视频中，前美国总统奥巴马笑骂特朗普是一个十足的笨蛋，短短一个月该视频达到450万的播放量。其次，是越来越多的AI伪造网络视频软件沦为污化女性、黄色恶搞、发展色情产业的新工具，如演员杨幂换脸视频在短期内微博的阅读量就达到了1.1亿次，除了杨幂之外，在涉黄网站上检索“换脸”一词，女明星迪丽热巴、林允儿、关晓彤、赵丽颖、刘诗诗等人的伪造黄色视频随处可见。

除了面对AI伪造网络视频的“作恶”，还面临着难以辨别机器化作用下产生的伪造视频的难题。如今，人们身处AI技术泛滥的时代，即使面对的伪造视频并不完美，图像有时无法兼容顺畅，但伴随数据训练越来越多，这样的问题将会被改善。如今的趋势下，机器建模需要的相关数据越来越少，将会更加为分辨结果造成阻碍，人们通常难以用肉眼分辨出伪造与正常视频的区别。

4.针对AI技术伪造视频对策

针对AI技术伪造网络视频带来多种危害问题，本文提出几点对策。

4.1学会在技术层面进行判断

视频造假的危害毋庸置疑，所以随意放在网上的视频需要认真去辨别。幸运的是，伪造与证伪的技术总是交互上升的。像是红蓝对抗赛，AI让伪造的成本减低，技术人员也不断在开发更加精密的技术来增强视频的鉴别。学会判别真伪，技术层面主要有以下几点。

（1）规律技巧掌握。制造出“深度伪造”内容的机器学习方式不可逆转，因此难以检测，相对而言，也会总结出一些技巧。模糊处理是一种最常见的方法。比如视频中说话者有一段时间没有动作，眨眼不连贯，或者看上去木讷。研究表明，眼睛和嘴巴往往是一眼认出伪造视频的关键。再比如通过提高视频的色彩饱和度，可以在视频中的面部皮肤检测出人物脉搏画质的差异，由杂乱剪辑合成的虚假视频里血流是不规则或不存在的。除了画质，还有画幅的甄别，也就是视频中的低分辨率，修改过的视频的分辨率也会改变。

（2）训练算法分析。AI除了可以用来伪造视频本身，也可以充当鉴伪的一种手段。科技人员应该注重配套反制技术的研发升级，用伪造视频训练鉴定算法，让算法辨识虚拟痕迹。当AI通过大量的深度學习后，利用神经网络的开源人工智能视频造假检测可以正确区分视频画面里修改过的和未修改过的图像，成功率大致在87 %-98 %区间内。德国慕尼黑技术大学曾研发过一种名为“XceptionNet” 的算法，它能快速发现发布在网上的伪造视频，还可以用来识别互联网上的误导性视频。将算法集成到浏览器或社交媒体插件中，在后台运行，一旦识别出被修改或者操纵的图像或视频，它会给用户发布警告信息，向视频中涉及的人员透露他们被“伪造”了。

现阶段在图像鉴伪上的图像噪声与图像压缩伪像两方面检测为视频伪造鉴定提供了一些宝贵意见，但是由于视频压缩后帧的强烈退化，大多数用于图像的方法都不能直接扩展到视频数字视频，伪造检测仍然是一项艰巨的任务。目前主流鉴定方法主要是使用双JPEG压缩检测本地图像上（将计算机图形与摄影图像区分开来），高斯分布模型（GMM）建模和对抗生成网络（GAN）的模型。随着AI漏洞日渐优化，构建算法难度也日益增加。视频是由成千上万帧图片连放组成的，因此鉴伪工作必须细致到侦测每个像素的改变痕迹，逐帧检验，是一项浩大的工程，任重道远。

4.2建立鉴伪体系不可或缺

（1）建立三阶段应对机制。除了上述这一应对AI伪造最根本的方法之外，有关部门还应尽快建立完善针对AI伪造的三阶段应对机制，主要分为事前、事中、事后三个环节。规范化工作一直是约束新生事物危害性的主力场。首先是事前预防审核机制。在人们上传视频到社交网站时，平台需要重新编码影片，这是个侦测假视频的好时机。平台可以专门成立针对AI伪造视频的网络纠察队，找寻伪造破绽，对容易引发争议的网络视频加以控制，加强网络信息监管和技术应用的网络准入审查力度，将非法行为隔绝在网络准入门槛之外。其次是事中运行管理机制。一直以来，在造假AI与辨别 AI的竞赛中，修补漏洞的同时，伪造技术也会更上一层楼。

不管是人为还是机器鉴别，难免做到百密一疏，对于审核之后的网络视频，建立严格的管理制度的才能发扬其优势，摒弃其糟粕。21世纪的网络科技公司，掌握大量用户信息，被看作“信息受托人”，承担着数字信息时代新的责任，有责任与义务保护用户数据。平台应该大力宣传积极正面的形象化AI替换，坚决抵制低俗恶意地胡乱剪辑。最后是事后兜底惩治机制。关上AI伪造的潘多拉盒子，严格的机构监督也是关键。国家应该从源头加大监管力度，严格精准惩处毁坏公民或者企业形象的虚假视频，对挑衅侵犯权威尊严力量的给予重击，警示他人，构建AI技术领域的纯洁性与公正性。

（2）规范法律规章制度。现阶段AI伪造视频还存在诸多的法律风险，不仅对个人信息，支付安全领域的侵入，各类侵权日益增多的同时，也诱发了诸多刑事犯罪活动。因此，拥有一个理性的法律防范措施对于AI发展的前景极为重要。

由于人工智能换脸技术超越了立法者的预测，现行法变更速度难以跟上人工智能技术演变的速度，存在着滞后性，但该技术并非处于法外之地。拿诽谤罪的例子来说，根据我国相关司法解释，诽谤换脸视频、音频、图片被点开、阅览次数逾越5000次或被转发逾越500次的属于诽谤罪中“非常严重”的情节。法律还应设立针对人工智能的单独立法措施并加大侵权处罚力度，设立分层次的罚赔偿制度，扩大刑法的适用范围。欧盟在2018年就已经出台并了实施《通用数据保护条例》，该条例规定用户享有“被遗忘权”，有权利剔除企业中的个人数据。除了平台自身自觉的审查机制，法律也要建立严格的人工智能技术准入制度，以不触犯法律为衡量标准且限制在一定的范围，设立禁区，以维护社会的秩序和伦理安全。

科技的“向善”还是“作恶”， 多取决于技术的使用人和人们对待技术的态度。人工智能技术与立法齐头并进，在技术、市场和法律治理之间找到平衡点，才能真正使得人工智能技术向安全、可靠、可控的方向发展。

4.3引导人文态度势在必行

科技是冰冷的，人是有温度的，可问题就在于，人文温度真的都是火热的吗？技术的快速发展一直在冲击着人文世界，想象一下，在伪造的视频中，总统候选人行为失当，警察局长煽动暴力，或者士兵崇信战争，结果会如何？对于普通人来说，尤其是女性，这项技术使“色情报复”成为可能，一旦虚假的视频在互联网上疯传，谣言发酵，社会性死亡比比皆是。随着AI伪造视频技术的不断成熟，恶搞成本在大幅降低，全网网民人文素养亟待加强。

网络素养是网民人文素养的外在表现，是人文素养中的网络素质及道德规范。不在网络中人云亦云，不借他人行错发泄消极情绪，不对敏感话题盲目发问，多想多问多看，学会转变思维，是基本的网络素养。因此大力加强未成年人与低学历人的网络素养教育，加强做人的基本品德、非价值观以及知耻、守信、气节方面引导，在全社会倡导优良风尚勢在必行。人们在为技术狂欢的同时，警惕随之引发的问题，通过发挥人的主观能动性，最大程度消除其弊端，使AI换脸技术能够更好地为社会服务。

5.结语

AI技术，正如普罗米修斯当初扔向人间的火种，带来温暖、希望的同时也会带来毁灭。阻断AI伪造网络视频“作恶”，每一个能做到的，不过微薄，真正起作用的，还是众人合力和法律规制。真的希望，在经过技术精英们的拼搏，一键辨假的速度，能追上一键换脸的速度。（通讯作者：万荣春（江苏警官学院刑事科学技术系副教授），通讯作者：蔡璐（江苏警官学院刑事科学技术系讲师））

参考文献

[1]张雅婷.AI视频换脸术的传播伦理审视[J].新媒体研究，2020，6（06）：63-64.

[2]杨燕. 应对“换脸”危机[N]. 经济观察报，2020-09-07（024）.

[3]黄陈辰.大数据时代侵犯公民个人信息罪行为规制模式的应然转向——以“AI换脸”类淫秽视频为切入[J].华中科技大学学报（社会科学版），2020，34（02）：105-113.

[4]技术研究综述[J].信息安全学报，2020，5（02）：1-17.

[5]刘云生. AI“换脸”诱发侵权风险[N]. 深圳特区报，2019-11-26（B07）.

[6]龙坤，马钺，朱启超.深度伪造对国家安全的挑战及应对[J].信息安全与通信保密，2019（10）：21-34.

[7]阿拉斯（Al-alas Mohammed）. 视频伪造检测数据库的构建及其七种伪造检测算法的性能评估[D].华南理工大学，2018.

[8]左荣昌，左师昌.人工智能换脸犯罪的刑法规制研究[J].齐齐哈尔大学学报（哲学社会科学版），2020（07）：96-99+132.

[9]杨丛逊.人工智能时代AI换脸技术对新闻领域的影响[J].传播力研究，2020，4（01）：82-83.

[10]邓志文.主体交流异化与现代迷失——人工智能的精神生态风险[J/OL].北京理工大学学报（社会科学版）：1-10[2020-12-16].http：//kns.cnki.net/kcms/detail/11.4083.c.20200910.1120.002.html.

基金项目：项目支持：江苏警官学院大学生创新创业训练计划项目（创新训练项目）;项目编号：202010329057Y。

作者简介：许樱馨（1999.08-），女，江苏宿迁人，汉族，江苏警官学院大三学生，研究方向为计算机信息与网络安全。

江苏警官学院网络安全与执法系    江苏南京    211800