Deepfake加持下短视频类假新闻的演变与治理

翟红蕾 邹心晨

摘 要：人工智能时代，假新闻在Deepfake等新兴技术的影响下不断嬗变，形态也从文本转向音频、视频，这不仅在一定程度上纵容了更多假新闻的产生，也对受众辨别信息的能力提出了更高的要求。但是，技术并没有邪恶之分，媒介技术的革新也不是假新闻出现的根源，当前人类认知能力、道德水平及媒介规范程度跟不上技术的变革，如何借助人工智能技术有利的一面营造良好的内容生态，进而帮助用户提高媒介素养，才是治理假新闻的有效途径，也是当前亟待解决的问题。

关键词：Deepfake;假新闻;深度伪造;人工智能时代

中图分类号：G210  文献标识码：A 文章编号：1672-8122（2020）11-0034-03

一、深度伪造技术下假新闻的升级

（一）假新闻的音频转向

2017年以来，以直播、短视频、智能音频为主导的媒介变革正在悄然改变我们的媒介认知图景。以短视频为例，根据2020年1月6日抖音发布的《2019抖音数据报告》显示：截至2020年1月5日，抖音日活跃用户数已经突破4亿。而中国互联网络信息中心发布的第45次《中国互联网络发展状况统计报告》显示：截至2020年3月，我国网民规模达9.04亿，短视频用户7.73亿，即时通讯用户达8.96亿，特别是社交与短视频开始融合，出现了以音频、短视频、直播等作为新形式的社交产品或功能，如微信的“视频号”、字节跳动推出的小视频社交软件“多闪”、知乎也开通了直播功能[1]。这些都意味着用户的阅读方式已经由文字时代转到读图时代，又在逐渐过渡到观影时代。尤其是在5G技术投入商用之后，不仅信息呈现方式向短视频倾斜，假新闻呈现形态也开始进行短视频转向。

2017年，英国柯林斯词典（Collins Dictionary）选取“假新闻”（Fake news）作为年度热词，并将其定义为：假借新闻报道形式传播的错误、虚假、耸人听闻的信息。杨保军对假新闻的定义为：“假新闻是在性质上相对于‘真新闻存在的一个概念，描述的是在形式上、姿态上完全具备新闻的特征，但实质上没有新闻本质特征（真实性）的‘新闻”[2]。

在传统媒体时代，假新闻的根本特性是新闻事实与信源的虚假性，但在人工智能时代，假新闻的范畴根本不止如此。由于技术赋权、算法偏见的影响，即使有大数据作为支撑，那些没有准确、全面、恰当地报道事实而形成的新闻依然可以被看作是假新闻。

（二）深度伪造（Deepfake）的应用

深度伪造的英文“Deepfake”是由“Deep machine learning”和“Fake photo”组合而成，是柯林斯收录的2019年年度热词之一。deepfake本质是一种深度学习模型，是图像合成、替换的技术框架[3]。作为一种新形态的伪造技术，创作者可以借其篡改视频中人物的面容、声音等信息，从而制作出难以辨别真假的短视频。

视频深度伪造技术也被称为AI换脸技术（AI face swap），具体工作原理与影视后期类似。首先将原视频按帧转化成大量图片，然后再对目标对象的脸部进行替换，最后将替换完成的图片重新渲染合成新视频，而Deepfake技术的加持会使整个过程实现自动化。音频伪造亦是如此，通过Deepfake技术，编码者可以把目标对象的语速、语调、音色等声道信息综合生成为声音模型，然后根据目标对象的声音模型找出声音特征，再依据特征对语音信息进行调整，以此模拟出相应的音频信息。

关于Deepfake技术发展的历史，从2017年Reddit用户“Deepfakes”首次上传换脸视频引发热议，到2019年2月哔哩哔哩Up主将朱茵的脸换成杨幂火爆网络，再到9月份在中国应用市场一夜爆红又被迅速下架的换脸应用“ZAO”，Deepfake技术开始入侵并扰乱正常的传播秩序。

在Deepfake技术出现之前，关于图片造假多是专业人士运用专业软件进行后期加工的手段，但随着技术的普及，随便一台手机都能下载修图软件，而“ZAO”更是将这一技术无限简化，用户仅需要一张正脸照就能进行“AI换脸”成为视频当事人。这意味着传播在初始阶段就开始失真，信息源的造假无疑给假新闻的生产传播提供了便利，更为重要的是，短视频与社交媒体结合后其传播速度加快，同时因为算法自动生成，其制作成本和门槛较低，导致所生产的假新闻不仅内容“逼真”，识别也更加困难。

二、深度假新闻的特征与危害

（一）人工智能时代假新闻的新特征

对于整个社会来说，任何新技术带来的变革与作用都是巨大的。一方面，Deepfake技术在影视文化行业的想象空间极大;另一方面，恶搞、造假使其伴随着肖像权、版权和伦理层面的争议，尤其是在新闻领域，Deepfake技术滥用会造成“深度假新闻”。在Deepfake技术出现之前，假新闻大多以文字呈现，但随着人工智能技术逐渐渗入到短视频生产，如AI主播、ZAO以及Deepfake等有深度学习技能的应用使假新闻呈现出以下新特征。

第一，人工智能技术赋能使假新闻越来越难被识别出来。初代的人工智能技術在新闻领域的造假程度，是依赖使用者或者算法制定者的技术水平，但随着深度学习技术的加入，短视频造假越来越逼真，用户很难在短时间内辨别新闻的真假。

第二，假新闻报道主体泛化，信息源难辨真假。过去新闻报道的主体一般只有专业媒体，如今人人都是信息源的时代，不管是有意无意，即使是用户自娱自乐的传播行为，一旦短视频上传到平台就默认将信息置于公众视野，也随时会成为别人的信息源，而互联网上任何一个传播节点都可能是假新闻的摇篮。

第三，智能媒体在新闻生产以及算法设计运行的各个环节，更容易产生带有偏见的假新闻，而且这种偏见更不容易被察觉。虽说不同新闻APP抓取的数据样本不同，但样本规模、属性以及算法程序也不一定完全客观。算法归结到底还是人工产物，不可避免地会夹杂人的局限和偏见，一旦算法源代码有偏见，则生产或推送的结果也必定含有偏见，那依据这样的人工智能技术所生产的新闻可信度与效度都值得怀疑。

（二）人工智能时代假新闻的危害加成

人工智能時代，大数据、算法技术让新闻内容的生产、推送更加精确;AI主播、写作机器人自动生成内容解放了生产力;物联网技术、5G技术的发展应用也塑造了一个更加智能化的世界。尽管新媒介技术的加持使媒介使用权力不断被下放，信息源更加多元化，内容生产形式与效率被刷新，但也必须认识到用户在阅读、分享各种信息时会更难辨别真假信息，尤其是微博、微信、抖音等新媒体，他们不仅传谣快，辟谣也会更难，识别治理假新闻的成本也就更高。例如，各大组织就格外关注Deepfake在美国大选新闻报道中的应用，因为在2016年美国大选期间，Twitter等社交媒体的信息大战让人记忆犹新，不同利益集团相互指责和控诉对方制造和传播各种虚假信息，在这期间，制造、传播假新闻甚至已经成为了一条“灰色”产业链[4]。

2018年，MIT的三位研究者参考6家事实核查网站提供的标准，对2006至2017年间12.6万条Twitter的真假新闻传播力进行了评估，这是迄今为止最大规模的假新闻实证研究，他们发现假新闻在转发层级、传播人数、扩散范围等多个指标上碾压真新闻，且传播速度至少快6倍[5]。而在人工智能时代，短视频形式的假新闻以智能化的形式进行传播，其更具感染力、更易混淆视听，对新闻业的负面影响也更为巨大。首先，因为假新闻泛滥不仅破坏着媒体自身的公信力，对新闻传播工作人员污名化，而且还会损害国家权力机关在人民心中的形象;其次，假新闻的泛滥破坏了正常的新闻传播秩序，影响人们之间的正常交往，造成社会信任危机;再次，Deepfake等技术在新闻传播领域中的滥用不仅侵犯个人隐私，还败坏社会道德风气;最后，在全球化视野下，一些特殊的假新闻可能会影响正常的国际关系。

三、人工智能时代假新闻出现的动机与治理策略

假新闻作为一种传播现象，它在各个时代、各个国家地区都普遍存在，只不过泛滥程度、具体表现形态、形成原因以及治理的策略会有所不同。中国目前没有单独的新闻传播法，在面对以Deepfake、ZAO为代表的深度伪造技术的智能媒体时，治理假新闻还是要从行业大环境、受众媒介素养、媒体人的职业道德以及相关法律法规等方面着手[6]。

（一）政府要推进对深度伪造技术的预警识别研发、立法与监管

对于政府单位而言，要加大对识别检测技术的资助力度，并加快落实对深度伪造技术与行为的立法监管，明确Deepfake技术滥用责任主体。

首先，避免Deepfake技术滥用造成的危害，关键就是预警识别技术工具的研发，只要预警识别技术领先于伪造技术，假新闻的生产、传播就会得到极大压制;其次，从经验来看，往往先是出现了一种技术的滥用并影响到正常的生活秩序，才会出现相关的政策法规。AI换脸技术诞生于2017年，但我国相关单位在2019年11月29日才针对深度造假技术的滥用印发《网络短视频信息服务管理规定》，《规定》指出在线视频新闻和音频服务的提供者和用户“不得”使用深度学习和虚拟现实等新技术来创建、发布和播放“假新闻”，于2020年1月1日正式生效[7]，这意味着在前两年Deppfake技术的使用并没有受到约束;最后，从源头上防止假新闻的出现，就必须明确滥用Deepfake技术生产主体的法律责任。

（二）传媒界要加强与科技界的合作

虽然，现代信息的繁杂降低了编辑部对真实信息的报道速度，ZAO、Deepfake等应用则加剧了虚假信息的传播，但解铃还需系铃人，面对深度假新闻传媒届也并不是无计可施。传媒界必须要加强与科技界的合作，抓紧研发抑制Deepfake技术滥用的技术工具。2017年人工智能基金会（AI Foundation）开发了一款名为“现实卫士”（Reality Defender）的智能软件用来检测潜在的虚假媒体，工作原理与病毒防护软件类似，在用户浏览网页时不仅会扫描每一幅图像、视频，筛选出媒体平台中的假新闻，还允许用户上报自己浏览过的疑似假新闻，甚至可以使用人工智能驱动的判断技术检测信息是自我演变还是人为生成的痕迹。

（三）用户要提高对信息的警惕和识别深度假新闻的能力

一如打击虚假信息的非营利组织“初稿”（First Draft）负责人Claire Wardle所说：“如果你不能百分之百确定一个视频是真的，请不要分享，不值得冒险”[8]。用户要在接收信息的过程中学会分辩信息的真假，提高识别深度假新闻的能力。

（四）传播平台需要加强内容审核，承担更多的社会责任

作为搭载、传达用户各种信息的平台，具有控制并监测平台信息真实性的责任。假新闻在社交媒体平台上，具有传播速度快、范围广且辟谣难的特点，所以必须强化传播平台的社会责任，在加强内容审核时，还要在相关信息上做好标识，这样才能在传播过程中一定程度上阻止深度假新闻的扩散。

（五）新闻传播工作人员要加强自身素养，坚守新闻伦理

作为新闻传播工作人员，面对Deepfake等深度伪造技术的冲击，一方面，要坚守新闻伦理;另一方面，也要致力于提高自己检验深度假新闻的能力。不管是多重信源核实，还是假借人工智能技术之手，只要能快速检验内容真实性，便能更好地制止虚假信息的传播。

四、结 语

从纸媒、门户网站、新媒体、流媒体再到各种智能媒体，信息载体的形式在不断变化，媒介功能也在不断完善，不断下放到普通用户，但普罗大众也必须意识到，在享受人工智能技术带来便利、推动行业变革的同时也加深了假新闻的泛滥。

基于Deepfake等深度伪造技术实现了短视频的换脸、换声，包括以AI主播为代表的智能机器也开始以独立信源的身份进入新闻传播初始阶段，这在一定程度上冲击了“眼见为实”的常识。虽说Deepfake等深度伪造技术越来越智能，但公众、专业人员鉴别虚假图像和短视频的能力也在不断提高，相关辅助检测技术也在加速迭代，随着“打假”技术的升级以及公众媒介素养的不断提高，相信我们会不断接近那个最理想、最真实的信息世界。

参考文献：

[1]中国互联网络信息中心（CNNIC）.第45次《中国互联网络发展状况统计报告》[R].2020-04-28.

[2]杨保军.认清假新闻的真面目[J].新闻与记者，2011（2）：4-11.

[3]柯林斯词典2019年度热词[EB/OL].https：//www.collinsdictionary.com/word-lovers-blog/new/collins-word-of-the-year-2019-shortlist，580，HCB.html.

[4]史安斌，王沛楠.作为社会抗争的假新闻——美国大选假新闻现象的阐释路径与生成机制[J].新闻记者，2017（6）：4-12.

[5]S.Vosoughi.D.Roy.The Spread of True and False News Online.Science.2018.359（6380）：1146-1151.

[6]匡文波.人工智能时代假新闻的“共谋”及其规避路径[J].上海师范大学学报，2019（4）.

[7]国家互联网信息办公室文化和旅游部国家广播电视总局.网络音视频信息服务管理规定[EB/OL]. http：//www.cac.gov.cn/2019-11/29/c_1576561 820911259.htm，2019-11-29.

[8]Supasorn Suwajanakorn.视频直播.真人的假视频以及如何识别他们[EB/OL].TTV译直播，https：//ttv.cn/archives/3650.

[责任编辑：杨楚珺]